Especialista que trabalhou na OpenAI e na Anthropic afirma que empresas estão em uma corrida pelo desenvolvimento de sistemas capazes de se autoaperfeiçoar

Pesquisador abandona setor de inteligência artificial

Um pesquisador de inteligência artificial (IA) que trabalhou na OpenAI, criadora do ChatGPT, e posteriormente na Anthropic decidiu deixar o setor. Jacob Coxon, de 27 anos, acusa as duas empresas de “jogar com as nossas vidas” na corrida pelo desenvolvimento de modelos de IA capazes de se autoaperfeiçoar.

Coxon passou os últimos três anos trabalhando no pré-treinamento de modelos de inteligência artificial. Primeiro, atuou na OpenAI e, neste ano, passou a trabalhar na Anthropic, empresa que considerava mais cautelosa.

O pré-treinamento é a etapa em que os modelos de IA absorvem grandes volumes de dados.

Em uma publicação no X, o pesquisador afirmou que pessoas que trabalham na construção de sistemas de inteligência artificial acreditam que a tecnologia pode representar um risco extremo para a humanidade.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década. Isso não é uma jogada de marketing.”

Risco de perda de controle

Coxon afirmou que, nos cenários mais agressivos, a situação poderia sair do controle já no fim do próximo ano.

Segundo ele, um dos principais riscos está na possibilidade de a inteligência artificial passar a se desenvolver por conta própria, tornando-se cada vez mais difícil de controlar.

O pesquisador também afirmou que nenhuma das empresas estaria agindo de maneira responsável ao avançar em direção ao desenvolvimento de uma superinteligência capaz de se autoaperfeiçoar.

Superinteligência é o ponto teórico em que as capacidades de um sistema de inteligência artificial superam a inteligência humana.

“Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, afirmou Coxon.

Executivo da Anthropic também alerta sobre risco

Evan Hubinger, executivo da área de segurança da Anthropic, apoiou as declarações de Coxon.

Segundo Hubinger, existe uma crença dentro do setor de que a inteligência artificial pode representar uma ameaça à humanidade. Ele afirmou que a possibilidade de isso acontecer na próxima década seria superior a 10%.

Hubinger disse que a Anthropic está “fazendo o possível”, mas ainda não possui um plano capaz de garantir que um sistema de IA que supere as capacidades humanas continue obedecendo aos seus criadores.

Ele ressaltou, entretanto, que considera baixo o risco de isso acontecer com os modelos atuais.

Corrida pela liderança preocupa pesquisador

A saída de Coxon acontece enquanto a Anthropic se prepara para estrear no mercado de ações, após um período marcado por invasões não autorizadas realizadas por ferramentas de inteligência artificial durante testes.

Líderes do setor afirmam que o chamado “autoaperfeiçoamento recursivo” está se aproximando. Esse conceito descreve um possível estágio em que sistemas de IA poderiam projetar e treinar uma nova geração de sistemas com pouca intervenção humana.

Coxon considera genuínos os esforços realizados pela Anthropic, mas acredita que nenhuma empresa seja capaz de desenvolver de forma responsável uma inteligência artificial que supere a inteligência humana sem intervenção governamental ou uma desaceleração coordenada.

“Na Anthropic, os riscos envolvidos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro; acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos”, afirmou.

Empresas defendem coordenação e regulamentação

Em fevereiro, a Anthropic retirou de sua carta de princípios de segurança o compromisso de interromper o desenvolvimento de seus modelos caso não conseguisse controlar os riscos relacionados à tecnologia.

A empresa argumentou que, caso suspendesse unilateralmente suas atividades, concorrentes menos cautelosos poderiam dominar o setor, tornando o cenário menos seguro.

No fim de julho, mais de mil profissionais do setor de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, pediram a Washington apoio a uma desaceleração coordenada no desenvolvimento dos sistemas de inteligência artificial mais avançados.

A OpenAI interrompeu por duas semanas, em agosto, o treinamento de seus modelos mais recentes antes de retomar a atividade sob controles mais rigorosos.

Neste domingo, o cientista-chefe da empresa, Jakub Pachocki, defendeu a adoção de “extrema cautela”.

“A coordenação internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade máxima para governos de todo o mundo”, afirmou Pachocki.

Projeto de lei busca regulamentação nos Estados Unidos

Nos Estados Unidos, os modelos de inteligência artificial não são regulamentados por uma legislação federal.

Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto de lei que prevê a suspensão do desenvolvimento de inteligência artificial até a criação de um órgão regulador federal.