Pesquisador abandona setor de inteligência artificial

Um pesquisador de inteligência artificial (IA) que trabalhou na OpenAI, criadora do ChatGPT, e posteriormente na Anthropic decidiu deixar o setor. Jacob Coxon, de 27 anos, acusa as duas empresas de “jogar com as nossas vidas” na corrida pelo desenvolvimento de modelos de IA capazes de se autoaperfeiçoar.

Coxon passou os últimos três anos trabalhando no pré-treinamento de modelos de inteligência artificial. Primeiro, atuou na OpenAI e, neste ano, passou a trabalhar na Anthropic, empresa que considerava mais cautelosa.

O pré-treinamento é a etapa em que os modelos de IA absorvem grandes volumes de dados.

Em uma publicação no X, o pesquisador afirmou que pessoas que trabalham na construção de sistemas de inteligência artificial acreditam que a tecnologia pode representar um risco extremo para a humanidade.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década. Isso não é uma jogada de marketing.”

Risco de perda de controle

Coxon afirmou que, nos cenários mais agressivos, a situação poderia sair do controle já no fim do próximo ano.

Segundo ele, um dos principais riscos está na possibilidade de a inteligência artificial passar a se desenvolver por conta própria, tornando-se cada vez mais difícil de controlar.

O pesquisador também afirmou que nenhuma das empresas estaria agindo de maneira responsável ao avançar em direção ao desenvolvimento de uma superinteligência capaz de se autoaperfeiçoar.

Superinteligência é o ponto teórico em que as capacidades de um sistema de inteligência artificial superam a inteligência humana.

“Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, afirmou Coxon.

Executivo da Anthropic também alerta sobre risco

Evan Hubinger, executivo da área de segurança da Anthropic, apoiou as declarações de Coxon.

Segundo Hubinger, existe uma crença dentro do setor de que a inteligência artificial pode representar uma ameaça à humanidade. Ele afirmou que a possibilidade de isso acontecer na próxima década seria superior a 10%.

Hubinger disse que a Anthropic está “fazendo o possível”, mas ainda não possui um plano capaz de garantir que um sistema de IA que supere as capacidades humanas continue obedecendo aos seus criadores.

Ele ressaltou, entretanto, que considera baixo o risco de isso acontecer com os modelos atuais.

Corrida pela liderança preocupa pesquisador

A saída de Coxon acontece enquanto a Anthropic se prepara para estrear no mercado de ações, após um período marcado por invasões não autorizadas realizadas por ferramentas de inteligência artificial durante testes.

Líderes do setor afirmam que o chamado “autoaperfeiçoamento recursivo” está se aproximando. Esse conceito descreve um possível estágio em que sistemas de IA poderiam projetar e treinar uma nova geração de sistemas com pouca intervenção humana.

Coxon considera genuínos os esforços realizados pela Anthropic, mas acredita que nenhuma empresa seja capaz de desenvolver de forma responsável uma inteligência artificial que supere a inteligência humana sem intervenção governamental ou uma desaceleração coordenada.

“Na Anthropic, os riscos envolvidos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro; acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos”, afirmou.

Empresas defendem coordenação e regulamentação

Em fevereiro, a Anthropic retirou de sua carta de princípios de segurança o compromisso de interromper o desenvolvimento de seus modelos caso não conseguisse controlar os riscos relacionados à tecnologia.

A empresa argumentou que, caso suspendesse unilateralmente suas atividades, concorrentes menos cautelosos poderiam dominar o setor, tornando o cenário menos seguro.

No fim de julho, mais de mil profissionais do setor de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, pediram a Washington apoio a uma desaceleração coordenada no desenvolvimento dos sistemas de inteligência artificial mais avançados.

A OpenAI interrompeu por duas semanas, em agosto, o treinamento de seus modelos mais recentes antes de retomar a atividade sob controles mais rigorosos.

Neste domingo, o cientista-chefe da empresa, Jakub Pachocki, defendeu a adoção de “extrema cautela”.

“A coordenação internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade máxima para governos de todo o mundo”, afirmou Pachocki.

Projeto de lei busca regulamentação nos Estados Unidos

Nos Estados Unidos, os modelos de inteligência artificial não são regulamentados por uma legislação federal.

Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto de lei que prevê a suspensão do desenvolvimento de inteligência artificial até a criação de um órgão regulador federal.

The post “Pode matar todos nós”: pesquisador deixa setor de IA e alerta sobre riscos da tecnologia appeared first on Mz Notícias.

ChatGPT ganha versão específica para o mercado financeiro

A OpenAI lançou nesta quinta-feira (10) uma versão do ChatGPT desenvolvida especialmente para profissionais do setor financeiro. O ChatGPT for Financial Services foi criado para atender principalmente demandas de bancos de investimento e equipes de análise de ações.

A nova ferramenta combina o modelo GPT-6 Astra com bases de dados financeiras e recursos voltados para pesquisa, análise e elaboração de materiais utilizados por empresas do setor.

O desenvolvimento contou com a participação do Morgan Stanley e da Evercore, que atuaram como parceiros de design durante a criação do produto.

Ferramenta reúne dados financeiros em um só ambiente

Uma das principais características da nova solução é a integração com diferentes fornecedores especializados em informações financeiras.

Entre as bases disponíveis estão dados da LSEG, PitchBook, Daloopa, Crunchbase, Quartr e LSEG News, incluindo transcrições de resultados, demonstrações financeiras, fundamentos de empresas e notícias.

A OpenAI afirma que essas informações são indexadas em sua própria infraestrutura, com o objetivo de facilitar a localização dos dados e melhorar a possibilidade de rastrear e citar as fontes utilizadas nas respostas.

A LSEG, por sua vez, é distribuidora exclusiva de notícias da Reuters, além de oferecer dados financeiros e alertas em tempo real para profissionais do mercado.

IA poderá ajudar na criação de modelos e materiais

O produto foi pensado para tarefas que fazem parte da rotina de profissionais de bancos de investimento e análise financeira.

Entre as possibilidades estão a realização de pesquisas em diferentes fontes, construção de modelos financeiros e produção de materiais destinados a clientes, utilizando inclusive modelos e padrões próprios de cada empresa.

A OpenAI também informou que pretende ampliar a quantidade de dados financeiros disponíveis e continuar treinando seus modelos para interpretar e utilizar essas informações em atividades que tradicionalmente exigem conhecimento especializado de analistas.

Empresas poderão conectar assinaturas que já possuem

A ferramenta também permite que companhias aproveitem bases de dados às quais já têm acesso.

Segundo a OpenAI, assinaturas existentes poderão ser conectadas por meio de integrações com plataformas como FactSet, S&P Global, Preqin e Datasite.

A estratégia reduz a necessidade de concentrar todas as informações em uma única fonte e permite que profissionais trabalhem com dados já utilizados pelas próprias instituições.

GPT-6 Astra é o motor da nova plataforma

O ChatGPT para serviços financeiros utiliza o GPT-6 Astra, modelo apresentado pela OpenAI como sua geração mais avançada.

De acordo com a empresa, o Astra foi desenvolvido para melhorar tarefas como recuperação de informações, raciocínio financeiro e precisão na geração de conteúdo. O modelo também foi projetado para trabalhos profissionais complexos e pesquisa.

A OpenAI vem ampliando o uso do Astra em diferentes áreas profissionais, com disponibilização gradual para organizações e usuários de determinados planos e produtos.

Segurança ganha importância no setor financeiro

Como o novo produto será utilizado por instituições que lidam com informações sensíveis, a segurança e o controle sobre os dados são pontos centrais da plataforma.

A versão voltada ao setor financeiro inclui recursos como controle de acesso por função, criptografia e exportação de registros de auditoria, mecanismos pensados para atender às necessidades de empresas submetidas a exigências de governança e conformidade.

Expansão deve alcançar outras áreas

Inicialmente, o produto tem foco em atividades como banco de investimento e pesquisa de ações. A estratégia da OpenAI, porém, é ampliar gradualmente a solução para outras áreas dos serviços financeiros.

A empresa também pretende incorporar novas fontes de dados e aumentar a capacidade dos modelos de interpretar informações específicas do setor.

Com isso, a companhia busca transformar o ChatGPT em uma ferramenta mais integrada às rotinas profissionais de instituições financeiras, indo além de uma IA de uso geral.

The post OpenAI lança ChatGPT para setor financeiro com dados de grandes plataformas appeared first on Mz Notícias.