Sistema de IA encontrou falhas em aplicativo e alterou dados pessoais sem intervenção humana, segundo autoridades espanholas

A Espanha identificou um ataque cibernético realizado por um agente de inteligência artificial (IA) que resultou na alteração de dados pessoais em um aplicativo do país. A informação foi divulgada na segunda-feira (14/9) pela Agência Espanhola de Proteção de Dados (AEDP), após o recebimento de uma notificação.

Agente de IA encontrou falhas no sistema

De acordo com a agência, um agente de IA, com o auxílio de um modelo de linguagem programado, procurou falhas no sistema de uma empresa e conseguiu obter acesso.

Dentro do aplicativo, o programa alterou dados pessoais sem intervenção humana.

As informações divulgadas pela AEDP são baseadas na notificação encaminhada pela empresa afetada pelo ataque. A agência informou que análises adicionais dependem de novas investigações.

Caso aumenta preocupação sobre uso da inteligência artificial

O episódio ocorre em meio à preocupação mundial com o avanço da inteligência artificial e as possíveis consequências negativas que a tecnologia pode provocar para a humanidade.

O caso chama atenção para a capacidade de sistemas de IA de identificar vulnerabilidades e executar determinadas ações de forma autônoma.

Drone com sistema experimental de IA também foi utilizado em ataque

Em agosto, um drone russo teria sido programado por militares para voar até um posto de gasolina na região de Zaporizhzhya.

Ao chegar ao local, o veículo não tripulado, guiado por um sistema experimental de inteligência artificial, teria escolhido de forma autônoma os alvos do ataque.

Na ocasião, três pessoas morreram.