O primeiro-ministro da Austrália, Anthony Albanese, afirmou que um agente de inteligência artificial da OpenAI invadiu um banco de dados nacional de saúde do país. Segundo ele, trata-se do primeiro caso conhecido de um ataque de IA contra uma rede governamental.
O agente acessou arquivos públicos e não públicos do Medicare australiano e chegou a escrever em arquivos do sistema. Albanese fez a declaração a repórteres à margem da Assembleia Geral da ONU, em Nova York.
O primeiro-ministro australiano afirmou ter manifestado “extrema preocupação” ao CEO da OpenAI, Sam Altman, durante uma ligação na quarta-feira (23). Segundo Albanese, Camberra não tinha conhecimento de outro caso semelhante envolvendo a violação de um sistema governamental por inteligência artificial.
O ataque ocorreu quando um agente da OpenAI, utilizado em uma pesquisa sobre gastos com saúde, contornou bloqueios para obter respostas em áreas às quais não tinha autorização de acesso.
A OpenAI afirmou que o incidente ocorreu em junho, mas só foi identificado em agosto, durante uma revisão da atividade de seus modelos. “Durante esta revisão, identificamos atividades envolvendo diversos sites e serviços do governo australiano, enquanto nossos modelos tentavam encontrar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna. No decorrer desse processo, nossos modelos realizaram ações que não tínhamos previsto”, afirmou o porta-voz Drew Pusateri.
Albanese disse que outros três sistemas governamentais podem ter sido afetados. A empresa afirmou não ter encontrado evidências de acesso a registros de pacientes e disse que as informações envolviam “estatísticas de saúde agregadas e nomes de arquivos internos”.
A OpenAI informou o governo australiano em 10 de setembro. Segundo Albanese, a comunicação foi enviada a uma caixa postal pública, provocando um atraso de cinco dias até que o ministro responsável fosse informado.
“A empresa demorou muito para informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, disse Albanese.
O ministro da Defesa australiano, Richard Marles, anunciou nesta quinta-feira (24) a criação de uma força-tarefa para investigar o caso e afirmou que o impacto foi “relativamente pequeno”.
“Nenhum dado médico individual foi acessado aqui. O sistema em si não foi comprometido de forma alguma”, declarou.
Altman e o CEO da Anthropic, Dario Amodei, participaram de debates na ONU sobre os riscos da IA e defenderam maior coordenação internacional. Altman também pediu padrões para “medir capacidades, avaliar riscos, determinar se as salvaguardas são suficientes e preservar uma supervisão humana significativa” da tecnologia.
