A companhia norte-americana Anthropic, responsável pelo desenvolvimento da inteligência artificial (IA) Claude, identificou tentativas de uso de sua tecnologia por países hostis ao Ocidente, como Rússia, China, Irã e Iêmen, para produzir propaganda, desenvolver drones de guerra e realizar pesquisas relacionadas a possíveis armas biológicas. Segundo a companhia, o acesso ao produto foi bloqueado em todos os casos detectados.
As informações constam em um relatório da Anthropic obtido pelo jornal The New York Times (NYT). O documento descreve diferentes usos considerados maliciosos dos modelos de IA, incluindo suspeitas de monitoramento de opositores exilados por parte da China e do Irã.
Um dos casos destacados envolve a Rússia, que teria utilizado o Claude para produzir propaganda disfarçada de reportagens jornalísticas, com o objetivo de influenciar as eleições na Moldávia.
Segundo o relatório, a Anthropic também identificou pesquisas relacionadas à biologia que poderiam ter aplicações tanto legítimas, como o desenvolvimento de vacinas, quanto ilegítimas, incluindo a criação de patógenos. Diante da impossibilidade de determinar a finalidade das pesquisas, a empresa afirmou ter optado pelo bloqueio do serviço como medida de precaução.
A companhia não divulgou detalhes sobre os bloqueios relacionados às pesquisas sobre possíveis armas biológicas. Não foram informados os nomes dos pesquisadores ou das instituições envolvidas, seus países de origem ou os agentes biológicos investigados.
O The New York Times destacou que a possibilidade de modelos avançados de IA facilitarem o desenvolvimento de patógenos conhecidos ou inéditos está entre as principais preocupações de especialistas sobre a evolução da tecnologia.
A Anthropic também foi alvo de críticas nesta semana após Jacob Coxon, ex-funcionário da empresa, acusar a companhia e a OpenAI, criadora do ChatGPT, de “brincar com as nossas vidas”.
Coxon, britânico de 27 anos, trabalhou durante três anos com pré-treinamento, etapa em que modelos de IA processam grandes volumes de informações. Em uma publicação na rede social X, afirmou que as empresas não estariam atuando de forma responsável.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu.
Coxon acrescentou: “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”.
