Executivos de grandes empresas de tecnologia dos Estados Unidos passaram a defender maior cautela no avanço da inteligência artificial (IA), diante dos riscos associados ao desenvolvimento acelerado da tecnologia. O movimento ganhou força após um texto publicado por Dario Amodei, CEO da companhia norte-americana Anthropic, responsável pela IA Claude.
“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.
A posição também recebeu apoio de executivos de empresas concorrentes da Anthropic, como Sam Altman, CEO da OpenAI, criadora do ChatGPT, Elon Musk, proprietário do X e da xAI, e Demis Hassabis, presidente do Google DeepMind.
“Concordo com Dario que precisamos marcar o ritmo da fronteira. Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, escreveu Altman.
“Dario está certo”, afirmou Musk.
Amodei também defendeu que auditores independentes acompanhem e verifiquem os padrões de segurança adotados pelas empresas. Segundo o site The Information, Anthropic, OpenAI e Google discutiram secretamente a criação de um órgão para estabelecer padrões de segurança para a IA.
A defesa de maior cautela ocorre após episódios que ampliaram as preocupações sobre o controle da tecnologia, incluindo relatos de ataques realizados por sistemas de IA. Na semana passada, um pesquisador que deixou a OpenAI para trabalhar na Anthropic abandonou a indústria e acusou as duas empresas de “brincar com as nossas vidas”.
“De fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas, então a preocupação é legítima. Será que estamos indo rápido demais e os humanos podem eventualmente perder o controle quando milhares de agentes de IA começarem a agir com certo grau de autonomia?”, analisou ao Portal G1 Diogo Cortiz, especialista em IA e professor da PUC-SP.
Segundo Cortiz, é difícil determinar quanto desse discurso decorre de preocupações legítimas e quanto representa uma estratégia para proteger o mercado e as empresas líderes. Ele também apontou desafios energéticos nos EUA, retorno sobre investimentos abaixo do esperado, avanço dos modelos chineses e o risco de uma regulação mais rígida aumentar a concentração do setor.
O presidente dos Estados Unidos, Donald Trump, criticou neste domingo (13) os defensores de maior cautela no desenvolvimento da IA. Segundo ele, os críticos levantam cenários que não devem ocorrer e podem prejudicar a liderança norte-americana no setor.
“Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo […] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam”, afirmou Trump.
