“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.

O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.

“Concordo com Dario que precisamos marcar o ritmo da fronteira. Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, escreveu Sam Altman logo em seguida.

“Dario está certo”, escreveu o trilionário Elon Musk.

Amodei também pediu que auditores independentes acompanhem e verifiquem os padrões de segurança das companhias. Segundo o site de tecnologia The Information, Anthropic, OpenAI e Google discutiram secretamente a criação de um órgão para estabelecer padrões de segurança em IA.

“De fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas, então a preocupação é legítima. Será que estamos indo rápido demais e os humanos podem eventualmente perder o controle quando milhares de agentes de IA começarem a agir com certo grau de autonomia?”, analisa ao g1 Diogo Cortiz, especialista em IA e professor da PUC-SP.

Para ele, é muito difícil saber o que é legítimo nesse discurso e o que é apenas uma estratégia para proteger o próprio mercado e a indústria.

“Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história”, completa.

Segundo Cortiz, há outros fatores que ajudam a explicar a preocupação com o ritmo de desenvolvimento da IA:

• Os Estados Unidos enfrentam um desafio energético para sustentar toda a IA que prometem desenvolver, enquanto o ritmo de construção de data centers está mais lento do que gostariam.
• O retorno sobre os investimentos está mais lento do que o esperado para justificar novos aportes no setor.
• Os modelos de IA chineses estão ganhando espaço na adoção global e são mais baratos do que os norte-americanos. Em muitos casos, oferecem capacidade semelhante por um custo bem menor.
• Propor uma regulação mais dura pode dificultar a entrada de novas empresas no mercado e favorecer as que já estão na liderança, aumentando a concentração do setor.

“Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo […] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam”, afirmou Trump.

“Forças hostis” abusam de tecnologias generativas de IA para “fabricar rumores políticos e espalhar informações prejudiciais”, escreveu o ministro da Segurança do Estado, Chen Yixin, em um artigo publicado online no domingo.

Em seu texto, Amodei defende uma colaboração entre empresas de “países democráticos” e aconselha “não vender chips de IA potentes ou equipamentos de fabricação de semicondutores para a China”.

Ele diz que “as medidas aumentam a influência das democracias e tornam um acordo [com a China] mais provável no futuro”.

Nesta segunda-feira, o porta-voz da Comissão Europeia, Thomas Regnier, disse que o bloco é a favor do desenvolvimento da inovação em IA, mas que as empresas precisam comprovar que seus serviços são seguros.

Já o primeiro-ministro britânico, Andy Burnham, vê como positivo o debate entre as principais empresas de IA sobre os riscos da tecnologia para o futuro da humanidade, afirmou seu porta-voz. Segundo ele, as decisões sobre o tema precisam se basear em evidências.