Por que empresas que aceleraram a corrida da IA agora defendem pisar no freio; entenda o que está por trás disso
Executivos de grandes empresas de tecnologia passaram a defender uma pausa no avanço da inteligência artificial para tornar o desenvolvimento da tecnologia mais seguro. O movimento ganhou força após um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pela IA Claude.
“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.
O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.
“Concordo com Dario que precisamos marcar o ritmo da fronteira. Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, escreveu Sam Altman logo em seguida.
“Dario está certo”, escreveu o trilionário Elon Musk.
Amodei também pediu que auditores independentes acompanhem e verifiquem os padrões de segurança das companhias. Segundo o site de tecnologia The Information, Anthropic, OpenAI e Google discutiram secretamente a criação de um órgão para estabelecer padrões de segurança em IA.
REPERCUSSÃO: Trump minimiza riscos, China vê ameaças e UE pede segurança
A defesa por mais cautela também ocorre após uma série de episódios que levantaram preocupações sobre o controle da tecnologia nos últimos meses, incluindo relatos de ataques realizados por IA.
Além disso, na semana passada, um pesquisador que deixou a OpenAI para trabalhar na Anthropic abandonou a indústria de IA e acusou as duas empresas de “brincar com as nossas vidas”.
“De fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas, então a preocupação é legítima. Será que estamos indo rápido demais e os humanos podem eventualmente perder o controle quando milhares de agentes de IA começarem a agir com certo grau de autonomia?”, analisa ao g1 Diogo Cortiz, especialista em IA e professor da PUC-SP.
Para ele, é muito difícil saber o que é legítimo nesse discurso e o que é apenas uma estratégia para proteger o próprio mercado e a indústria.
“Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história”, completa.
O que está por trás do discurso
Segundo Cortiz, há outros fatores que ajudam a explicar a preocupação com o ritmo de desenvolvimento da IA:
- Os Estados Unidos enfrentam um desafio energético para sustentar toda a IA que prometem desenvolver, enquanto o ritmo de construção de data centers está mais lento do que gostariam.
- O retorno sobre os investimentos está mais lento do que o esperado para justificar novos aportes no setor.
- Os modelos de IA chineses estão ganhando espaço na adoção global e são mais baratos do que os norte-americanos. Em muitos casos, oferecem capacidade semelhante por um custo bem menor.
- Propor uma regulação mais dura pode dificultar a entrada de novas empresas no mercado e favorecer as que já estão na liderança, aumentando a concentração do setor.
Trump critica quem pede cautela