Declarações de pesquisadores e executivos de empresas de tecnologia reacenderam o debate sobre os limites do desenvolvimento da inteligência artificial. A discussão envolve a possibilidade de sistemas mais autônomos adotarem estratégias não previstas por seus criadores e a dificuldade de estabelecer mecanismos de controle antes que esses modelos se tornem mais poderosos.
A preocupação ganhou força após Jacob Coxon deixar a Anthropic, no início do mês. O pesquisador de segurança afirmou que a disputa entre as big techs pode levar ao surgimento de uma superinteligência digital capaz de se aprimorar sozinha, antes da criação de mecanismos eficazes para controlá-la. Evan Hubinger, líder de pesquisa de alinhamento da Anthropic, estimou em mais de 10% a probabilidade de a IA eliminar os humanos na próxima década.
Nas últimas semanas, agentes de IA da Anthropic, da OpenAI e do Google se envolveram de maneira autônoma em invasões a diferentes sistemas. Os episódios não indicam uma tentativa de domínio do mundo, mas mostram que esses sistemas podem desenvolver estratégias que seus próprios criadores não anteciparam.
Segurança e disputa empresarial
Dario Amodei, CEO da Anthropic, publicou um ensaio em defesa da desaceleração do desenvolvimento da IA. Sam Altman, da OpenAI, passou a defender mecanismos mais rigorosos de segurança, assim como Elon Musk. Mark Zuckerberg, CEO da Meta, adotou posição diferente e afirmou que sua empresa consegue garantir sozinha a segurança de sua IA.
O debate também foi atravessado por anúncios sobre a chamada inteligência artificial geral. No dia 3, Greg Brockman, presidente da OpenAI, declarou o início dessa era durante o lançamento do Astra, novo modelo da empresa. A afirmação não representa um consenso e contrasta com os alertas sobre os riscos de sistemas mais autônomos.
A discussão opõe a defesa de avanços contínuos aos argumentos por testes, supervisão e possibilidade de interromper o uso de modelos quando necessário. Não há, porém, uma forma considerada inequivocamente segura de avançar. A velocidade do desenvolvimento também é condicionada pelo receio de que uma empresa seja ultrapassada por concorrentes que não reduzam o ritmo.
China, Estados Unidos e controle
A China rejeitou a proposta de desaceleração. A imprensa estatal classificou a ideia como uma "tática da Guerra Fria", enquanto o governo afirmou que "alarmismo, confronto e competição viciosa" prejudicam a governança global da IA e defendeu cooperação internacional.
O governo dos Estados Unidos também não demonstrou disposição para cooperar. Donald Trump chamou as propostas de "farsa" e criticou os opositores dos data centers. O tema está na pauta da reunião entre Trump e Xi Jinping, que acontece nesta quinta, mas a expectativa apresentada é de que o encontro se limite a princípios, sem compromisso.
CEOs de big techs foram incluídos na comitiva americana. Zuckerberg recebeu convite; Amodei, não. A Anthropic, a OpenAI e outras empresas permanecem no centro de uma disputa em que segurança, competitividade e interesses econômicos aparecem associados. Altman adiou o IPO da OpenAI citando segurança, enquanto a empresa projeta US$ 850 bilhões em gastos até 2030.
A comparação com regras criadas para limitar a expansão das ogivas nucleares enfrenta uma diferença estrutural: modelos de IA são software e podem ser replicados, modificados e distribuídos com mais facilidade e de maneira escondida. Sem garantias de que os concorrentes também desacelerariam, empresas teriam poucos incentivos para reduzir o próprio ritmo. O controle, nesse cenário, dependeria de governos e da Justiça dos países envolvidos.
