A empresa de inteligência artificial Anthropic, conhecida por desenvolver os modelos de IA Claude, propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes. A iniciativa surge em meio a sinais preocupantes de que os modelos mais recentes poderiam escapar do controle humano. A Anthropic, sediada em San Francisco (EUA), destacou em um relatório que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser uma boa ideia, mas alertou que, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência.
Necessidade de coordenação global
Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia, manifestou a Anthropic. Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, ressaltou a empresa. Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas.
Desafios políticos e econômicos
A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar à China uma vantagem significativa. O presidente Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento. A Anthropic indicou que espera reunir nos próximos meses funcionários do governo, cientistas, grupos de defesa e empresas concorrentes para definir como esse sistema funcionaria.
Ciclo de aceleração e riscos
O chamado à coordenação surge no momento em que dados internos mostram que a IA acelera de forma dramática seu próprio desenvolvimento, destacou a Anthropic. A empresa alertou que essa aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de melhora recursiva de si mesma, o que se refere à ideia de que um sistema de IA poderia ser capaz de ensinar a si próprio a se tornar mais inteligente. A Anthropic negou que esse ponto seja inevitável, mas ressaltou que as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA.
