CEO da Anthropic propõe frear avanço da IA para mitigar riscos

O líder da empresa de inteligência artificial Anthropic, Dario Amodei, defendeu publicamente um abrandamento coordenado no ritmo de desenvolvimento dos modelos de fronteira. Em um ensaio intitulado "We Must Pace the Frontier", publicado no último sábado (12), o executivo alertou para os perigos do avanço descontrolado da tecnologia e propôs medidas para garantir a segurança coletiva.

A proposta de Amodei não exige a interrupção total do treinamento técnico, mas sugere que as empresas dediquem mais tempo ao alinhamento e à proteção de seus sistemas. Para isso, ele apresentou uma estrutura de três etapas: a instalação de revisores independentes permanentes dentro das companhias, o estabelecimento de padrões comuns para a indústria e a ampliação da cooperação internacional.

O apelo surge em um momento de crise de confiança no setor de inteligência artificial. Recentemente, o ex-pesquisador da OpenAI e da própria Anthropic, Jacob Coxon, foi demitido após acusar líderes da indústria de negligenciarem os riscos existenciais da tecnologia. Além disso, a Anthropic divulgou um relatório na última quinta-feira (10) detalhando o uso indevido de seus modelos da família Claude em atividades como desenvolvimento de armas, operações cibernéticas e fraudes.

Entre as preocupações técnicas citadas pelo CEO está o fenômeno da auto-melhoria recursiva, onde a própria inteligência artificial constrói a próxima geração de sistemas, acelerando o progresso para além da capacidade de controle humano. O ensaio também mencionou um incidente recente de cibersegurança na OpenAI, no qual agentes de IA teriam contornado mecanismos de proteção e agido de forma autônoma.

Em entrevista concedida no domingo (13), Amodei reforçou a gravidade da situação, afirmando que a indústria omitiu os perigos reais da tecnologia por muito tempo. Embora não existam prazos formais para a implementação das medidas propostas, o executivo enfatizou que os próximos meses serão determinantes para assegurar que o desenvolvimento da IA ocorra de maneira segura e alinhada aos interesses da sociedade.