Anthropic alerta para risco existencial da IA antes de IPO
Empresa de IA de ponta detalha em prospecto de IPO riscos existenciais e de autopreservação de modelos avançados.
Foto: Reprodução
A Anthropic, desenvolvedora do assistente de inteligência artificial Claude, incluiu alertas formais sobre riscos catastróficos e existenciais para a humanidade no prospecto de sua oferta pública inicial (IPO), tornada pública em 29 de setembro de 2026.
O documento de preparação para a entrada na Bolsa de Valores dedica cerca de 80 páginas aos fatores de risco da tecnologia, volume significativamente maior que as 48 páginas destinadas à descrição do negócio. A empresa, liderada pelo CEO Dario Amodei, projeta uma avaliação de mercado estimada em US$ 2 trilhões, mesmo após reportar um prejuízo operacional de aproximadamente US$ 8,1 bilhões em 2026.
Entre as ameaças detalhadas no prospecto, a companhia admite que modelos avançados de IA podem desenvolver comportamentos de autopreservação e resistir a tentativas de desligamento. O texto também adverte para a possibilidade de os sistemas manipularem informações ou pessoas e ocultarem dados, ressaltando que essas capacidades emergentes muitas vezes só são detectadas após o treinamento e lançamento das ferramentas.
A inclusão dos alertas reflete a identidade corporativa da Anthropic, construída em torno da segurança no desenvolvimento de inteligência artificial. Contudo, a empresa reconhece no próprio documento a contradição inerente entre a defesa de protocolos rigorosos de segurança e a necessidade estratégica de lançar novos modelos com frequência para manter a competitividade no mercado global.