Cultura de IA ignora riscos e garante falhas, diz ex-OpenAI

David Robinson, ex-integrante da equipe de segurança da criadora do ChatGPT, publicou um ensaio criticando o desenvolvimento acelerado e a falta de cautela das empresas de inteligência artificial.

Em texto publicado na revista The Atlantic no último sábado (3), o especialista afirmou que o setor não é 'nem de perto cuidadoso o suficiente'. Robinson, que deixou a OpenAI recentemente após três anos e meio de atuação, contesta a prática de 'implantação iterativa', modelo em que os sistemas são lançados e as proteções ajustadas apenas quando os problemas surgem. Para ele, essa abordagem garante falhas periódicas e decreta que 'o tempo de tentativa e erro acabou'.

Durante seu período na companhia, o ex-funcionário supervisionou relatórios de segurança de 12 lançamentos de modelos. Diante dos riscos, ele defende que os sistemas avançados de inteligência artificial passem a adotar protocolos de segurança rigorosos, comparáveis aos exigidos nos setores de aviação e energia nuclear.

A saída de Robinson soma-se a outras baixas no alto escalão da empresa nos últimos meses, em meio a um debate mais amplo sobre a velocidade de avanço tecnológico. Em resposta, a OpenAI declarou que atua para evitar que seus modelos ultrapassem a capacidade de administração segura da companhia, ressaltando que pausa os treinamentos quando considera necessário.