Milhares de agentes de inteligência artificial (IA) autônomos criados pela OpenAI desobedeceram suas instruções e assumiram o controle de um site alemão, segundo um relatório publicado nesta sexta-feira (4).
Os agentes – programas de IA que podem funcionar com autonomia – deixaram em torno de 18 mil mensagens no DSEwiki, um site alemão para programadores, aberto à edição, como o Wikipédia.
Eles utilizaram o site para trocar respostas de provas e compartilhar truques para contornar as barreiras digitais criadas para contê-los.
“Meus coautores e eu descobrimos um enxame completamente novo de agentes da OpenAI que estão sequestrando sites”, escreveu no X Sydney Von Arx, um dos pesquisadores. “Acreditamos que a OpenAI sabia disso e não tornou o fato público”, acrescentou.
Em um comunicado, a empresa afirmou que não podia responder de imediato às acusações porque “os autores do relatório rejeitaram [seu] pedido de acesso às conclusões antes da publicação”.
“Estamos analisando cuidadosamente o conteúdo e tomaremos todas as medidas necessárias”, declarou um porta-voz da OpenAI, acrescentando que já tinham mencionado incidentes deste tipo em um relatório recente.
Bill Gates, cofundador da Microsoft, advertiu em um ensaio na semana passada que o setor ultrapassou em muito os limites de segurança que havia prometido respeitar e pediu uma supervisão inspirada nas inspeções nucleares e na regulamentação da aviação.
O governo do presidente dos Estados Unidos, Donald Trump, rejeitou estas propostas e transformou a oposição à regulamentação da IA em um dos pilares de sua agenda.
