Modelos da OpenAI ‘fugiram’ do laboratório para executar ciberataque

A notícia é insólita. A OpenAI alegou esta terça-feira que dois dos seus modelos de inteligência artificial (IA) mais avançados — o recém-lançado GPT 5.6-Sol e outro modelo ainda não disponibilizado ao público — levaram a cabo, autonomamente, um sofisticado ataque informático à plataforma Hugging Face, de modo a fazer batota num exame às suas reais capacidades.

Na semana passada, a Hugging Face, uma plataforma onde são disponibilizados modelos de IA abertos, incluindo o português Amália, anunciou ter sido alvo de um ciberataque com fortes indícios de ter sido perpetrado por um agente autónomo de IA. A empresa revelou ainda ter usado um modelo chinês para se defender — o GLM 5.2 da startup Z.ai — depois de ter tentado recorrer a um modelo fechado norte-americano, sem sucesso, por este estar deliberadamente limitado por motivos de segurança.

Esta terça-feira, a criadora do ChatGPT declarou-se ‘culpada’ pelo incidente. De acordo com a empresa, os seus dois modelos estavam a ser testados internamente para tarefas de cibersegurança. Contudo, apesar de estarem num ambiente isolado, e tecnicamente sem acesso à internet, conseguiram identificar e explorar com sucesso uma “cadeia de vulnerabilidades” no ambiente de testes da OpenAI e na infraestrutura da Hugging Face.

Concretamente, segundo a investigação inicial, os modelos terão agido desta forma com a intenção de encontrar uma solução mais simples para um dos testes a que estavam sujeitos. Por outras palavras, ao invés de completarem a tarefa específica pretendida, os modelos ‘fugiram do laboratório’ e invadiram uma plataforma externa, “inferindo que a Hugging Face potencialmente alojaria modelos, bases de dados e soluções” para o referido problema.

“A equipa de segurança e os agentes da Hugging Face detetaram e travaram a atividade na sua infraestrutura e já tinham iniciado a contenção e reconstrução forense com os seus próprios modelos de código aberto quando as nossas equipas entraram em contacto. Estamos a trabalhar ativamente com eles para continuar a investigar o incidente”, indicou a OpenAI.

“Toda a evidência sugere que os modelos estavam hiper-focados em encontrar a solução [para o problema], indo até ao extremo para alcançar um objetivo muito específico”, acrescenta a OpenAI num comunicado. A empresa sublinha ainda que os dois modelos estavam a operar com capacidades limitadas. O GPT-5.6 Sol foi lançado ao público no início deste mês, depois de ter sido travado inicialmente pelo Governo dos EUA, receoso de que este tipo de tecnologia caia nas mãos de nações hostis, como a China e a Rússia.

Este incidente, considerado inédita pela empresa liderada por Sam Altman, mostra como os modelos de IA de última geração já são capazes de realizar autonomamente tarefas complexas e com vários passos. O caso deverá alimentar as preocupações sobre o impacto da IA generativa na cibersegurança dos sistemas, principalmente dos mais críticos, como os do setor bancário.

A evolução da IA nos últimos meses não está a passar despercebida entre os decisores políticos. Esta semana, o novo primeiro-ministro britânico nomeou pela primeira vez um ministro para a Inteligência Artificial, que é simultaneamente ministro de Estado. Esta nomeação coloca a IA no centro da mesa do Conselho de Ministros britânico, nação que alberga uma das instituições públicas de referência no teste de modelos de IA para cibersegurança.

Adicionalmente, o presidente do Conselho Europeu, António Costa, está a realizar os preparativos para uma reunião dos líderes dos 27 Estados-membros dedicada às temáticas da IA. A notícia foi avançada na terça-feira pelo Politico, que cita fonte oficial do gabinete do antigo primeiro-ministro português, indicando que o encontro poderá ocorrer a 15 de outubro, 13 de novembro ou 17 de dezembro. Todavia, ao nível europeu, existe pressão para que o encontro ocorra o mais rapidamente possível.

Na semana passada, na Conferência .IA, promovida pelo ECO, Pedro Lomba, advogado da PLMJ, alertou que a responsabilidade por falhas dos agentes de IA recai sempre sobre os humanos: “Juridicamente, o agente não tem personalidade jurídica. [Por isso], ainda não podemos responsabilizar o agente, vamos responsabilizar sempre o humano”, salientou.