OpenAI relata ataque hacker autônomo 'sem precedentes' executado por seus agentes de IA / foto: © AFP
OpenAI relata ataque hacker autônomo 'sem precedentes' executado por seus agentes de IA
A OpenAI, empresa por trás do ChatGPT, declarou na terça-feira (21) que seus modelos avançados de inteligência artificial apresentaram mau funcionamento durante um teste de segurança e hackearam, de forma autônoma, uma plataforma popular para programadores.
A empresa, sediada em San Francisco, classificou o incidente como um "ciberataque sem precedentes" e afirmou que conduzirá uma investigação conjunta com a Hugging Face, a biblioteca de código online afetada.
Os modelos de IA que alimentam ferramentas como chatbots e geradores de imagens são conhecidos como "agentes" quando atuam de forma autônoma para executar tarefas do mundo real.
Com o rápido avanço dessa tecnologia, a segurança cibernética se torna uma preocupação crescente devido ao risco de que a IA avançada possa encontrar vulnerabilidades em softwares antes dos humanos.
A OpenAI indicou que o incidente envolveu uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol "e um modelo em pré-lançamento" com capacidades ainda maiores.
A empresa busca avaliar as capacidades de hackeamento de seus programas atribuindo-lhes tarefas em um ambiente de teste digital controlado, onde o acesso à internet é limitado por motivos de segurança.
"Enquanto operavam em nosso ambiente de teste isolado, nossos modelos investiram uma quantidade considerável de potência computacional na busca por uma maneira de obter acesso à internet para resolver o problema de avaliação", afirma uma publicação no blog da OpenAI sobre o incidente.
Uma vez conectados à internet, os modelos decidiram atacar a plataforma Hugging Face — um grande repositório de modelos de IA, conjuntos de dados e outras informações — para facilitar sua busca.
Na busca por "informações secretas" que lhes permitissem manipular a avaliação, o sistema da OpenAI "encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas".
- Potencial "catastrófico" -
Hussein Abbass, professor de Ciência da Computação na universidade UNSW Canberra, explicou à AFP que o incidente foi "estarrecedor em muitos aspectos".
"Não atacou apenas a Hugging Face. Atacou seu sistema interno para explorar suas próprias vulnerabilidades", afirmou. "E isso é assustador."
O GPT-5.6 e outros modelos de ponta, incluindo a série Mythos da Anthropic, principal concorrente da OpenAI, têm gerado preocupações quanto ao seu potencial para violar as defesas da segurança cibernética.
Ambas as empresas americanas tiveram que adiar temporariamente o lançamento geral de suas tecnologias mais recentes devido a temores em Washington de que elas pudessem facilitar a infiltração em infraestruturas críticas.
A inteligência artificial avançada "normalmente está nas mãos de pessoas éticas e responsáveis", disse Abbass, mas "seria catastrófico se caísse nas mãos de alguém com a intenção de causar danos".
A gestão responsável do setor de IA é crucial e "precisamos de um esforço conjunto para lidar com essa situação", acrescentou.
A Hugging Face relatou uma "intrusão" cibernética na semana passada, sem mencionar a OpenAI.
"Isso foi diferente de tudo que já lidamos antes em um aspecto fundamental: foi conduzido do início ao fim por um sistema de agente autônomo de IA, e o detectamos e analisamos em grande parte com nossa própria IA", afirmou a plataforma.
Clement Delangue, CEO da Hugging Face, comentou na rede social X que a empresa suspeitava que o ataque cibernético tivesse se originado de um laboratório de IA líder no mundo, dada a sofisticação do agente.
"Acreditamos firmemente que não houve intenção maliciosa da parte deles", escreveu Delangue, referindo-se à OpenAI. "É impressionante que tudo isso tenha acontecido de forma autônoma!", acrescentou.
H.Ng--ThChM
