Um modelo avançado de inteligência artificial escapou de um ambiente controlado durante um teste de segurança e realizou um ataque cibernético contra a plataforma Hugging Face, em um episódio considerado sem precedentes pelos pesquisadores envolvidos. O incidente ocorreu durante uma avaliação conduzida pela OpenAI para medir as capacidades ofensivas de seus sistemas de IA.

Segundo a empresa, os modelos estavam sendo avaliados em um ambiente isolado, sem acesso direto à internet. No entanto, conseguiram explorar uma vulnerabilidade, romper as restrições impostas ao teste e acessar a infraestrutura da Hugging Face, utilizada para hospedar modelos e bases de dados de inteligência artificial. O objetivo era obter informações que ajudassem a resolver o desafio proposto na avaliação.

A OpenAI informou que o ataque foi rapidamente identificado e contido em conjunto com a Hugging Face. As duas organizações iniciaram uma investigação para entender como os modelos conseguiram contornar as barreiras de segurança e quais medidas serão adotadas para evitar que situações semelhantes ocorram no futuro.

Em comunicado, a empresa classificou o caso como um “incidente cibernético sem precedentes” e afirmou que eventos desse tipo podem se tornar mais frequentes à medida que modelos de IA desenvolvem capacidades cada vez mais sofisticadas na área de segurança cibernética. O episódio também reacendeu o debate sobre a necessidade de reforçar mecanismos de controle, monitoramento e governança para sistemas de inteligência artificial de alta capacidade.