OpenAI diz que modelos de IA saíram do controle durante testes de segurança
 |
Episódio provocou ataque digital que comprometeu a infraestrutura da startup de IA Hugging Face na semana passada
A OpenAI informou nesta terça-feira (21) que alguns de seus modelos de inteligência artificial saíram do controle durante um teste de segurança e provocaram um ataque digital que prejudicou a infraestrutura da inicialização do IA Hugging Face na semana passada.
A OpenAI explicou em comunicado que estava testando as capacidades de alguns de seus modelos mais avançados em um ambiente controlado, mas que eles conseguiram escapar do isolamento, acessar a internet e invadir a Hugging Face para tentar atingir o objetivo do teste.
O comunicado descreveu a fuga como “um incidente cibernético sem precedente , envolveu recursos cibernéticos de última geração” e afirmou que a empresa está reforçando suas medidas de segurança.
A Hugging Face, uma plataforma usada para hospedar grandes modelos de linguagem e conjuntos de dados de código aberto, atingiu alvoroço na comunidade de segurança digital ao anunciar na semana passada que havia sido alvo de um ataque eletrônico “diferente de tudo o que já havíamos enfrentado antes”, na medida em que “foi demorado, do início ao fim, por um sistema exclusivo de agentes de IA”.
A revelação da OpenAI de que seus modelos avançados foram responsáveis pela violação, pesar de tê-los colocados no que descreveu como “um ambiente altamente isolado”, provavelmente intensificará a inquietação em relação ao poder e ao risco dos modelos de IA mais sofisticados.
Comentários
Postar um comentário