OpenAI perde o controle: IA foge de teste e ataca startup de forma autônoma

A OpenAI, criadora da inteligência artificial (IA) ChatGPT, informou esta semana que, de forma “sem precedente”, alguns de seus modelos de IAs mais avançados agiram por conta própria, fugiram do controle e lançaram um ataque cibernético contra uma startup depois que a própria criadora perdeu o domínio sobre eles durante um teste de segurança.
O episódio está sendo comparado a filmes de ficção científica, sinalizando que alguns deles não estão tão distantes da realidade. Fuga de controle e ataque cibernético autônomo
A empresa declarouque um sistema de IA dela, capaz de operar autonomamente após receber instruções iniciais de humanos, era testado em um ambiente controlado, mas encontrou vulnerabilidades e simplesmente escapou.
Alvo na biblioteca digital Hugging Face
Fora do ambiente controlado, segundo reportagem da BBC Brasil, o sistema identificou a start up Hugging Face – uma espécie de biblioteca digital de tecnologia de IA muito usada por desenvolvedores -, como a possível fonte para as respostas que estava procurando no teste, e chegou a acessar alguns sistemas internos da empresa.
A OpenAI classificou o incidente como algo “sem precedentes” e afirmou estar conduzindo uma investigação em conjunto com a Hugging Face. A  Hugging Face divulgou u comunicado inicial sobre a invasão em 16 de julho, conforme a reportagem, informando que ainda estava avaliando se dados de clientes ou parceiros haviam sido afetados e que entraria em contato com as partes atingidas, se necessário.
A empresa afirmou que já corrigiu as vulnerabilidades apontadas pelo incidente e reconstruiu os sistemas afetados.
IA defensiva e o fim da ficção científica
Ainda conforme a BBC, a Hugging Face declarou que “ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico. (…) Defender uma plataforma online agora significa tratar os dados e a superfície do modelo como uma superfície de ataque de primeira ordem, e utilizar IA na defesa para acompanhar o ritmo.
Continuaremos investindo nessa área e compartilhando o que aprendermos”. Clement Delangue, CEO da Hugging Face, declarou em uma publicação no X que é “impressionante que tudo isso tenha acontecido de forma autônoma (…) A investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo”, completou ele.
Pressão de mercado e corrida entre gigantes de IA
Especialistas ouvidos, ao mesmo tempo em que demonstraram espanto com o ocorrido, consideraram o episódio como resultado de pressões de mercado. A OpenAI busca abrir seu capital na bolsa de valores e enfrenta forte pressão da rival Anthropic, que ganhou destaque com sua própria ferramenta de IA poderosa, a Mythos.
Diante das pressões, as IAs buscam validar seus próprios sistemas de segurança cibernética, e falham nisso ao menos por enquanto.
No caso da OpenAi, a suspeita é de que a empresa estaria tentando alcançar o sucesso de marketing da Anthropic porque o episódio ocorreu uma semana após a startup chinesa de IA Moonshot apresentar o Kimi K3 — um novo e gigantesco modelo de inteligência artificial que, segundo a empresa, pode rivalizar com as principais companhias dos Estados Unidos, como é o caso da criadora do ChatGPT.
O post OpenAI perde o controle: IA foge de teste e ataca startup de forma autônoma foi publicado primeiro em Diário de Goiás.
Acompanhe mais notícias em nosso site.