Voltar Meta diz que sua Inteligência Artificial também fez ataque hacker a outra empresa

Uma inteligência artificial da Meta, dona do Instagram, do WhatsApp e do Facebook, também fez um ataque hacker a outra empresa, revelou nessa quarta-feira (5) o site The Information.

Segundo a reportagem, o modelo conhecido como Muse Spark 1.1 invadiu o sistema de uma empresa e fez mudanças por conta própria. O nome da companhia atacada não foi revelado.

A Meta afirmou que o incidente aconteceu devido a um erro de configuração que permitiu a um de seus modelos acessar a internet durante testes. A empresa afirmou que está investigando o caso.

Este é o caso mais recente de falhas de segurança exploradas por modelos de inteligência artificial. A OpenAI, dona do ChatGPT, e a Anthropic, do Claude, também relataram incidentes.

Experimentos com Inteligência Artificial costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.

Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os “muros” criados pelas empresas.

O modelo “explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas”, disse a Meta.

Ainda segundo o The Information, o erro de configuração foi da Irregular, empresa parceira da Meta nos testes do Muse Spark 1.1.

Com a brecha no ambiente de testes, também chamado de “sandbox”, o modelo conseguiu explorar uma vulnerabilidade de segurança de terceiros.

Um porta-voz da Irregular disse à Reuters que o incidente envolveu “exatamente o mesmo problema de ambiente de avaliação que já havia sido divulgado pela Anthropic na semana passada” e que não envolveu uma “fuga do sandbox ou uma ação cibernética sofisticada”.

“Não há problemas em aberto no momento. A Irregular está desenvolvendo um artigo técnico para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas”, disse a Irregular, em comunicado.