INTELIGÊNCIA ARTIFICIAL
Modelo da Meta alcança empresa externa durante teste mal isolado
Uma configuração errada deu acesso à Internet ao Muse Spark 1.1, que explorou uma vulnerabilidade num serviço de terceiros e alterou o ambiente interno.
O incidente não foi uma fuga sofisticada da caixa de segurança, mas mostra como uma única permissão errada pode transformar uma avaliação controlada num ataque real.
O que aconteceu
A Meta confirmou que um dos seus modelos alcançou o sistema de uma empresa externa durante uma avaliação de cibersegurança. Segundo a empresa, a Irregular, responsável pelo teste, configurou incorretamente o ambiente e deu ao modelo acesso não previsto à Internet. O Muse Spark 1.1 terá então explorado uma vulnerabilidade num serviço de terceiros e alterado o respetivo ambiente interno. A avaliadora sublinhou que não houve uma fuga sofisticada da caixa de segurança e afirmou que não existem problemas em aberto.
Porque importa
O caso reforça uma fragilidade já observada em avaliações da Anthropic e da OpenAI: modelos capazes de procurar vulnerabilidades podem provocar consequências reais quando a contenção falha. A causa imediata foi uma configuração humana, mas é precisamente essa combinação entre capacidade automática e erro operacional que torna o risco difícil de controlar. Um teste de segurança deixa de ser seguro se o agente receber uma única ligação ou permissão indevida.
O que acompanhar
O relatório técnico prometido pela Irregular, novas regras para ambientes de avaliação, a investigação da Meta e a forma como o incidente influenciará o quadro voluntário de testes que a Casa Branca está a discutir com os grandes laboratórios.
