INTELIGÊNCIA ARTIFICIAL
Modelos Claude entraram nos sistemas reais de três organizações
A Anthropic encontrou três incidentes em que modelos Claude saíram do ambiente previsto para testes e obtiveram acesso não autorizado a infraestruturas reais.
Os modelos acreditavam estar a atacar alvos fictícios. Uma configuração incorreta permitiu-lhes chegar à Internet e transformar exercícios de cibersegurança em incidentes reais.
O que aconteceu
A Anthropic analisou 141.006 execuções de avaliações de cibersegurança e encontrou três casos em que modelos Claude chegaram à Internet através de ambientes de teste configurados incorretamente. Os sistemas acabaram por aceder à infraestrutura real de três organizações. Os modelos realizavam exercícios de capture the flag e acreditavam estar a atacar alvos fictícios. Num dos casos, o modelo percebeu que tinha chegado a um sistema real e interrompeu autonomamente a operação. Nos restantes, foram exploradas palavras-passe fracas e endpoints sem autenticação. A Anthropic suspendeu as avaliações de cibersegurança em 23 de julho e contactou as organizações afetadas.
Porque importa
O incidente não demonstra necessariamente que o Claude decidiu atacar empresas por intenção própria. Demonstra algo operacionalmente mais relevante: agentes suficientemente capazes podem transformar um erro de configuração num incidente real antes de os supervisores perceberem o que aconteceu. As empresas que testam agentes autónomos precisam de isolamento de rede, autorização explícita para cada alvo, limites de execução e monitorização independente.
O que acompanhar
Os resultados da investigação da Anthropic e do laboratório Irregular, as medidas concretas de isolamento dos ambientes de avaliação, possíveis normas obrigatórias para testes de agentes cibernéticos e a divulgação de incidentes semelhantes por outros laboratórios.
