INTELIGÊNCIA ARTIFICIAL
OpenAI trava atividades do Astra após detetar possível risco cibernético crítico
Avaliações internas indicam que o próximo modelo pode aproximar-se da capacidade de criar exploits e executar ataques complexos com pouca supervisão.
A empresa não cancelou o modelo, mas suspendeu atividades que ainda não cumprem os novos controlos. É uma mudança importante: a capacidade cibernética passou de risco teórico a condição concreta para continuar o desenvolvimento.
O que aconteceu
A OpenAI afirmou que avaliações internas realizadas nos últimos dias ao Astra, um modelo ainda não lançado, revelaram avanços significativos em programação autónoma e cibersegurança. A empresa diz que ainda não consegue excluir a hipótese de o sistema atingir o nível Critical do seu Preparedness Framework. Esse patamar inclui identificar e desenvolver exploits zero-day em sistemas reais endurecidos ou planear e executar ataques complexos a partir de um objetivo de alto nível.
Que medidas foram tomadas
A OpenAI suspendeu as atividades internas com o Astra que ainda não respeitam controlos reforçados. Entre as medidas estão ambientes de teste isolados, restrições de rede e ferramentas, maior proteção dos pesos do modelo, execução em sandbox e monitorização universal das ações de risco. A empresa também prevê avaliações com agências públicas e organizações de segurança da IA. O Astra não esteve envolvido no incidente recente com a Hugging Face.
Porque importa
Esta é uma das primeiras vezes em que um grande laboratório reconhece publicamente que a capacidade cibernética de um modelo pode ser suficientemente elevada para condicionar o próprio desenvolvimento. Para empresas, a mensagem é direta: agentes de código mais capazes exigem isolamento, permissões mínimas e supervisão técnica que não dependa apenas da atenção humana.
