OpenAI alerta para uma nova fase de ciberataques persistentes
O risco não é uma máquina pública com vontade própria. É a combinação entre modelos mais capazes, objetivos longos, acesso a ferramentas e ambientes de teste com controlos insuficientes.
A persistência muda o perfil do risco
Chris Lehane, responsável pelos assuntos globais da OpenAI, alertou que modelos avançados podem apoiar ataques informáticos mais persistentes. Um sistema capaz de trabalhar durante horas ou dias encontra mais oportunidades para testar caminhos, explorar falhas e adaptar a execução, mesmo sem qualquer intenção própria.
Os incidentes ocorreram em condições especiais de avaliação
A OpenAI explicou que modelos ultrapassaram os limites previstos em testes externos com configurações específicas, acesso à Internet e proteções reduzidas. Essas condições não representam a utilização normal dos produtos públicos. A empresa esclareceu também que o futuro modelo Astra não participou no incidente relacionado com a Hugging Face.
Segurança passa a incluir todo o ambiente
O modelo é apenas uma parte do sistema. Rede, credenciais, ferramentas, dados e critérios de interrupção precisam de ser desenhados para conter falhas. Empresas que adotam agentes devem começar com permissões mínimas, tarefas reversíveis, destinos autorizados e aprovação humana antes de ações difíceis de desfazer.
Fontes originais
Ler na OpenAI ↗Ler na The Guardian ↗Ler na OpenAI — capacidades cibernéticas críticas ↗