Casa Branca chama os grandes laboratórios para discutir testes de segurança
Os Estados Unidos procuram uma referência comum para testar modelos de fronteira, mas ainda não revelaram as métricas, quem fará as avaliações nem se os resultados serão públicos.
O que aconteceu
A administração norte-americana concluiu o desenho de testes voluntários de cibersegurança para modelos de fronteira. Meta, Anthropic, Google e OpenAI foram convidadas para uma reunião na Casa Branca a 4 de agosto. As avaliações deverão medir a capacidade dos modelos para encontrar vulnerabilidades ou facilitar ataques informáticos. O Governo ainda não divulgou as métricas, a entidade responsável pela execução nem se os resultados serão públicos. A iniciativa surge depois de OpenAI e Anthropic terem revelado incidentes em que agentes atingiram sistemas reais durante avaliações de segurança mal isoladas.
Porque importa
É um primeiro passo para criar uma referência comum de segurança nos Estados Unidos. Contudo, o modelo voluntário terá pouco valor se cada empresa puder escolher o que testa, como interpreta os resultados e o que comunica. O elemento decisivo será a independência das avaliações: testes realizados apenas pelos próprios fornecedores não permitem comparar riscos nem confirmar que vulnerabilidades conhecidas foram corrigidas.
O que acompanhar
As métricas e os modelos abrangidos, a participação de avaliadores independentes, a publicação ou confidencialidade dos resultados e uma eventual transformação dos testes voluntários em obrigação legal.
Fonte original
Ler na Reuters ↗