Investigadores militares chineses usaram modelos dos EUA para treinar sistemas de defesa
A destilação permite transferir capacidades específicas de um modelo avançado para sistemas mais pequenos e controlados localmente, abrindo uma nova frente nos controlos tecnológicos.
O que aconteceu
A Reuters analisou mais de 80 artigos académicos e patentes e encontrou exemplos de investigadores ligados ao Exército Popular de Libertação e a outras instituições militares chinesas a utilizarem resultados produzidos por modelos norte-americanos. O processo recorre à chamada destilação: as respostas e os métodos de raciocínio de um modelo avançado são utilizados para treinar um sistema mais pequeno, barato e controlável localmente. Os exemplos identificados incluem processamento de código, vigilância de redes sociais, reconhecimento de alvos e sistemas para drones e operações marítimas.
Porque importa
Os controlos de exportação de semicondutores podem limitar o acesso chinês a chips avançados, mas não impedem que conhecimento e capacidades sejam extraídos através das interfaces públicas dos próprios modelos. Isto transforma a política de acesso às APIs, a deteção de destilação e a proteção dos processos de raciocínio em questões de segurança nacional. A investigação não prova que os modelos destilados tenham reproduzido integralmente os sistemas norte-americanos.
O que acompanhar
Novas restrições norte-americanas sobre o acesso internacional a modelos avançados, sistemas de deteção de destilação implementados pela OpenAI e Anthropic, respostas oficiais das autoridades chinesas e norte-americanas e possíveis limitações ao fornecimento de APIs para instituições ligadas à defesa.
Fonte original
Ler na Reuters ↗