Um padrão adversarial consegue baralhar câmaras de vigilância automática
A imagem continua a ser gravada, mas o algoritmo deixa de reconhecer o objeto coberto pelo padrão. A demonstração expõe a fragilidade da visão computacional e abre um conflito entre privacidade, segurança pública e evasão deliberada.
O que foi demonstrado
Bill Swearingen afirma ter realizado cerca de 31 milhões de testes para gerar padrões capazes de confundir alguns dos leitores de matrículas e sistemas de vigilância mais utilizados. Numa demonstração pública durante a conferência Def Con, o padrão aplicado a um veículo impediu a deteção automática em condições reais.
Não torna ninguém invisível
A câmara continua a gravar. O padrão interfere com a camada algorítmica que identifica objetos, pessoas, rostos ou veículos e que cria alertas automáticos. Um operador humano pode continuar a ver a imagem, mas o sistema deixa de selecionar aquele alvo numa grande quantidade de vídeo.
Privacidade ou ferramenta de evasão
O projeto apresenta a técnica como uma forma de recusar rastreamento constante. A mesma capacidade pode, contudo, ser usada para evitar sistemas legítimos de segurança. Fabricantes terão agora de testar câmaras contra ataques adversariais físicos, enquanto reguladores terão de separar proteção de privacidade de ocultação com intenção criminosa.