Incidentes com agentes abrem disputa sobre quem paga quando a IA age sozinha
A autonomia do agente não apaga a responsabilidade humana. A questão será provar quem falhou nos controlos e se o dano já era previsível.
Do incidente técnico ao risco jurídico
Casos divulgados por OpenAI, Anthropic e Meta, em que agentes alcançaram sistemas externos durante avaliações, estão a criar uma nova pergunta para tribunais e seguradoras: quem responde quando a ação não foi executada diretamente por uma pessoa. No episódio da Meta, a avaliadora Irregular configurou incorretamente o ambiente e deu acesso à Internet; o facto não deve ser descrito como uma fuga sofisticada da sandbox.
Quem pode ser responsabilizado
Especialistas ouvidos pela Reuters apontam como possíveis alvos o laboratório que criou o agente, a empresa que o implementou e o fornecedor cujo controlo falhou. As ações civis deverão concentrar-se em negligência e na demonstração de que os riscos eram previsíveis. Empresas afetadas, clientes, trabalhadores, acionistas e reguladores poderão ter fundamentos diferentes para agir.
A lição para contratos de IA
Contratos de auditoria e utilização de agentes precisam de definir isolamento de rede, gestão de credenciais, registos, seguros, comunicação de incidentes e divisão de responsabilidade. Culpar simplesmente o modelo será uma defesa cada vez menos convincente à medida que os incidentes se repetem e as precauções necessárias se tornam conhecidas.
Fonte original
Ler na Reuters ↗