China e Irã estão entre países que utilizaram IA para espionagem, diz Anthropic

A Anthropic anunciou nesta quinta-feira (10) que encerrou várias operações de vigilância patrocinadas por Estados que utilizavam seus modelos de inteligência artificial (IA) e alertou que governos e atores alinhados a eles recorrem cada vez mais à IA para espionar minorias e dissidentes.

Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho, informou a empresa em um relatório sobre o uso indevido de seus modelos.

Essas campanhas de vigilância "visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente", apontou o relatório.

Segundo a Anthropic, entre esses grupos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior.

Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais.

Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude "para projetar o software subjacente que permitiu a coleta de inteligência".

A Anthropic também bloqueou tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online.

A empresa, sediada em São Francisco, acusou ainda desenvolvedores chineses de utilizarem o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, "destilavam" esses dados para aprimorar seus próprios modelos.

Destilação é um termo do setor que se refere a um processo no qual um modelo de IA é utilizado para treinar outro. Desenvolvedores chineses já foram acusados anteriormente de empregar essa técnica sem autorização.

Em relação às pesquisas ligadas a armas biológicas que a Anthropic detectou e bloqueou, a intenção dos envolvidos era menos clara, e a empresa não os identificou.

"As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos", afirmou o relatório.

Os estudos nesses casos estavam concentradas em trabalhos relacionados ao vírus chikungunya, transmitido por mosquitos; a uma cepa "altamente patogênica" de gripe aviária; a uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas.