Anthropic anunció el jueves que cerró varias operaciones de vigilancia patrocinadas por Estados que utilizaban sus modelos de inteligencia artificial (IA), y advirtió que gobiernos y actores alineados con ellos recurren cada vez más a la IA para espiar a minorías y disidentes.
Los incidentes se originaron en China, Irán y el occidente de África, y fueron detectados e interrumpidos entre enero y julio, según informó la compañía en un reporte sobre el uso indebido de sus modelos.
Estas campañas de vigilancia "apuntaban a las mismas comunidades de la diáspora y disidentes que estos regímenes han perseguido históricamente", apuntó el reporte.
De acuerdo con Anthropic, entre estos grupos había figuras prodemocracia de Hong Kong, comunidades tibetanas, y minorías y opositores al régimen iraní en el exterior.
En uno de los casos, actores iraníes desarrollaron un método para identificar a personas a través de sus cuentas en redes sociales.
En otro, un contratista que trabajaba para las autoridades de seguridad nacional de Mali utilizó Claude "para diseñar el software subyacente que permitió la recopilación de inteligencia".
Anthropic también frustró intentos de usuarios de diseñar armas, realizar investigaciones biológicas cuestionables y crear estafas románticas en línea.
La empresa con sede en San Francisco también acusó a desarrolladores chinos de utilizar engañosamente a Claude para generar respuestas a las consultas de los usuarios mientras, de forma simultánea, "destilaban" esos datos para mejorar sus propios modelos.
La destilación es un término del sector que se refiere a un proceso en el que se emplea un modelo de IA para entrenar otro. Anteriormente, se ha acusado a desarrolladores chinos de usar esta técnica sin permiso.
En cuanto a las investigaciones relacionadas con armas biológicas que Anthropic detectó y bloqueó, la intención de los actores era menos clara y el laboratorio de IA no los identificó.
"Las personas implicadas en estos estudios de caso son científicos. No afirmamos que tuvieran intención de causar daño. Identificarlos a ellos o a sus laboratorios podría exponerlos a peligros", señaló el informe.
La investigación científica en esos casos se centró en trabajos relacionados con el virus chikungunya, transmitido por mosquitos, una cepa "altamente patógena" de gripe aviar, una familia de virus que incluye la viruela y el mpox, así como venenos y otras toxinas.
Latest stories
La Une Le procès pour corruption de Rachida Dati s'est ouvert, en l'absence de Carlos Ghosn
Le retentissant procès de Rachida Dati s'est ouvert mercredi à Paris, en l'absence de son coprévenu et ex-PDG de Renault Carlos Ghosn, jugés pour des soupçons de corruption et trafic d'influence liés aux 900.000 euros...
La Une Périscolaire à Paris: le maire Emmanuel Grégoire exprime ses "profonds regrets" devant le Sénat
L'...
France A moins de 1,70 euro le litre de carburant, les stations d'Andorre font le plein
C'est un flux incessant de véhicules qui se succèdent dans une des plus grosses stations-service du Pas-de-la-Case en Andorre à proximité de la frontière française, attirés par le prix...