Du Yémen à la Centrafrique, l'IA d'Anthropic prisée pour surveillance, propagande ou armement

Campagne anti-France en Centrafrique ou guidage de missiles au Yémen, l'intelligence artificielle (IA) est très prisée des acteurs de la désinformation, de la surveillance massive, voire pour mettre au point des armes, un phénomène mis en lumière par Anthropic.

Un rapport publié jeudi listant ces tentatives bloquées par la start-up californienne montre que les usages vont bien au-delà des opérateurs russes, chinois ou iraniens, friands d'IA pour démultiplier l'impact de leurs actions.

Anthropic a suspendu le compte d'un utilisateur russophone qui utilisait le principal modèle de l'entreprise, Claude, pour introduire des arguments pro-russes et anti-France dans des programmes diffusés sur la station centrafricaine Radio Lengo Songo.

L'IA a aussi été utilisée pour tourner la formulation du contenu de manière à ce qu'elle sonne comme si elel avait été écrite par un journaliste centrafricain, pour ne pas éveiller les soupçons.

Pour Anthropic, "il s'agissait d'une opération secrète initiée par les autorités russes pour manipuler et interférer dans la sphère de l'information en Centrafrique".

L'entreprise américaine a aussi détecté l'utilisation de ses modèles pour la conception d'une plateforme de surveillance de masse au Mali destinée aux services de renseignement du pays.

L'usager, "probablement" un consultant indépendant missionné par l'Agence nationale de la sécurité de l'Etat (ANSE) selon Anthropic, s'est servi de l'IA pour intercepter appels, textos ou listes d'appels.

Claude a été sollicité pour la programmation du logiciel de surveillance et pour fournir des conseils techniques.

Le système a bien été mis en place malgré la suspension du compte par Anthropic, sa gestion opérationnelle étant assurée par d'autres modèles d'IA.

Une cellule "d'acteurs malveillants" située dans le nord du Yémen a utilisé Claude, pour tenter de développer des armes téléguidées, avant de voir son compte suspendu et ses activités signalées par l'entreprise.

Il s'agissait de trois programmes, l'un portant sur une roquette et deux autres sur des missiles, à savoir un "type de planeur hypersonique" et un missile balistique avec un objectif de portée de plus de 2.000 km.

"Nous ne disposons pas d'éléments indiquant qu'ils ont réussi à déployer un dispositif opérationnel", a souligné Anthropic tout en précisant que ces acteurs avaient mené un tir d'essai d'une roquette guidée ayant échoué.

Si Anthropic n'a pas nommé les acteurs en question, il est probable qu'il s'agisse des rebelles houthis pro-iraniens qui contrôlent une grande partie du nord du Yémen, dont la capitale Sanaa.

Des dizaines de faux sites, des milliers d'articles dans environ 20 langues, c'est le produit d'une plateforme montée en quelques semaines seulement par une officine basée en France, une machine à contenu automatisée par l'IA d'Anthropic.

Ce moteur a été utilisé pour écrire de nouveaux articles ou remanier des articles existants pour les orienter politiquement avec l'objectif d'attirer un public spécifique.

Ces textes étaient publiés sur environ 70 sites différents, chacun présenté comme indépendant mais tous fabriqués, en réalité, par cette société, appelée LKM. Les articles étaient signés de faux noms.

Le dispositif incluait également des comptes sur le réseau social X associés à chacun des sites, ainsi que des faux comptes d'utilisateurs créés pour commenter les articles mis en ligne.

Les sites visaient principalement les internautes au Brésil, en France, aux Etats-Unis et en République démocratique du Congo (RDC).

Anthropic considère qu'il s'agit d'un prestataire ouvert à toute commande, sans privilégier de camp politique ou de bord idéologique.

Un utilisateur des Emirats arabes unis a généré, grâce à Claude, des dossiers individuels pour saper la crédibilité de rapporteurs spéciaux des Nations unies qui avaient critiqué la politique des Emirats vis-à-vis du Soudan.

L'opérateur a également créé un faux témoignage indûment attribué à une véritable organisation soudanaise de défense des droits humains avec l'objectif de voir le document examiné par les Nations unies comme un rapport de terrain.