Le conseil de surveillance de Meta a ordonné jeudi au groupe de retirer des vidéos générées par IA visant deux femmes, dont une politicienne britannique, jugeant que les outils de protection du géant de la tech dans le domaine étaient "fondamentalement insuffisants".
Ce conseil, organe quasi-indépendant financé par Meta, a justifié sa demande en expliquant que ces cas compromettaient les propres règles de l'entreprise en matière de discours haineux, de désinformation et de harcèlement.
La première vidéo met en scène une conseillère du Parti travailliste en Ecosse tenant des propos incendiaires sur les réfugiés. Il n'existe aucun enregistrement public de tels propos, et certains détails sur la vidéo indiquent qu'elle a été falsifiée, notamment l'absence de synchronisation labiale.
La deuxième vise à discréditer une activiste musulmane et son rôle d'éducatrice pour la santé: on l'y voit consommer des aliments ultratransformés tout en donnant des conseils sur l'alimentation et en faisant des exercices absurdes.
Le conseil de surveillance a soutenu que les règles de Meta étaient "systématiquement et fondamentalement insuffisantes" pour faire face au flot incessant de contenu généré par IA sur ses plateformes, comme Facebook et Instagram.
"Ces cas illustrent un schéma plus large et préoccupant, dans lequel les femmes qui s'expriment publiquement sur des questions de société sont la cible de harcèlement et de désinformation de manière disproportionnée", a affirmé la coprésidente du conseil, Pamela San Martin.
La maison-mère de Facebook a annoncé qu'elle se conformerait à la décision du conseil dans un délai de sept jours.
Meta est obligé de suivre les décisions du conseil de surveillance, mais pas ses recommandations.
"Meta, ainsi que les autres réseaux sociaux, ont besoin de règles fortes face à la prolifération de deepfakes (des trucages ultraréalistes générés par IA), y compris une approche beaucoup plus stricte pour l'étiquetage des contenus trompeurs, des sanctions plus sévères pour les récidivistes et la suppression des deepfakes visant à harceler des particuliers", a encore soutenu Pamela San Martin.
La semaine dernière, le conseil de surveillance a recommandé à Meta de ne pas remplacer son service de fact-checking professionnel par des notes de communauté, un système participatif popularisé par X, la plateforme du milliardaire Elon Musk.
Cette recommandation est survenue après que Meta a annoncé avoir commencé les essais des notes de communauté dans 16 pays hispanophones en Amérique latine.
L'AFP travaille actuellement dans 26 langues avec le programme de fact-checking de Meta, y compris en Amérique latine.
Latest stories
Africa Thirty-seven suspected illegal miners die in custody in Nigeria
The governor of a central Nigerian state said 37 people suspected of being illegal miners died early Thursday while in the custody of the west...
US News N.Korea leader's sister blasts US drills, threatens 'more offensive' response
North Korean leader Kim Jong Un's powerful sister accused the United States of escalating regional tensions through frequent military drills and warned of a "more offensive" response from Pyongyang, according to...
Latin America Prized Mexican relic returns on loan, two centuries on
A cherished 16th-century Mexican manuscript that tells the history of the Aztecs in pictograms went on display Thursday in Mexico City, nearly two centuries after...