YouTube a récemment pris des mesures significatives en supprimant une chaîne pro-iranienne diffusant du contenu généré par intelligence artificielle. Cette chaîne utilisait des vidéos mettant en scène une version en Lego de Donald Trump, le tout sur fond de la confrontation américano-israélienne actuelle contre l'Iran. Cette intervention souligne l'escalade des défis auxquels sont confrontées les plateformes numériques face à la régulation de la propagande et de la désinformation à l'ère de l'IA.
L'action de YouTube intervient dans un contexte géopolitique particulièrement tendu, où les outils d'IA sont de plus en plus exploités pour influencer l'opinion publique et diffuser des narratifs spécifiques. La technique des "deepfakes" et des contenus synthétiques, même sous des formes apparemment inoffensives comme des personnages en Lego, pose des questions complexes sur la détection et la modération. Les plateformes doivent naviguer entre la liberté d'expression et la nécessité de contrer les opérations d'influence étatiques ou coordonnées, particulièrement lorsque celles-ci visent à manipuler les perceptions dans des zones de conflit.
Cette suppression est un exemple concret de la course à l'armement numérique entre les acteurs étatiques ou non-étatiques cherchant à utiliser l'IA à des fins de propagande, et les entreprises technologiques cherchant à maintenir l'intégrité de leurs écosystèmes. Elle met en lumière l'urgence pour les régulateurs et les plateformes de développer des stratégies robustes pour identifier et neutraliser les menaces liées à l'IA, tout en établissant des cadres clairs pour définir ce qui constitue une ingérence ou une désinformation inacceptable.