En ce moment Écouter la radio

L'IA pourrait diffuser des informations fausses et trompeuses sur la Shoah, prévient un rapport de l'UNESCO

International.

L'IA pourrait diffuser des informations fausses et trompeuses sur la Shoah, prévient un rapport de l'UNESCO
Le mémorial de la Shoah à Jérusalem, Yad Vashem - Yad Vashem

Une agence des Nations Unies a averti que les développements de l’intelligence artificielle pourraient engendrer une nouvelle vague de négation de la Shoah.

Un rapport publié mardi par l'UNESCO conclut que l'IA pourrait donner lieu à des affirmations fausses et trompeuses sur la propagation de la Shoah en ligne, soit en raison de failles dans les programmes, soit parce que des groupes haineux et des négationnistes utiliseront intentionnellement des programmes d'IA pour générer du contenu qui remet faussement en question l'existence de la Shoah, meurtre de Juifs et d'autres groupes par les nazis.

L’une des plus grandes préoccupations est que l’IA pourrait être utilisée pour créer ce qu’on appelle des deepfakes de l’Holocauste – des images ou des vidéos réalistes qui pourraient être utilisées pour suggérer que la Shoah n’a pas eu lieu ou a été exagéré. Cela pourrait conduire à un plus grand antisémitisme et à un manque de compréhension d’un moment clé de l’histoire du XXe siècle.

Le rapport note que certains programmes assistés par l’IA permettent aux utilisateurs d’interagir avec des personnages historiques simulés, notamment d’éminents nazis comme Adolf Hitler.

« Si nous permettons que les horribles faits de la Shoah soient dilués, déformés ou falsifiés par l’utilisation irresponsable de l’IA, nous risquons une propagation explosive de l’antisémitisme et une diminution progressive de notre compréhension des causes et des conséquences de ces atrocités », Audrey Azoulay a déclaré dans un communiqué accompagnant le rapport.

L’utilisation généralisée de l’IA pour l’aide à l’éducation, à la recherche et à l’écriture augmente la probabilité que des données peu fiables et des « hallucinations » liées à l’intelligence artificielle puissent accroître les malentendus du public à propos de la Shoah, même par inadvertance.

Les programmes d’IA dont la compréhension du monde repose sur des sources relativement étroites peuvent également renvoyer des réponses incomplètes ou trompeuses lorsqu’on les interroge sur l’Holocauste.

Le rapport de l'UNESCO appelle les entreprises technologiques à établir des règles éthiques pour le développement et l'utilisation de l'IA, à réduire les risques d'informations peu fiables et à empêcher les mauvais acteurs d'exploiter leurs programmes pour encourager la violence et répandre des mensonges sur l'Holocauste.

Le rapport a été publié en partenariat avec le Congrès juif mondial.

Gabriel Attal

Newsletter

Restez informé ! Recevez des alertes pour être au courant de toutes les dernières actualités.
Réagir à cet article

L'espace des commentaires est ouvert aux inscrits.
Connectez-vous ou créez un compte pour pouvoir commenter cet article.

Inscrivez vous à la newsletter
La météo locale
Chabbat Pin'has - 26/27 Juillet
L'IA pourrait diffuser des informations fausses et trompeuses sur la Shoah, prévient un rapport de l'UNESCO