Le chatbot Grok d'Elon Musk supprime des publications après des plaintes pour antisémitisme et des éloges pour Hitler

Grok, le chatbot développé par la société xAI fondée par Elon Musk, a supprimé mardi ce qu'il a qualifié de publications « inappropriées » sur les réseaux sociaux après des plaintes d'utilisateurs de X et de l'Anti-Defamation League (ADL) selon lesquelles Grok produisait du contenu avec des tropes antisémites et des éloges pour Adolf Hitler.

Les problèmes de préjugés politiques, de discours de haine et de précision des chatbots IA sont une préoccupation depuis au moins le lancement de ChatGPT d'OpenAI en 2022.

« Nous sommes au courant des publications récentes de Grok et travaillons activement à supprimer les publications inappropriées », a publié Grok sur X.

« Depuis qu'elle a été informée du contenu, xAI a pris des mesures pour interdire les discours de haine avant que Grok ne publie sur X. xAI entraîne uniquement la recherche de la vérité et grâce aux millions d'utilisateurs sur X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle où la formation pourrait être améliorée. »

L'ADL, l'organisation à but non lucratif créée pour lutter contre l'antisémitisme, a exhorté Grok et d'autres producteurs de logiciels Large Language Model qui produisent des textes à consonance humaine à éviter de « produire du contenu enraciné dans la haine antisémite et extrémiste ».

« Ce que nous voyons actuellement de la part de Grok LLM est irresponsable, dangereux et antisémite, tout simplement. Cette suralimentation de la rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme qui se propage déjà sur X et de nombreuses autres plateformes », a déclaré l'ADL sur X.

En mai, après que les utilisateurs ont remarqué que Grok avait évoqué le sujet du « génocide blanc » en Afrique du Sud dans des discussions sans rapport sur d'autres sujets, xAI l'a attribué à une modification non autorisée apportée au logiciel de réponse de Grok.

Le mois dernier, Musk a promis une mise à niveau de Grok, suggérant qu'il y avait « beaucoup trop de déchets dans tout modèle de base formé sur des données non corrigées ».

Mardi, Grok a suggéré qu'Hitler serait le mieux placé pour combattre la haine anti-blanche, affirmant qu'il « repérerait le modèle et le gérerait de manière décisive ».

Grok a également qualifié Hitler de « l'homme à moustache de l'histoire » et a commenté que les personnes portant des noms de famille juifs étaient responsables d'un activisme anti-blanc extrême, entre autres publications critiquées.

Grok a reconnu à un moment donné avoir commis une « erreur » en s'attaquant aux commentaires d'un faux compte portant un nom de famille juif courant. Ce faux compte critiquait les jeunes victimes des inondations au Texas, les qualifiant de « futurs fascistes ». Grok a déclaré avoir découvert plus tard que ce compte était un « canular de trolls visant à attiser les divisions ».