Les questions relatives aux préjugés politiques, aux discours haineux et à l'exactitude des chatbots IA sont préoccupantes depuis au moins le lancement de ChatGPT par OpenAI en 2022.
XAI a déclaré que la modification non autorisée avait été apportée tôt mercredi au logiciel de réponse de Grok, contournant le processus de révision normal.
« Cette modification, qui ordonnait à Grok de fournir une réponse spécifique sur un sujet politique, enfreignait les politiques internes et les valeurs fondamentales de xAI », a déclaré xAI.
Mercredi, certains utilisateurs de X ont remarqué que Grok avait abordé le sujet du « génocide blanc » en Afrique du Sud dans des discussions sans rapport avec d'autres sujets, et ont partagé des captures d'écran de leurs échanges.
Les détracteurs de la politique d'expropriation des terres en Afrique du Sud, dont M. Musk, né en Afrique du Sud, ont qualifié cette mesure de raciste à l'égard des Blancs. Le gouvernement sud-africain affirme qu'il n'existe aucune preuve de persécution et que les allégations de « génocide » formulées par le président américain Donald Trump et d'autres sont sans fondement.
En réponse à l'incident de cette semaine, xAI a déclaré qu'elle publierait ouvertement les messages du système Grok sur GitHub, où le public peut consulter et commenter chaque modification apportée au chatbot.
Elle a ajouté qu'elle mettrait en place une équipe de surveillance 24 heures sur 24 pour répondre aux incidents liés aux réponses de Grok qui ne sont pas détectés par les systèmes automatisés. (Reportage de Zaheer Kachwala à Bengaluru ; édité par Peter Henderson et Rosalba O'Brien)
