Compass Investments

-Le contenu de Grokipedia peut contenir des informations non vérifiées ou trompeuses, ce qui soulève des questions sur la fiabilité de l’IA.

Les experts craignent que les liens vers de telles ressources ne donnent une fausse impression de fiabilité, soulignant la difficulté de confirmer les informations provenant de l’IA.

Il a été rapporté que le dernier développement d’OpenAI, le modèle ChatGPT, a commencé à établir des liens avec Grokipedia, une encyclopédie basée sur l’IA de la société xAI d’Ilon Musk. Cela a attiré l’attention sur la partialité et la validité probables des données générées par l’intelligence artificielle.

Dans plusieurs cas, ChatGPT s’est tourné vers Grokipedia pour faire des affirmations qui vont au-delà des informations présentées dans Wikipedia. Par exemple, le chatbot a reproduit des déclarations liant la société de télécommunications iranienne MTN-Irancell au bureau du plus haut dirigeant du pays. L’IA a également utilisé Grokipedia pour détailler le rôle de Sir Richard Evans en tant que témoin expert dans le procès en diffamation de David Irving, une affirmation précédemment démentie par le Guardian.

La pratique du LLM grooming (Large Language Model Manipulation), qui consiste à télécharger d’énormes quantités d’informations erronées vers les systèmes d’IA afin d’influencer leurs résultats, est une source de préoccupation. Nina Jankovic, chercheuse en désinformation qui a étudié ce phénomène, estime que la dépendance du ChatGPT à l’égard de Grokipedia soulève des inquiétudes similaires.

Bien que Musk n’ait peut-être pas eu l’intention de cibler les modèles d’IA, Nina Jankovic a remarqué que les articles de Grokipedia qu’elle et ses collègues ont analysés étaient souvent basés sur des sources au mieux douteuses, au pire mal documentées et au pire délibérément fausses. Elle met en garde contre le fait que lorsque de grands modèles de langage renvoient à des sites comme Grokipedia, cela peut conférer à ces sources une aura de fiabilité, amenant les lecteurs à croire que les informations ont été vérifiées de manière indépendante par l’intelligence artificielle.

Cette présence persistante de contenus incorrects ou trompeurs met en évidence un dilemme croissant pour les créateurs d’IA : ils doivent non seulement veiller à ce que les réponses des chatbots soient exactes, mais aussi à ce qu’ils puissent se corriger rapidement lorsque des inexactitudes sont détectées. À mesure que l’IA s’intègre dans la recherche, l’éducation et la prise de décision quotidienne, le maintien de la confiance dans ces systèmes nécessitera des mécanismes de validation bien établis, un contrôle continu et une plus grande ouverture sur la sélection et l’évaluation des données utilisées.

En octobre 2025, Musk a lancé le projet Grokipedia, conçu comme une alternative à Wikipédia dans le cadre de son différend de longue date avec la plateforme au sujet de ses politiques éditoriales. Musk a décrit l’objectif du projet comme étant de fournir la vérité, toute la vérité et rien que la vérité, reconnaissant que même si l’exactitude absolue n’est pas réalisable, la plateforme s’efforce d’y parvenir.

QU’EST-CE QUE GROKIPEDIA ET POURQUOI EST-ELLE CITÉE PAR CHATGPT ?