Compass Investments

– Контент Grokipedia может содержать непроверенные или искажающие сведения, что порождает вопросы о надежности ИИ.

Специалисты бьют тревогу: ссылки на подобные ресурсы могут создавать ложное впечатление достоверности, высвечивая трудности в подтверждении информации от ИИ.

Появились сведения, что новейшая разработка OpenAI, модель ChatGPT, стала ссылаться на Grokipedia энциклопедию на базе ИИ от компании Илона Маска xAI. Это привлекло повышенное внимание к вероятной предвзятости и достоверности данных, генерируемых искусственным интеллектом.

В ряде случаев ChatGPT обращался к Grokipedia для изложения утверждений, выходящих за рамки сведений, представленных в Википедии. К примеру, чат-бот воспроизвел заявления, связывающие иранскую телекоммуникационную компанию MTN-Irancell с офисом высшего руководителя страны. ИИ также использовал “Грокипедию” для детализации роли сэра Ричарда Эванса как эксперта-свидетеля в судебном процессе по иску Дэвида Ирвинга о клевете, что ранее опровергалось изданием Guardian.

Вызывает озабоченность такая практика, как “LLM grooming” (манипулирование большими языковыми моделями), когда в системы ИИ загружаются огромные объемы дезинформации для влияния на их выходные данные. Исследователь дезинформации Нина Янкович, изучавшая этот феномен, считает, что зависимость ChatGPT от “Грокипедии” вызывает схожие опасения.

Хотя Маск, возможно, и не преследовал цель направлять ИИ-модели, Янкович отметила, что статьи в Грокипедии, проанализированные ею и ее коллегами, часто основывались на источниках, которые “в лучшем случае сомнительны, в худшем плохо проработаны, а в самом худшем являются целенаправленной ложью”. Она предупреждает, что когда большие языковые модели ссылаются на такие площадки, как Grokipedia, это может придать этим источникам ореол надежности, заставляя читателей полагать, что информация была независимо верифицирована ИИ.

Такое устойчивое присутствие неверного или вводящего в заблуждение контента демонстрирует нарастающую дилемму для создателей ИИ: нужно не только обеспечивать точность ответов чат-ботов, но и их способность оперативно корректироваться при выявлении неточностей. Поскольку ИИ все глубже проникает в научные изыскания, образование и повседневное принятие решений, сохранение доверия к этим системам потребует отлаженных механизмов проверки, непрерывного контроля и большей открытости в отношении выбора и оценки используемых данных.

В октябре 2025 года Маск инициировал проект Grokipedia, задуманный как альтернатива Википедии на фоне его продолжительных споров с этой платформой относительно редакционной политики. Маск обозначил задачу проекта как предоставление “правды, всей правды и ничего кроме правды”, признав, что, хотя абсолютная точность может быть недостижима, платформа к ней стремится.

ЧТО ТАКОЕ GROKIPEDIA И ПОЧЕМУ ЕЕ ЦИТИРУЕТ ЧАТГПТ?