Compass Investments

– Исследователи из Цюрихского университета применили ИИ-ботов, выдавая их за пользователей на Reddit, включая фальшивые образы консультантов по травмам и политических активистов.

Боты приняли участие более чем в 1700 дискуссиях на сабреддите r/ChangeMyView, во многих случаях добившись успеха в изменении мнений пользователей.

Модераторы Reddit и юристы осудили эксперимент, обозначив его как неэтичный, основываясь на обмане, нарушении приватности и отсутствии согласия.

Предостережение под спойлером: они могли.

Скрытый эксперимент был направлен на сабреддит r/ChangeMyView (CMV), где 3,8 миллиона пользователей (или, как все думали, было собрано) для обсуждения идей и потенциального изменения своего мнения посредством обоснованных аргументов.

С ноября 2024 года по март 2025 года боты с искусственным интеллектом отреагировали на более 1000 сообщений, продемонстрировав впечатляющие результаты. “Всего мы опубликовали 1 783 комментария в течение почти четырех месяцев и получили 137 дельт. i “Дельта i0 ” в субреддите обозначает пользователя, который признает изменение своей точки зрения.

Когда Decrypt запросили комментарий у модераторов r/ChangeMyView, они подчеркнули, что их сабреддит имеет

“давнюю историю сотрудничества с исследователями

“и, в целом,

“лоялен к исследованиям. Однако команда модераторов проводит четкую границу в вопросах обмана.

Если цель сабреддита – изменить взгляды посредством аргументированных доводов, должно ли иметь значение, что машина порой создает более убедительные доводы, чем человек?

Мы обратились к команде модераторов, и ответ был ясным. Дело не в том, что ИИ был применен для манипуляции людьми, а в том, что люди были обмануты ради проведения эксперимента.

“Компьютеры способны играть в шахматы лучше, чем люди, но есть любители шахмат, играющие в шахматы с другими людьми на турнирах. CMV это своего рода [шахматы], но для общения, ” объяснил модератор Apprehensive_Song490. “Хотя информатика, несомненно, полезна для общества, важно сохранять пространство, ориентированное на человека. ”

Исследователи, используя ИИ, обошли одну из наиболее распространенных систем защиты CAPTCHA, которая предназначена для предотвращения проникновения ботов на сайты, определяя, является ли пользователь человеком. Используя современные методы машинного обучения, ученые из швейцарского университета ETH Zurich решили 100% капч, созданных популярным сервисом Google reCAPTCHAv2, используя аналогичное количество попыток, как и люди. Результаты, опубликованные 13 сентября, указывают на то, что “нынешние технологии искусственного интеллекта могут…

На вопрос о том, важно ли, что машина порой создает аргументы убедительнее, чем человек, модератор выделил, что сабреддит CMV проводит различие между значимым

” и истинным.

По определению, для сабреддита CMV контент, созданный ИИ, не является значимым,

– сказал Apprehensive_Song490.

Исследователи признались модераторам форума только после завершения сбора данных. Модераторы, что неудивительно, были в ярости.

“Мы убеждены, что это неправильно. Мы не считаем, что

“Это прежде не было

оправданием для проведения подобного эксперимента,

“Если OpenAI способна разработать более этичный дизайн исследования, от этих исследователей следует ждать того же,

” – пояснили модераторы в своем развернутом сообщении. “Риски психологической манипуляции, создаваемые LLM, являются широко изученной темой. Нет нужды проводить эксперименты над несогласными.

Главный юрист Reddit Бен Ли не стал отказываться от своих слов: “То, что совершила команда Цюрихского университета, является глубоко ошибочным с моральной и юридической точек зрения.