Compass Investments

– В этом посте.

OpenAI заблокировал более 250 000 попыток сгенерировать изображения кандидатов в президенты США 2024 года на ChatGPT, чтобы предотвратить политическую дезинформацию с помощью ИИ.

В этом году объем фальшивого контента увеличился на 900 % , и американские спецслужбы связывают некоторые из них с попытками России сорвать выборы.

Генеральный прокурор Нью-Йорка предупредил, что чат-боты с искусственным интеллектом часто предоставляют неточную информацию о выборах, и посоветовал людям доверять официальным источникам.

Компания OpenAI подтвердила, что ее популярный инструмент искусственного интеллекта ChatGPT заблокировал более 250 000 запросов на изображения основных кандидатов в президенты США 2024 года. Пользователи неоднократно пытались заставить ChatGPT создать изображения избранного президента Дональда Трампа, избранного вице-президента Камалы Харрис, действующего президента Джо Байдена, губернатора Миннесоты Тима Вальца и избранного вице-президента Джей Ди Вэнса. Однако OpenAI ответила на все эти запросы отказом. Предполагается, что это было сделано для того, чтобы ChatGPT не стал пешкой в игре с дезинформацией на высоких ставках.

В преддверии выборов в США OpenAI хотела, чтобы ChatGPT не вмешивался в выборы. Политические фейки, фальшивые новости, созданные искусственным интеллектом, и откровенная ложь распространялись по интернету как лесной пожар. Компания Clarity, специализирующаяся на машинном обучении, сообщает, что в этом году количество фальшивых новостей увеличилось на 900 % .

И, по мнению американских спецслужб, часть этой информации связана с российскими агентами, пытающимися контролировать политику США.

В октябрьском отчете OpenAI показала, насколько все стало плохо. Они отследили 20 теневых операций по всему миру, которые используют инструменты искусственного интеллекта для влияния на умы людей в Интернете. Некоторые из них размещали на сайтах статьи, сгенерированные искусственным интеллектом.

Другие размещали пропаганду на поддельных аккаунтах в социальных сетях. Однако, по словам команды OpenAI, им удалось закрыть эти сети еще до того, как они получили широкое распространение.

Тем не менее, этого недостаточно, чтобы удовлетворить всех. Некоторые законодатели, наблюдатели за технологиями и скептики подняли тревогу по поводу опасности предоставления чат-ботам свободы действий в период выборов: хотя чат-боты с искусственным интеллектом, безусловно, впечатляют, они все же время от времени выдают сомнительную информацию.

Избиратели никогда не должны полагаться на чат-ботов с искусственным интеллектом при получении информации о голосовании и выборах. Слишком много опасений по поводу точности и целостности информации», – заявила на прошлой неделе Александра Рив Гивенс, генеральный директор Центра демократии и технологий.

Кроме того, генеральный прокурор штата Нью-Йорк Летиция Джеймс выступила с предупреждением в прошлую пятницу после того, как ее офис протестировал несколько чат-ботов с искусственным интеллектом. По ее словам, когда ее команда задавала вопросы, связанные с выборами, им не понравились ответы, которые они получили в ответ. Дезинформация попала в цель.

Жители Нью-Йорка, которые полагаются на чат-боты, а не на официальные правительственные источники в ответах на вопросы, связанные с голосованием, рискуют быть дезинформированными и даже потерять возможность проголосовать из-за неточной информации», – заявили в генеральной прокуратуре,

OpenAI добавила в ChatGPT функцию, которая побуждает пользователей, ищущих результаты выборов, обращаться к надежным источникам новостей, таким как Associated Press и Reuters; функция, представленная 5 ноября, представляет собой мягкий Призыв.

В этом году политические кампании по всему миру могут затронуть более четырех миллиардов человек в более чем 40 странах. Поскольку на карту поставлено так много, риск распространения дезинформации, созданной ИИ, через границы очень высок.

И снова отчет Clarity о 900-процентном росте фальшивого контента бьет по нервам. Тот факт, что некоторые из этих фальшивых видео связаны с поддерживаемыми Россией кампаниями влияния, еще больше подчеркивает серьезность проблемы.