Compass Investments

– In diesem Beitrag. OpenAI hat mehr als 250000 Versuche blockiert, Bilder der US-Präsidentschaftskandidaten von 2024 auf ChatGPT zu generieren, um politische Fehlinformationen durch KI zu verhindern.

In diesem Jahr haben gefälschte Inhalte um 900% zugenommen, und die US-Geheimdienste bringen einige davon mit den Versuchen Russlands in Verbindung, die Wahl zu stören.

Der New Yorker Generalstaatsanwalt warnte, dass Chatbots mit künstlicher Intelligenz oft ungenaue Informationen über die Wahl liefern, und riet den Menschen, offiziellen Quellen zu vertrauen.

OpenAI bestätigte, dass sein beliebtes Tool für künstliche Intelligenz, ChatGPT, mehr als 250.000 Anfragen nach Bildern der wichtigsten Kandidaten für die US-Präsidentschaftswahlen 2024 blockiert hat. Nutzer versuchten wiederholt, ChatGPT dazu zu bringen, Bilder des designierten Präsidenten Donald Trump, der designierten Vizepräsidentin Kamala Harris, des amtierenden Präsidenten Joe Biden, des Gouverneurs von Minnesota Tim Walz und des designierten Vizepräsidenten JD Vance zu erstellen. OpenAI hat jedoch auf alle diese Anfragen mit einer Ablehnung geantwortet. Dies geschah vermutlich, um zu verhindern, dass ChatGPT zu einem Spielball in dem mit hohen Einsätzen verbundenen Desinformationsspiel wird.

Im Vorfeld der US-Wahl wollte OpenAI, dass ChatGPT sich aus der Wahl heraushält. Politische Fälschungen, von künstlicher Intelligenz erstellte Fake News und glatte Lügen verbreiteten sich wie ein Lauffeuer im Internet. Clarity, ein Unternehmen für maschinelles Lernen, berichtet, dass Fake News in diesem Jahr um 900 % zugenommen haben.

Und laut US-Geheimdiensten stehen einige dieser Informationen in Verbindung mit russischen Agenten, die versuchen, die US-Politik zu kontrollieren.

In einem Bericht vom Oktober zeigte OpenAI, wie schlimm die Dinge geworden sind. Sie haben 20 zwielichtige Operationen auf der ganzen Welt aufgespürt, die Tools der künstlichen Intelligenz einsetzen, um die Meinung der Menschen online zu beeinflussen. Einige von ihnen veröffentlichten von künstlicher Intelligenz generierte Artikel auf Websites, andere posteten Propaganda auf gefälschten Social-Media-Konten. Nach Angaben des OpenAI-Teams gelang es ihnen jedoch, diese Netzwerke zu schließen, bevor sie sich ausbreiten konnten.

Dennoch reicht das nicht aus, um alle zufrieden zu stellen. Einige Gesetzgeber, Technologiebeobachter und Skeptiker haben vor den Gefahren gewarnt, die entstehen, wenn man Chatbots während der Wahlsaison freien Lauf lässt: KI-Chatbots sind zwar sicherlich beeindruckend, aber sie liefern gelegentlich auch fragwürdige Informationen.

Wähler sollten sich bei Informationen über Abstimmungen und Wahlen niemals auf KI-Chatbots verlassen. Es gibt zu viele Bedenken hinsichtlich der Genauigkeit und Integrität der Informationen, sagte Alexandra Reeve Givens, CEO des Center for Democracy and Technology, letzte Woche.

Außerdem hat die Generalstaatsanwältin des Staates New York, Letitia James, letzten Freitag eine Warnung herausgegeben, nachdem ihr Büro mehrere KI-Chatbots getestet hatte. Sie sagte, als ihr Team wahlbezogene Fragen stellte, gefielen ihnen die Antworten nicht, die sie daraufhin erhielten. Die Fehlinformationen trafen ins Schwarze.

New Yorker, die sich bei der Beantwortung wahlbezogener Fragen eher auf Chatbots als auf offizielle Regierungsquellen verlassen, laufen Gefahr, falsch informiert zu werden und aufgrund ungenauer Informationen sogar die Möglichkeit zu verlieren, ihre Stimme abzugeben, so die Generalstaatsanwaltschaft,

OpenAI hat ChatGPT eine Funktion hinzugefügt, die Nutzer, die nach Wahlergebnissen suchen, dazu ermutigt, zuverlässige Nachrichtenquellen wie Associated Press und Reuters zu konsultieren; die am 5. November eingeführte Funktion ist ein Soft Appeal.

In diesem Jahr könnten politische Kampagnen weltweit mehr als vier Milliarden Menschen in mehr als 40 Ländern betreffen. Da so viel auf dem Spiel steht, ist das Risiko einer grenzüberschreitenden Verbreitung von KI-generierten Desinformationen sehr hoch.

Der Bericht von Clarity über einen 900-prozentigen Anstieg von gefälschten Inhalten trifft einmal mehr einen Nerv. Die Tatsache, dass einige dieser gefälschten Videos mit von Russland unterstützten Beeinflussungskampagnen in Verbindung gebracht werden, unterstreicht die Schwere des Problems.