Compass Investments

– En este post. OpenAI bloqueó más de 250000 intentos de generar imágenes de los candidatos presidenciales estadounidenses de 2024 en ChatGPT para evitar la desinformación política a través de la IA.

Este año, el volumen de contenido falso ha aumentado un 900% , y las agencias de inteligencia estadounidenses están vinculando parte de él a los intentos de Rusia de perturbar las elecciones.

El fiscal general de Nueva York advirtió de que los chatbots de inteligencia artificial suelen proporcionar información inexacta sobre las elecciones y aconsejó a la gente que confiara en las fuentes oficiales.

OpenAI confirmó que su popular herramienta de inteligencia artificial ChatGPT bloqueó más de 250.000 solicitudes de imágenes de los principales candidatos a las elecciones presidenciales de 2024 en Estados Unidos. Los usuarios intentaron repetidamente que ChatGPT creara imágenes del presidente electo Donald Trump, la vicepresidenta electa Kamala Harris, el presidente en funciones Joe Biden, el gobernador de Minnesota Tim Walz y el vicepresidente electo JD Vance. Sin embargo, OpenAI respondió a todas estas solicitudes con una negativa. En el periodo previo a las elecciones estadounidenses, OpenAI quería que ChatGPT se mantuviera al margen. Falsificaciones políticas, noticias falsas creadas por inteligencia artificial y mentiras descaradas se extendieron como la pólvora por Internet. Clarity, una empresa de aprendizaje automático, informa de que las noticias falsas han aumentado un 900% este año. Y según las agencias de inteligencia estadounidenses, parte de esta información está vinculada a agentes rusos que intentan controlar la política estadounidense. Rastrearon 20 operaciones oscuras en todo el mundo que utilizan herramientas de inteligencia artificial para influir en la mente de las personas en Internet. Algunas de ellas publican artículos generados por inteligencia artificial en sitios web, mientras que otras publican propaganda en cuentas falsas de redes sociales. Sin embargo, según el equipo de OpenAI, pudieron cerrar estas redes antes de que se generalizaran.

Aun así, no es suficiente para satisfacer a todo el mundo. Algunos legisladores, observadores de la tecnología y escépticos han dado la voz de alarma sobre los peligros de dar rienda suelta a los chatbots durante la temporada electoral: aunque los chatbots de IA son ciertamente impresionantes, siguen produciendo ocasionalmente información cuestionable.

Los votantes nunca deben confiar en los chatbots de IA para obtener información sobre el voto y las elecciones. Hay demasiadas dudas sobre la exactitud y la integridad de la información, dijo la semana pasada Alexandra Reeve Givens, directora general del Centro para la Democracia y la Tecnología.

Además, la fiscal general del estado de Nueva York, Letitia James, emitió una advertencia el viernes pasado después de que su oficina probara varios chatbots de IA. Dijo que cuando su equipo hizo preguntas relacionadas con las elecciones, no les gustaron las respuestas que recibieron. La desinformación dio en el blanco.

Los neoyorquinos que confían en chatbots en lugar de fuentes oficiales del gobierno para responder a preguntas relacionadas con la votación corren el riesgo de estar mal informados e incluso perder la oportunidad de votar debido a información inexacta, dijo la oficina del fiscal general,

OpenAI ha añadido una función a ChatGPT que anima a los usuarios que buscan resultados electorales a consultar fuentes de noticias fiables como Associated Press y Reuters; la función, introducida el 5 de noviembre, es una apelación suave.

Este año, las campañas políticas en todo el mundo podrían afectar a más de cuatro mil millones de personas en más de 40 países. Con tanto en juego, el riesgo de que la desinformación generada por la IA se propague a través de las fronteras es muy alto.

Una vez más, el informe de Clarity sobre el aumento del 900% de los contenidos falsos toca la fibra sensible. El hecho de que algunos de estos vídeos falsos estén vinculados a campañas de influencia respaldadas por Rusia subraya aún más la gravedad del problema.