Compass Investments

Grok ha demostrado un comportamiento inseguro, que incluye la generación de contenidos agresivos e inapropiados, y las filtraciones anteriores de los sistemas de diálogo han suscitado preocupaciones sobre la privacidad. Warren destacó las vulnerabilidades de la ciberdefensa, como la susceptibilidad al envenenamiento de datos y la posible explotación por parte de adversarios.

En una carta fechada el 15 de marzo, Warren señalaba que tanto la Agencia de Seguridad Nacional (NSA) como la Administración General de Servicios (GSA) han expresado su preocupación por la medida. También señaló el inquietante comportamiento del chatbot Grok de xAI, citando ejemplos en los que generaba resultados maliciosos, incluidas recomendaciones violentas, material antisemita y contenido inapropiado que afectaba a menores. Según los últimos informes, la NSA “realizó un análisis privado …. [y] llegó a la conclusión de que Grok presentaba problemas de seguridad específicos poco comunes en otros modelos, escribió Warren. “Me preocupa que la aparente falta de medidas de seguridad adecuadas de Grok pueda suponer una grave amenaza para la seguridad del personal militar estadounidense y la ciberseguridad de los sistemas cerrados, especialmente si Grok consiguiera acceder a información militar sensible y a sistemas operativos, continuó Warren.

La senadora Warren instó a Hegseth a proporcionar inmediatamente detalles sobre cómo planea el Departamento de Defensa abordar las posibles amenazas a la seguridad nacional que plantea el sistema Grok de xAI. También expresó su preocupación por la posibilidad de que la empresa no hubiera tomado precauciones suficientes, citando informes de que grandes cantidades de conversaciones supuestamente privadas de Grok se habían puesto previamente a disposición a través de motores de búsqueda.

Warren también citó datos de The Wall Street Journal, según los cuales personas con conocimiento de las pruebas gubernamentales han observado que el chatbot era más susceptible que otros modelos similares al envenenamiento de datos, un proceso en el que la manipulación o la información falsa corrompe los conjuntos de datos subyacentes.

El senador argumentó que su susceptibilidad podría aumentar el riesgo de su uso por fuerzas hostiles dirigidas contra sistemas estadounidenses.

Como responsable del Departamento de Defensa, usted tiene la obligación de proteger la información crítica y clasificada y de adquirir las mejores herramientas mediante procedimientos competitivos.

Sin embargo, bajo su dirección, el Departamento adjudicó a xAI un contrato por valor de hasta 200 millones de dólares en circunstancias que planteaban dudas sobre el proceso de licitación de xAI, ya que xAI no tenía el tipo de reputación o historial que suele conducir a lucrativos contratos gubernamentales, escribió Warren.

Además, Warren advirtió de que cualquier filtración de información gubernamental a través de Grok de xAI podría poner al descubierto operaciones militares encubiertas y actividades de inteligencia, y potencialmente poner en peligro al personal militar. Subrayó que sigue sin estar claro qué protocolos de seguridad, métodos de procesamiento de datos o salvaguardias de seguridad ha proporcionado xAI al Ministerio de Defensa, y si estas salvaguardias se probaron antes de conceder a Grok acceso a redes cerradas.

¿Por qué le preocupa al senador Warren el GROK de xAI?

Warren está preocupada porque Grok es capaz de producir resultados perjudiciales y porque unas salvaguardias inadecuadas podrían comprometer secretos militares y al personal estadounidense.

¿Qué agencias federales se han puesto en contacto con GROK?

La Agencia de Seguridad Nacional (NSA) y la Administración General de Servicios (GSA) habrían notificado al Departamento de Defensa los posibles peligros.