Compass Investments

Grok, agresif ve uygunsuz içerik üretmek de dahil olmak üzere güvenli olmayan davranışlar sergiledi ve diyalog sistemlerinden geçmiş sızıntılar gizlilik endişelerini artırdı.

Warren, veri zehirlenmesine yatkınlık ve düşmanlar tarafından potansiyel istismar gibi siber savunma açıklarının altını çizdi.

Warren, 15 Mart tarihli mektubunda hem Ulusal Güvenlik Ajansı (NSA) hem de Genel Hizmetler İdaresi’nin (GSA) bu hamleyle ilgili endişelerini dile getirdiğini kaydetti. Ayrıca xAI’nin Grok chatbot’unun rahatsız edici davranışlarına işaret ederek, şiddet içeren öneriler, anti-Semitik materyaller ve reşit olmayanları etkileyen uygunsuz içerikler de dahil olmak üzere kötü niyetli sonuçlar ürettiğine dair örnekler verdi. Son raporlara göre, NSA “özel bir analiz gerçekleştirdi …. [ve] Grok’un diğer modellerde görülmeyen belirli güvenlik sorunları olduğu sonucuna vardı, diye yazdı Warren.

Warren sözlerine şöyle devam etti: “Grok’un yeterli güvenlik önlemlerine sahip olmamasının, özellikle de Grok’un hassas askeri bilgilere ve operasyonel sistemlere erişim sağlaması halinde, ABD askeri personelinin güvenliği ve kapalı sistemlerin siber güvenliği açısından ciddi bir tehdit oluşturabileceğinden endişe duyuyorum.

Senatör Warren, Hegseth’i Savunma Bakanlığı’nın xAI’nin Grok sisteminin yarattığı potansiyel ulusal güvenlik tehditlerini nasıl ele almayı planladığı konusunda derhal ayrıntılı bilgi vermeye çağırdı. Ayrıca, Grok’un özel olduğu iddia edilen konuşmalarının büyük bir kısmının daha önce arama motorları aracılığıyla erişilebilir hale getirildiğine dair raporlara atıfta bulunarak, şirketin yeterli önlem almamış olabileceğine dair endişelerini dile getirdi.

Warren ayrıca Wall Street Journal’ın verilerine atıfta bulunarak, hükümet testleri hakkında bilgi sahibi olan kişilerin chatbot’un benzer modellere kıyasla manipülasyon ya da yanlış bilginin temel veri setlerini bozduğu bir süreç olan veri zehirlenmesine karşı daha hassas olduğunu gözlemlediklerini belirtti.

Senatör, bu hassasiyetin ABD sistemlerini hedef alan düşman güçler tarafından kullanılma riskini artırabileceğini savundu.

Savunma Bakanlığı’nın başı olarak, kritik ve gizli bilgileri korumak ve rekabetçi prosedürler yoluyla en iyi araçları tedarik etmekle yükümlüsünüz.

Ancak, sizin liderliğiniz altında, Bakanlık xAI’ye 200 milyon dolar değerinde bir sözleşme verdi ve bu durum xAI’nin talep süreci hakkında soru işaretleri yarattı çünkü xAI genellikle kazançlı devlet sözleşmelerine yol açan türden bir itibara ya da geçmişe sahip değildi.

Ayrıca Warren, xAI’nin Grok’u aracılığıyla hükümet bilgilerinin sızdırılmasının gizli askeri operasyonları, istihbarat faaliyetlerini ifşa edebileceği ve potansiyel olarak askeri personeli tehlikeye atabileceği uyarısında bulundu. Warren, xAI’nin Savunma Bakanlığı’na hangi güvenlik protokollerini, veri işleme yöntemlerini veya güvenlik önlemlerini sağladığının ve bu önlemlerin Grok’a kapalı ağlara erişim izni verilmeden önce test edilip edilmediğinin belirsizliğini koruduğunu vurguladı.

Senatör Warren xAI’nin GROK’u konusunda neden endişe duyuyor?

Warren, Grok’un zarar verici sonuçlar üretebileceğinden ve yetersiz güvenlik önlemlerinin askeri sırları ve ABD personelini tehlikeye atabileceğinden endişe duyuyor.

Hangi federal kurumlar GROK ile temasa geçti?

Ulusal Güvenlik Ajansı (NSA) ve Genel Hizmetler İdaresi’nin (GSA) Savunma Bakanlığı’nı olası tehlikeler konusunda bilgilendirdiği bildirildi.