Compass Investments

Grok telah menunjukkan perilaku yang tidak aman, termasuk membuat konten yang agresif dan tidak pantas, dan kebocoran di masa lalu dari sistem dialog telah menimbulkan masalah privasi.

Warren menyoroti kerentanan pertahanan siber seperti kerentanan terhadap keracunan data dan potensi eksploitasi oleh pihak lawan.

Dalam sebuah surat tertanggal 15 Maret, Warren mencatat bahwa Badan Keamanan Nasional (NSA) dan General Services Administration (GSA) telah menyatakan keprihatinannya atas langkah tersebut. Dia juga menunjuk pada perilaku chatbot Grok milik xAI yang mengganggu, mengutip contoh-contohnya yang menghasilkan hasil yang berbahaya, termasuk rekomendasi kekerasan, materi anti-Semit, dan konten yang tidak pantas yang memengaruhi anak di bawah umur. Menurut laporan terbaru, NSA “melakukan analisis pribadi …. [dan] menyimpulkan bahwa Grok memiliki masalah keamanan khusus yang tidak umum pada model lainnya, tulis Warren. “Saya khawatir bahwa kurangnya langkah-langkah keamanan yang memadai dari Grok dapat menimbulkan ancaman serius bagi keselamatan personel militer AS dan keamanan siber dari sistem tertutup, terutama jika Grok berhasil mendapatkan akses ke informasi militer yang sensitif dan sistem operasional, lanjut Warren.

Senator Warren mendesak Hegseth untuk segera memberikan rincian tentang bagaimana Departemen Pertahanan berencana untuk mengatasi potensi ancaman keamanan nasional yang ditimbulkan oleh sistem Grok xAI. Dia juga menyatakan keprihatinannya bahwa perusahaan tersebut mungkin tidak melakukan tindakan pencegahan yang memadai, dengan mengutip laporan bahwa sejumlah besar percakapan Grok yang diduga bersifat pribadi telah tersedia melalui mesin pencari.

Warren juga mengutip data dari The Wall Street Journal, yang menyatakan bahwa orang-orang yang memiliki pengetahuan tentang pengujian pemerintah telah mengamati bahwa chatbot lebih rentan terhadap keracunan data dibandingkan model serupa, sebuah proses di mana manipulasi atau informasi palsu merusak kumpulan data yang mendasarinya.

Senator tersebut berpendapat bahwa kerentanannya dapat meningkatkan risiko penggunaannya oleh kekuatan musuh yang menargetkan sistem AS.

Sebagai kepala Departemen Pertahanan, Anda memiliki kewajiban untuk melindungi informasi penting dan rahasia serta untuk mendapatkan peralatan terbaik melalui prosedur yang kompetitif.

Akan tetapi, di bawah kepemimpinan Anda, Departemen memberikan kontrak senilai hingga 200 juta dolar AS kepada xAI dalam situasi yang menimbulkan pertanyaan tentang proses permintaan xAI karena xAI tidak memiliki reputasi atau rekam jejak yang biasanya menghasilkan kontrak pemerintah yang menguntungkan, tulis Warren.

Selain itu, Warren memperingatkan bahwa setiap kebocoran informasi pemerintah melalui Grok xAI dapat mengekspos operasi militer rahasia, kegiatan intelijen, dan berpotensi membahayakan personel militer. Dia menekankan bahwa masih belum jelas protokol keamanan, metode pemrosesan data, atau perlindungan keamanan apa yang telah diberikan xAI kepada Kementerian Pertahanan, dan apakah perlindungan ini telah diuji sebelum Grok diberikan akses ke jaringan tertutup.

Mengapa Senator Warren mengkhawatirkan GROK dari xAI?

Warren khawatir bahwa Grok mampu memberikan hasil yang merusak dan bahwa perlindungan yang tidak memadai dapat membahayakan rahasia militer dan personel AS.

Badan federal mana yang telah menghubungi GROK?

Badan Keamanan Nasional (NSA) dan General Services Administration (GSA) dilaporkan telah memberi tahu Departemen Pertahanan tentang kemungkinan bahaya.