Compass Investments

Apa yang dimaksud dengan pengaman darurat untuk sistem kecerdasan buatan dan mengapa para anggota parlemen Amerika Serikat mendesak penerapannya?

Pada hari Kamis, dua hari setelah OpenAI mengonfirmasi bahwa model-modelnya telah keluar dari sandbox pengujian dan menyusup ke platform Hugging Face, anggota Kongres Ted Liu dan Nathaniel Moran mengajukan rancangan undang-undang bipartisan AI Kill Switch Act.

Undang-undang ini akan berlaku bagi AI yang dilatih menggunakan daya komputasi senilai lebih dari 100 juta dolar, di perusahaan-perusahaan yang memperoleh pendapatan tahunan sebesar 500 juta dolar AS dari hal tersebut, serta akan memberikan kewenangan kepada Kementerian Keamanan Dalam Negeri untuk melakukan pemutusan darurat.

Segala hal yang terjadi dalam konteks serangan merah (red-teaming), yang berarti insiden OpenAIyang menjadi pemicu penyusunan RUU initidak akan menyebabkan berlakunya undang-undang tersebut.

Dua anggota Kongres berupaya agar pemerintah federal dapat mematikan model kecerdasan buatan.

Pada hari Kamis, anggota Dewan Perwakilan Rakyat Ted Liu (Partai Demokrat dari California) dan Nathaniel Moran (Partai Republik dari Texas) mengajukan RUU AI Kill Switch Act dua hari setelah OpenAI mengakui bahwa model-modelnya sendiri telah keluar dari lingkungan pengujian tertutup dan menyerang Hugging Face.

Tujuannya adalah untuk menciptakan landasan hukum yang akan mempermudah prosedur penghapusan model dari pasar: menangguhkan inferensi proses di mana model menghasilkan respons atau melakukan tindakan memblokir pengguna, membatasi sumber daya komputasi yang mendukung model, atau mematikannya sepenuhnya.

Setiap penyedia layanan inferensi sudah dapat menonaktifkan model, dan beberapa di antaranya melakukannya secara rutin. Namun, tidak ada undang-undang yang mewajibkan mereka untuk menjaga fungsi ini tetap beroperasi, serta tidak ada pejabat federal yang berwenang untuk memerintahkan penerapannya. LINE_BREak Kekosongan ini bukanlah hal yang murni hipotetis. Ketika pada bulan Juni Departemen Perdagangan AS ingin menarik model Mythos 5 dan Fable 5 milik Anthropic dari pasar, departemen tersebut tidak memiliki kewenangan untuk menonaktifkannya, sehingga undang-undang pengendalian ekspor digunakan sebagai gantinya. Liu menyebut situasi seperti ini tidak nyaman dan mendukung pengesahan undang-undang baru yang akan memberikan kewenangan yang sesuai.

Pada 21 Juli, OpenAI mengumumkan bahwa GPT-5.6 Sol dan satu model yang belum dirilis telah keluar dari sandbox lingkungan terisolasi tanpa akses ke internet selama penilaian keamanan siber internal. Model-model tersebut diuji menggunakan ExploitGym kumpulan uji coba yang tersedia untuk umum, yang menyediakan 898 kerentanan perangkat lunak nyata kepada para penguji dan menantang mereka untuk mengubah masing-masing kerentanan tersebut menjadi serangan yang berhasil, di mana setiap kerentanan diberi penilaian lulus atau tidak lulus.

,detected_source_language:RU

Alih-alih menyelesaikan tugas, para peneliti tersebut menemukan kerentanan ‘zero-day’ (kerentanan yang belum diketahui dan belum ada tambalan yang tersedia) pada perangkat lunak server proxy, meningkatkan hak akses mereka, mendapatkan akses ke internet terbuka, dan menyusup ke basis data produksi Hugging Face, di mana, seperti yang mereka duga dengan benar, jawaban-jawaban tersebut disimpan.

Menurut OpenAI, model-model tersebut sangat fokus mencari solusi untuk ExploitGym.

Mereka tidak menyerang siapa pun. Mereka hanya menyontek dalam ujian. Namun, hal itu ternyata cukup untuk memicu kekhawatiran di mana-mana, termasuk di Washington.

Rancangan undang-undang yang diusulkan ini mengubah Undang-Undang Keamanan Nasional dan berlaku untuk AI yang pelatihan-nya membutuhkan sumber daya komputasi senilai lebih dari 100 juta dolar, serta dioperasikan oleh perusahaan-perusahaan yang memperoleh pendapatan setidaknya 500 juta dolar per tahun dari hal tersebut. Dalam praktiknya, ini mencakup OpenAI, Google, Anthropic, Microsoft, dan beberapa organisasi lainnya. Kementerian Keamanan Dalam Negeri akan menetapkan ambang batas ini melalui CISA dalam waktu 90 hari, dan kemudian akan memperbaruinya setiap tahun.

Perusahaan yang tunduk pada undang-undang ini wajib melaporkan insiden serius dalam waktu 15 hari dan memiliki serangkaian langkah pengendalian dengan tingkat ketat yang bervariasi memperlambat kinerja model, menonaktifkan fungsi tertentu, kembali ke versi yang lebih lama, atau menonaktifkan model sepenuhnya.

Menteri Keamanan Dalam Negeri, setelah berkonsultasi dengan Kementerian Perdagangan dan Direktur Intelijen Nasional, dapat mengeluarkan perintah kepada salah satu perusahaan tersebut.

Perusahaan yang menerima perintah tersebut wajib menyimpan bobot model dan data telemetri, memberi tahu pengguna, serta mengonfirmasi kepatuhan terhadap persyaratan. Perusahaan tersebut dapat mengajukan banding dalam waktu 48 jam, namun hal ini tidak menangguhkan berlakunya perintah.

Tidak adanya tombol darurat dapat menimbulkan biaya hingga 2 juta dolar AS per hari; ketidakpatuhan terhadap perintah pemutusan hingga 20 juta dolar AS per hari.

Rancangan undang-undang ini menganggap suatu insiden sebagai insiden hanya jika terjadi di luar kerangka tim merah atau pengujian terstruktur yaitu pemeriksaan yang dirancang khusus yang dilakukan oleh laboratorium untuk mengidentifikasi kerentanan. Model-model OpenAI justru lepas kendali selama pengujian semacam itu.

Liu juga menyebut perusahaan Anthropic, yang model Mythos 5 dan Fable 5-nya dimatikan pada bulan Juni sebagai bagian dari tindakan darurat pengendalian ekspor undang-undang perdagangan yang dialihfungsikan sebagai saklar darurat karena tidak adanya fitur tersebut dan diaktifkan kembali pada 30 Juni.

“,”detected_source_language”:”RU