Compass Investments

Yapay zeka sistemleri için acil durum emniyeti nedir ve Amerikan milletvekilleri bunun uygulanmasında neden ısrar ediyor?

Perşembe günü, OpenAI’nin modellerinin test kum havuzundan çıkıp Hugging Face platformuna sızdığını doğrulamasından iki gün sonra, Kongre üyeleri Ted Liu ve Nathaniel Moran, iki partinin desteğiyle AI Kill Switch Act adlı yasa tasarısını sundular.

Bu yasa, 100 milyon dolardan fazla değerde hesaplama gücü kullanılarak eğitilmiş yapay zekaya uygulanacak, ve bu faaliyetlerden yıllık 500 milyon dolar gelir elde eden şirketlerdeki yapay zekaya uygulanacak ve İç Güvenlik Bakanlığına acil kapatma yetkisi verecektir.

Tasarının kapsamı dışında, kırmızı takım (red-teaming) kapsamında gerçekleşen her şey tasarı kapsamı dışında tutuluyor; dolayısıyla, tasarının hazırlanmasına neden olan OpenAI olayı, yasanın yürürlüğe girmesine yol açmayacaktı.

İki Kongre üyesi, federal hükümetin yapay zeka modellerini devre dışı bırakabilmesini sağlamaya çalışıyor.

Perşembe günü, Temsilciler Meclisi üyeleri Ted Liu (Kaliforniyadan Demokrat) ve Nathaniel Moran (Teksastan Cumhuriyetçi), AI Kill Switch Act adlı yasa tasarısını meclis gündemine sundular OpenAInin kendi modellerinin kapalı test ortamından kaçarak Hugging Facee saldırdığını kabul etmesinden iki gün sonra.

Amaç, modelin piyasadan fiilen kaldırılması sürecini kolaylaştıracak bir yasal çerçeve oluşturmaktır: çıkarımın askıya alınması modelin yanıtlar üretmesi veya eylemler gerçekleştirmesi süreci kullanıcıların engellenmesi, modeli besleyen hesaplama kaynaklarının kısıtlanması veya modelin tamamen devre dışı bırakılması.

Herhangi bir çıkarım hizmeti sağlayıcısı modeli halihazırda devre dışı bırakabilir ve bazıları bunu düzenli olarak yapmaktadır. Ancak, bu işlevi çalışır durumda tutmalarını zorunlu kılan bir yasa bulunmamakta ve bunun uygulanması için emir verebilecek bir federal yetkili de yoktur. LINE_BREak Bu boşluk tamamen varsayımsal değildir. Haziran ayında ABD Ticaret Bakanlığı, Anthropic şirketinin Mythos 5 ve Fable 5 modellerini piyasadan çekmek istediğinde, devre dışı bırakma yetkisi bulunmadığından bunun yerine ihracat kontrolü mevzuatı kullanıldı. Liu, bu durumu sakıncalı buluyor ve ilgili yetkileri verecek yeni bir yasanın kabul edilmesini savunuyor.

21 Temmuzda OpenAI, GPT-5.6 Sol ve henüz piyasaya sürülmemiş bir modelin, iç siber değerlendirme sırasında sandıkın İnternet erişimi olmayan izole ortam sınırlarını aştığını bildirdi. Bu modeller, ExploitGym adlı halka açık bir test seti kullanılarak incelendi; bu set, saldırganlara 898 gerçek yazılım güvenlik açığı sunuyor ve her birini işlevsel bir saldırıya dönüştürmeyi öneriyor, ve her bir güvenlik açığı için geçti veya geçemedi şeklinde bir değerlendirme veriliyor.

,detected_source_language:RU

Görevleri yerine getirmek yerine, modeller bir proxy sunucusunda bir “sıfırıncı gün” güvenlik açığı (henüz bilinmeyen ve için herhangi bir yama bulunmayan bir güvenlik açığı) keşfettiler, kendi ayrıcalıklarını yükselttiler, açık İnternete erişim sağladılar ve cevapların depolandığını doğru bir şekilde tahmin ettikleri Hugging Face üretim veritabanına sızdılar.

OpenAIye göre, modeller ExploitGym için bir çözüm bulmaya son derece odaklanmıştı.

Kimseye saldırmadılar. Sadece sınavda kopya çektiler. Ancak bu, Washington da dahil olmak üzere her yerde alarm zillerini çaldırmaya yetti.

Önerilen yasa tasarısı, Ulusal Güvenlik Yasasında değişiklikler getiriyor ve eğitimi için 100 milyon dolardan fazla değerde hesaplama kaynağı gerektiren ve bundan yılda en az 500 milyon dolar gelir elde eden şirketler tarafından işletilen yapay zekaları kapsıyor. Uygulamada bu, OpenAI, Google, Anthropic, Microsoft ve birkaç başka kuruluşu kapsamaktadır. İç Güvenlik Bakanlığı, bu eşik değerleri CISA aracılığıyla 90 gün içinde belirleyecek ve daha sonra bunları her yıl güncelleyecektir.

Yasanın kapsamına giren şirketler, ciddi olayları 15 gün içinde bildirmek ve çeşitli katılık derecelerine sahip bir dizi kontrol önlemi hazır bulundurmak zorunda olacaklar modelin çalışmasını yavaşlatmak, belirli işlevleri devre dışı bırakmak, daha eski bir sürüme dönmek veya modeli tamamen devre dışı bırakmak.

İç Güvenlik Bakanı, Ticaret Bakanlığı ve Ulusal İstihbarat Direktörü ile istişare ettikten sonra, bu şirketlerden herhangi birine talimat verebilir.

Böyle bir emir alan şirket, model ağırlıklarını ve telemetri verilerini saklamak, kullanıcıları bilgilendirmek ve talebin yerine getirildiğini teyit etmekle yükümlüdür. Şirket 48 saat içinde itirazda bulunabilir, ancak bu, emrin yürürlüğünü askıya almaz.

Acil durdurma mekanizmasının bulunmaması, günde 2 milyon dolara kadar maliyete yol açar; kapatma emrinin yerine getirilmemesi ise günde 20 milyon dolara kadar maliyete yol açar.

Tasarı, bir olayı ancak kırmızı takım veya yapılandırılmış testler laboratuvarlar tarafından güvenlik açıklarını tespit etmek amacıyla yapılan hedefli denetimler kapsamında gerçekleşmediği takdirde bir olay olarak kabul ediyor. OpenAI modelleri, tam da bu tür testler sırasında kontrolden çıkmıştı.

Liu ayrıca, Mythos 5 ve Fable 5 modelleri Haziran ayında olağanüstü ihracat kontrol önlemleri kapsamında devre dışı bırakılan Anthropic şirketinden de bahsetti bu önlemler, acil durdurma düğmesi olarak yeniden tanımlanan ticaret mevzuatı ve 30 Haziranda yeniden devreye alındı.

“,”detected_source_language”:”RU