Compass Investments

– Anthropic mengklaim bahwa tiga laboratorium AI Tiongkok telah menyedot hasil penelitian Claude dalam jumlah besar dengan menggunakan akun palsu.

Perusahaan percaya bahwa tindakan tersebut melemahkan kontrol ekspor dan membahayakan perlindungan keamanan.

Beberapa kritikus di jaringan X menuduh Anthropic memiliki standar ganda terkait proses pelatihan model AI.

Anthropic menuduh tiga laboratorium AI Tiongkok menyalahgunakan jutaan respons dari chatbot Claude untuk melatih sistemnya, yang menurut perusahaan itu melanggar persyaratan layanan dan melemahkan pembatasan ekspor AS.

Dalam sebuah posting blog yang diterbitkan pada hari Senin, Anthropic mengatakan bahwa mereka menemukan “tindakan yang ditargetkan” oleh pengembang AI DeepSeek, Moonshot, dan MiniMax untuk mengekstrak kemampuan Claude melalui penyulingan model. Perusahaan mengklaim bahwa laboratorium-laboratorium ini menghasilkan lebih dari 16 juta dialog dengan menggunakan sekitar 24.000 akun palsu.

Klaim Anthropic memicu skeptisisme dan cemoohan terhadap X. Para penentang mempertanyakan posisi perusahaan mengingat cara di mana model AI yang mendasarinya, termasuk Claude, dilatih, yang mencerminkan perselisihan yang sedang berlangsung yang lebih luas mengenai hak kekayaan intelektual, hak cipta, dan penggunaan yang adil. “Anda belajar dari internet terbuka dan sekarang Anda menyebutnya sebagai ‘serangan distilasi’ ketika orang lain belajar dari Anda, tulis Tory Green, salah satu pendiri IO.Net, sebuah perusahaan infrastruktur AI. “Laboratorium yang suka berbicara tentang ‘penelitian terbuka’ tiba-tiba mengeluh tentang akses terbuka.

Oh tidak, bukan AI pribadi saya, beraninya mereka menggunakannya untuk melatih model mereka, hanya Anthropic yang berhak menggunakan kekayaan intelektual orang lain, ini tidak dapat diterima!” tulis pengguna X lainnya.

Distilasi adalah cara melatih AI di mana model yang lebih kecil dilatih berdasarkan output dari model yang lebih besar.

Dalam keamanan siber, istilah ini juga dapat merujuk pada serangan penambangan pola, di mana penyerang menggunakan akses yang sah untuk menanyakan sebuah sistem secara sistematis dan kemudian menggunakan jawabannya untuk melatih model yang bersaing. “Kampanye-kampanye ini menjadi semakin aktif dan canggih, kata Anthropic pada hari Senin. “Waktu responsnya singkat dan ancamannya melampaui satu organisasi atau wilayah. Ini akan membutuhkan tindakan cepat dan terkoordinasi dari semua pemain industri, anggota parlemen, dan komunitas AI global.

“Penyulingan mungkin legal: Laboratorium AI menggunakannya untuk membuat model yang lebih kecil dan lebih terjangkau bagi pelanggan mereka, tambah Anthropic dalam posting terpisah di X. Namun, laboratorium asing yang secara ilegal meminjam model AS dapat melewati perlindungan dan menerapkan kemampuan model tersebut pada sistem militer, intelijen, dan pengawasan mereka.

Pada bulan Juni, Reddit menggugat Anthropic, mengklaim bahwa perusahaan tersebut menyalin lebih dari 100.000 postingan dan komentar, menggunakan data tersebut untuk meningkatkan Claude.