Tag: sensor AI

Tak lama setelah dirilis, model kecerdasan buatan (AI) terbaru dari Anthropic, Claude Fable 5, justru menuai gelombang protes. Alih-alih dipuji karena kemampuannya yang canggih, model ini dikritik karena dianggap terlalu berlebihan dalam menerapkan sensor dan pembatasan terhadap penggunanya. Warisan Teknologi yang Terlalu Kuat Claude Fable 5 bukanlah model biasa. Ia dibangun di atas fondasi teknologi yang sama dengan Claude Mythos 5, yang oleh Anthropic disebut sebagai model AI paling canggih mereka saat ini. Mythos 5 sendiri mencatat skor benchmark tertinggi perusahaan di berbagai bidang yang sangat sensitif, seperti biologi, kesehatan, dan keamanan siber. Kekhawatiran akan potensi penyalahgunaan teknologi inilah yang mendorong Anthropic mengambil langkah drastis. Perusahaan membagi teknologi tersebut ke dalam dua versi. Versi pertama, Claude Mythos 5, hanya diberikan kepada organisasi tertentu yang telah lolos proses verifikasi khusus. Sementara versi kedua, Claude Fable 5, dirilis untuk publik dan pelanggan perusahaan dengan pagar pengaman yang jauh lebih ketat. Pagar Pengaman yang Justru Memicu Kritik Pendekatan ini awalnya bertujuan mulia: memungkinkan pengguna mengakses kemampuan AI tingkat lanjut tanpa meningkatkan risiko penyalahgunaan. Namun, praktik di lapangan menunjukkan hasil yang berbeda. Komunitas keamanan siber menjadi pihak pertama yang menyuarakan kekecewaan mereka terhadap model yang dianggap terlalu "dikebiri" ini. Sejumlah peneliti mengeluhkan bahwa Claude Fable 5 terlalu ketat dalam menyaring permintaan. Akibatnya, banyak tugas yang sebenarnya tidak berbahaya ikut diblokir oleh sistem. Ketika sistem mendeteksi topik tertentu, model ini akan langsung menghentikan percakapan dan menampilkan peringatan bahwa pesan pengguna terindikasi berkaitan dengan keamanan siber atau biologi. Suara dari Garda Depan Keamanan Siber Salah satu kritik paling tajam datang dari Valentina "Chompie" Palmiotti, seorang peneliti keamanan di tim IBM X-Force. Melalui media sosial, ia mengungkapkan bahwa Fable 5 menolak hampir semua permintaan yang berkaitan dengan keamanan siber. Ironisnya, penolakan ini bahkan terjadi untuk tugas-tugas yang sangat sederhana dan tidak berbahaya. "Fable menolak setiap permintaan yang sedikit saja berhubungan dengan keamanan siber. Bahkan untuk tugas yang tidak berbahaya seperti membaca artikel blog," tulis Palmiotti. Pernyataan ini menyoroti betapa sistem penyaringan konten di Fable 5 berjalan secara berlebihan, sehingga menghalangi pekerjaan para profesional yang justru membutuhkan alat tersebut untuk memperkuat pertahanan digital. Dampak pada Pengembang dan Praktisi Keamanan Padahal, banyak pengguna hanya ingin meminta bantuan untuk meninjau kode program atau menerapkan praktik keamanan dasar dalam pengembangan perangkat lunak. Tugas-tugas seperti ini merupakan bagian rutin dari pekerjaan para insinyur perangkat lunak dan analis keamanan untuk membangun sistem yang lebih tangguh. Dengan memblokir permintaan semacam itu, Anthropic secara tidak langsung menghambat proses pembelajaran dan pengembangan standar keamanan yang lebih baik. Hal ini menciptakan sebuah paradoks: AI yang dirancang untuk mencegah penyalahgunaan justru menghalangi para ahli yang ingin mencegah penyalahgunaan tersebut. Keputusan Anthropic untuk "mengebiri" AI terkuatnya di versi publik ini memunculkan pertanyaan besar tentang keseimbangan antara keamanan dan aksesibilitas dalam pengembangan teknologi AI. Menemukan titik tengah yang tepat akan menjadi krusial agar alat secanggih ini tidak hanya aman, tetapi juga tetap berguna bagi para profesional yang bekerja di garis depan keamanan digital.

Anthropic Pangkas Kemampuan AI Terkuatnya, Pengguna Protes