LAMPUNG — Anthropic, perusahaan di balik model AI Claude, menyuarakan keprihatinan serius mengenai laju perkembangan teknologi yang mereka ciptakan sendiri. Dalam sebuah unggahan blog resmi, perusahaan yang berbasis di San Francisco itu menyatakan bahwa tren saat ini mengarah pada sistem AI yang mampu mengembangkan generasi penerusnya secara otonom. Meskipun kondisi itu belum sepenuhnya terwujud, Anthropic meyakini momen tersebut "bisa datang lebih cepat dari yang dipersiapkan oleh sebagian besar institusi."
Menurut Anthropic, AI yang bisa membangun dirinya sendiri memiliki potensi "mendatangkan kebaikan besar bagi dunia," terutama di bidang sains dan kesehatan. Namun, di sisi lain, kemampuan ini juga "meningkatkan risiko manusia kehilangan kendali atas sistem AI." Untuk mengantisipasi skenario yang kerap digambarkan dalam film fiksi ilmiah semacam Skynet, Anthropic mengusulkan perlambatan global.
"Tujuannya adalah untuk memberi waktu bagi struktur sosial masyarakat dan penelitian alignment (penyelarasan) agar bisa mengimbangi kemajuan teknologi," tulis Anthropic. Ide ini bukan sekadar wacana; perusahaan telah mendirikan Anthropic Institute pada Maret lalu sebagai divisi riset yang bertugas mengkaji tantangan dari pengembangan AI canggih dan merumuskan sistem yang diperlukan untuk mendukung perlambatan atau jeda yang kredibel.
Langkah Anthropic ini tidak luput dari skeptisisme. Seperti dilaporkan The Wall Street Journal, para kritikus menilai peringatan tersebut hanyalah taktik pemasaran. Tujuannya diduga untuk membuat Anthropic terlihat sebagai perusahaan AI yang paling etis di antara para pesaingnya, atau untuk mencitrakan produk mereka sebagai yang terbaik dan paling aman.
Kritik ini menguat setelah perilisan model keamanan siber terbaru mereka, Mythos. Anthropic hanya merilis Mythos ke sekelompok mitra terbatas dengan alasan potensi penyalahgunaan kemampuannya dalam mengidentifikasi celah keamanan. Namun, banyak pihak menilai ini hanya cara untuk membangun hype atau menyembunyikan fakta bahwa produk tersebut hanya dijual ke perusahaan-perusahaan besar.
Anthropic mengakui bahwa usulan ini bukan perkara mudah. Agar efektif, perlambatan atau jeda harus melibatkan "banyak laboratorium yang memiliki sumber daya memadai dan berada di garis depan teknologi, di berbagai negara, yang setuju untuk berhenti dalam kondisi yang sama."
Mekanisme verifikasi juga menjadi kunci. Tanpa sistem yang bisa memastikan semua pihak benar-benar berhenti, akan selalu ada celah bagi pengembang nakal untuk diam-diam melesat di depan yang lain. Anthropic mencontohkan perjanjian senjata nuklir sebagai preseden, meskipun mereka mengakui bahwa perjanjian semacam itu membutuhkan waktu puluhan tahun untuk terbentuk—waktu yang tidak dimiliki industri AI yang bergerak sangat cepat.
Ke depannya, Anthropic berencana mengadakan diskusi dengan para pembuat kebijakan, peneliti, dan perusahaan AI lain dalam beberapa bulan ke depan. Hasil dari percakapan ini rencananya akan dipublikasikan untuk menjadi landasan bagi regulasi AI di masa mendatang.