SULAWESI SELATAN — Perusahaan rintisan AI yang berbasis di San Francisco ini mempublikasikan pemikirannya dalam sebuah unggahan blog. Anthropic menyebut tren saat ini menunjukkan sistem AI bergerak menuju titik di mana mereka mampu mengembangkan versi diri mereka sendiri yang lebih canggih. Meski belum terjadi, perusahaan menilai momen itu "bisa datang lebih cepat dari yang dipersiapkan sebagian besar institusi."
Menurut Anthropic, AI yang bisa membangun dirinya sendiri membawa dua sisi mata uang. Di satu sisi, teknologi ini berpotensi "membawa kebaikan besar bagi dunia" di bidang sains dan kesehatan. Namun di sisi lain, risiko manusia kehilangan kendali atas sistem AI juga meningkat. Solusi yang ditawarkan adalah perlambatan global atau jeda sementara pengembangan AI, "agar struktur sosial dan penelitian keselarasan (alignment research) bisa mengejar kemajuan teknologi."
Usulan ini muncul di saat posisi bisnis Anthropic sedang menanjak. Berbeda dengan banyak kompetitor yang masih merugi, perusahaan ini dikabarkan berada di jalur menuju kuartal pertama yang menguntungkan. Anthropic baru-baru ini juga mengajukan dokumen ke SEC untuk melantai di bursa saham, kemungkinan besar sebelum akhir tahun.
Seperti dicatat The Wall Street Journal, para kritikus menilai peringatan Anthropic tentang teknologinya sendiri hanyalah taktik pemasaran. Tujuannya, kata mereka, adalah untuk mencitrakan Anthropic sebagai perusahaan AI yang paling bertanggung jawab di antara yang lain, atau membuat produknya tampak paling unggul.
Kritik ini menguat setelah perilisan terbatas model keamanan siber mereka, Mythos. Anthropic hanya memberikan akses ke segelintir mitra terpilih dengan alasan potensi kerusakan jika kemampuan Mythos mengidentifikasi celah keamanan jatuh ke tangan yang salah. Banyak pihak mencurigai ini hanya cara untuk menaikkan pamor produk atau menutupi fakta bahwa Anthropic hanya ingin menjualnya ke perusahaan-perusahaan besar.
Perlu dicatat, usulan Anthropic ini didasarkan pada temuan dari Anthropic Institute, divisi riset yang dibentuk pada Maret lalu. Institusi ini, menurut pernyataan Anthropic saat itu, bertugas "memberi tahu dunia" tentang tantangan yang muncul seiring pengembangan sistem AI yang lebih maju. Bersama para kolaborator, lembaga ini akan meneliti apa yang diperlukan untuk "membangun sistem yang dibutuhkan untuk perlambatan atau jeda yang kredibel."
Jika perusahaan AI setuju untuk melambat, harus ada mekanisme verifikasi yang memastikan semua pihak benar-benar berhenti atau mengurangi pengembangan. Tanpa itu, sebagian bisa saja diam-diam mengembangkan teknologi mereka dan melompat lebih depan. "Perlambatan atau jeda yang berarti membutuhkan banyak laboratorium yang berada di atau dekat batas teknologi, di berbagai negara, yang setuju untuk berhenti dalam kondisi yang sama," tulis Anthropic. "Ini juga membutuhkan masing-masing pihak bisa memverifikasi bahwa yang lain benar-benar telah berhenti."
Anthropic mengakui usulannya hanya bisa terwujud jika semua perusahaan AI di seluruh dunia bersedia berkumpul dan berjanji menghentikan pengembangan untuk sementara. Perusahaan mencontohkan perjanjian senjata nuklir sebagai preseden bahwa hal ini tidak mustahil, meski mereka mengakui perjanjian semacam itu membutuhkan waktu puluhan tahun untuk terbentuk. "Kita tidak punya waktu selama itu," tulis Anthropic, mengingat laju perkembangan AI yang sangat cepat.
Dalam beberapa bulan ke depan, Anthropic berencana mengadakan pembicaraan dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya mengenai isu ini. Hasil dari percakapan tersebut rencananya akan dipublikasikan.