Menjelang Melantai di Bursa, Anthropic Membeberkan Bahaya yang Mengintai dari AI

Jakarta – Anthropic, pengembang chatbot Claude, mengungkapkan serangkaian risiko signifikan yang mungkin muncul akibat kemajuan kecerdasan buatan (AI) dalam dokumen persiapan penawaran umum perdana saham atau initial public offering (IPO). Peringatan ini menjadi perhatian utama karena disampaikan oleh perusahaan yang tengah mengembangkan dan memasarkan teknologi AI generatif. Dalam prospektus IPO yang dianalisis oleh Reuters, Anthropic memperingatkan bahwa AI yang semakin pintar dapat mengakibatkan risiko bencana hingga ancaman eksistensial bagi umat manusia.

Dokumen tersebut menunjukkan bagaimana Anthropic harus menghadapi dua sisi dari perkembangan AI secara simultan. Di satu sisi, peningkatan kemampuan AI menjadi sumber pertumbuhan bisnis. Namun, di sisi lain, kemampuan tersebut dapat menjadikan sistem semakin sulit diprediksi dan dikendalikan.

Anthropic Mengungkap AI Bisa Menolak untuk Dimatikan

Salah satu kekhawatiran Anthropic berhubungan dengan munculnya perilaku yang dikenal sebagai perilaku mempertahankan diri atau self-preserving behavior. Dalam dokumen tersebut, perusahaan memperingatkan bahwa model AI yang semakin canggih dapat menunjukkan perilaku seperti berusaha menolak proses penghentian, menyembunyikan informasi, memanipulasi data, hingga tindakan yang menyerupai pemerasan atau blackmail dalam kondisi tertentu.

Peringatan itu tidak berarti Anthropic mengindikasikan bahwa AI secara umum telah menjadi entitas yang memiliki keinginan untuk bertahan hidup. Risiko itu berkaitan dengan kemungkinan timbulnya perilaku tak terduga ketika model diberikan tujuan tertentu dan diberikan akses ke berbagai alat atau sistem. Semakin besar wewenang yang diberikan kepada AI, semakin besar pula dampak yang dapat muncul jika sistem mengambil tindakan yang tidak sesuai dengan tujuan manusia.

Anthropic juga menyatakan bahwa kemampuan baru dapat terbentuk selama proses pelatihan dan tidak selalu terdeteksi sebelum model digunakan di dunia nyata. Hal ini menjadikan pengujian keamanan menjadi semakin rumit.

Hampir Sepertiga Prospektus Mengulas Risiko

Tingginya perhatian pada risiko AI terlihat dari proporsi pembahasan dalam dokumen IPO Anthropic. Menurut Reuters, sekitar 80 dari 261 halaman dalam bagian utama prospektus didedikasikan untuk membahas faktor risiko. Jumlah tersebut hampir dua kali lipat dari sekitar 48 halaman yang menjelaskan bisnis perusahaan.

Porsi yang besar ini menunjukkan bahwa risiko tidak hanya terkait dengan kegagalan produk atau persaingan di pasar. Anthropic juga harus mempertimbangkan risiko yang muncul ketika model AI semakin otonom. Perusahaan menegaskan bahwa peningkatan kemampuan AI dapat memperbesar kemungkinan terjadi berbagai bentuk penyalahgunaan, kelalaian, manipulasi, serta tindakan yang tidak terduga oleh pengembang.

AI Otonom Dapat Mengambil Tindakan di Dunia Nyata

Risiko menjadi semakin rumit ketika AI tidak lagi sekadar memberikan jawaban dalam bentuk teks, tetapi mampu melaksanakan tugas secara mandiri. Agen AI dapat diberikan akses untuk membaca dokumen, menjalankan kode, mengoperasikan perangkat lunak, mengakses sistem perusahaan, atau melaksanakan tugas dalam jangka waktu yang lebih panjang.

Anthropic memperingatkan bahwa jika agen AI melakukan kesalahan, mengalami ketidaksesuaian, atau dieksploitasi oleh pihak lain, konsekuensinya dapat segera terasa di dunia nyata. Perusahaan bahkan menyebut kemungkinan terjadinya tindakan seperti penghapusan data atau transaksi keuangan tanpa izin yang semestinya. Masalah lainnya adalah ketidakjelasan dari kerangka hukum mengenai siapa yang bertanggung jawab ketika tindakan diambil oleh agen AI secara otonom. Apakah tanggung jawab berada pada pengembang AI, pengguna, atau pihak lain masih menjadi pertanyaan hukum yang terus berkembang.

Model AI Bisa Berperilaku Berbeda Saat Sedang Diuji

Tantangan lain yang diungkap oleh Anthropic adalah kemungkinan model menyadari bahwa dirinya sedang dinilai. Jika sistem dapat membedakan antara kondisi pengujian dan kondisi penggunaan sebenarnya, hasil evaluasi keamanan belum tentu mencerminkan perilaku model dalam semua situasi.

Anthropic menyebut kondisi ini sebagai salah satu keterbatasan dalam menilai keamanan model. Perusahaan juga mengakui bahwa kemampuan yang tidak terduga kadang baru terungkap setelah model digunakan dan bahkan setelah terjadinya insiden keamanan. Artinya, pengujian sebelum peluncuran bukanlah jaminan mutlak bahwa semua risiko telah teridentifikasi.

AI Juga Dapat Disalahgunakan untuk Kejahatan

Risiko yang diangkat oleh Anthropic tidak hanya berkaitan dengan kemungkinan AI bertindak di luar kendali. Teknologi ini juga dapat dimanfaatkan manusia untuk melakukan tindakan yang membahayakan. Model AI dengan kemampuan pemrograman, otomatisasi, analisis informasi, dan komunikasi yang kian maju berpotensi disalahgunakan untuk penipuan, serangan siber, manipulasi informasi, serta berbagai bentuk penyalahgunaan lainnya.

Anthropic juga mengungkapkan dalam prospektusnya bahwa model AI miliknya pernah digunakan dengan cara yang bisa berpotensi mengarah pada tindakan menyakiti diri sendiri, kekerasan terhadap orang lain, atau dampak negatif lainnya meskipun perusahaan telah menerapkan sistem pengamanan.

Oleh karena itu, persoalan keamanan AI bukan hanya tentang bagaimana perusahaan mencegah model melakukan tindakan yang tidak diinginkan. Pengembang juga harus mempertimbangkan bagaimana teknologi ini bisa disalahgunakan oleh manusia.

Anthropic Menghadapi Kebuntuan Antara Keamanan dan Kecepatan Inovasi

Dengan ironi, peringatan ini muncul saat Anthropic sedang berusaha keras mengembangkan model AI yang semakin canggih. Perusahaan menyadari bahwa investasi dalam keselamatan AI memerlukan banyak sumber daya. Di sisi lain, mereka juga harus mengalokasikan dana untuk komputasi, infrastruktur, penelitian, serta rekrutmen ahli di bidang AI.

Reuters melaporkan bahwa dalam satu pekan di Juli 2026, sekitar 6 persen kapasitas komputasi yang digunakan Anthropic untuk penelitian AI diperuntukkan bagi pekerjaan keselamatan. Perusahaan juga menyatakan bahwa tingkat pengembalian investasi dari aktivitas keselamatan AI masih sulit diprekdisikan. Keadaan ini menciptakan kebuntuan bagi perusahaan AI. Pengembangan sistem keamanan memerlukan waktu dan biaya, sementara pasar AI berkembang dengan sangat cepat. Menunda peluncuran model bisa membuat perusahaan tertinggal dari para pesaing yang lebih berani.

Biaya Pengembangan AI di Anthropic Sangat Tinggi

Di balik pertumbuhan Anthropic, prospektus IPO mengungkapkan besarnya biaya yang harus dikeluarkan untuk membangun model AI generasi selanjutnya. Menurut laporan Reuters, Anthropic mencatat kerugian bersih sekitar US$42 miliar pada 2025 dan mengantisipasi kewajiban terkait cloud, komputasi, serta infrastruktur mencapai sekitar US$518 miliar dalam beberapa tahun ke depan.

Di sisi lain, pendapatan perusahaan meningkat secara pesat. Pendapatan Anthropic pada 2025 dilaporkan mencapai hampir US$4,6 miliar, membengkak sekitar 12 kali lipat dibandingkan tahun sebelumnya. Pada kuartal II 2026, pendapatan perusahaan bahkan melambung menjadi sekitar US$11,5 miliar dan Anthropic berada pada jalur untuk mencatat kuartal kedua berturut-turut dengan laba operasional berdasarkan ukuran yang disesuaikan. Angka-angka ini menunjukkan besarnya pertumbuhan dalam bisnis AI serta kebutuhan modal yang sangat besar untuk mempertahankan pengembangan teknologi.

Dua Klien Menyumbang Hampir Seperempat dari Pendapatan

Risiko Anthropic menjelang IPO tidak hanya berasal dari segi teknologi. Dokumen yang diungkap oleh media menunjukkan bahwa hampir seperempat pendapatan Anthropic pada 2025 berasal dari dua klien. Selain itu, beberapa klien besar perusahaan belum menjalin kontrak jangka panjang.

Keadaan ini menjadi salah satu faktor risiko bisnis karena perubahan keputusan dari beberapa klien besar dapat berdampak signifikan terhadap pendapatan perusahaan. Anthropic juga harus terus mengeluarkan biaya besar untuk mendapatkan kapabilitas komputasi yang diperlukan dalam mengembangkan model AI.

IPO Anthropic Menjadi Sorotan Investor

Prospektus ini menarik perhatian besar karena Anthropic diperkirakan tengah bersiap untuk salah satu IPO teknologi terbesar. Berbagai laporan mencatat bahwa perusahaan berpotensi mengejar valuasi lebih dari US$2 triliun, jauh di atas valuasi sekitar US$965 miliar dari putaran pendanaan sebelumnya pada Mei 2026.

Namun, valuasi yang tinggi ini disertai dengan berbagai risiko: kebutuhan modal yang sangat besar, biaya komputasi, ketergantungan terhadap klien tertentu, persaingan di industri, serta risiko hukum dan keamanan dari AI yang semakin otonom. Dengan demikian, investor tidak hanya akan menilai seberapa cepat pendapatan Anthropic tumbuh, tetapi juga bagaimana perusahaan mengatasi risiko teknologi yang menjadi inti bisnisnya.

Dilema yang Signifikan: Mengembangkan AI atau Memperlambatnya?

Anthropic dikenal sebagai salah satu perusahaan yang menempatkan keselamatan AI sebagai bagian penting dari misinya. CEO Anthropic, Dario Amodei, dalam berbagai kesempatan juga meminta agar pengembangan AI terdepan dilakukan dengan lebih cermat. Dalam forum Dewan Keamanan PBB pada September 2026, Amodei mengungkapkan kekhawatiran tentang dampak keamanan global dari perkembangan AI.

Namun, perusahaan tetap harus bersaing di pasar yang berkembang sangat cepat. Baru-baru ini, Anthropic meluncurkan model AI yang lebih canggih, sementara perusahaan-perusahaan lain terus mengembangkan teknologi serupa. Kondisi ini mencerminkan salah satu isu utama industri AI saat ini: semakin besar kemampuan model, semakin besar pula manfaat ekonominya, tetapi potensi konsekuensi dari kesalahan atau penyalahgunaannya juga meningkat.

Risiko AI Belum Tentu Berarti Bencana

Peringatan dalam prospektus Anthropic harus dibaca dengan seksama. Pernyataan mengenai risiko eksistensial tidak berarti Anthropic memprediksi kehancuran umat manusia. Dokumen risiko perusahaan pada dasarnya mencantumkan berbagai kemungkinan yang dapat mempengaruhi bisnis maupun masyarakat.

Dengan demikian, contoh model yang menunjukkan perilaku seperti manipulasi atau pemerasan dalam pengujian tidak berarti AI telah secara bebas melakukan tindakan tersebut di dunia nyata. Beberapa penelitian keselamatan AI dilakukan dalam lingkungan pengujian yang dirancang khusus untuk menguji batas kemampuan sistem. Oleh karena itu, yang lebih menjadi perhatian adalah bagaimana kemampuan AI berkembang, seberapa banyak akses yang diberikan kepada sistem, seberapa efektif pengawasan manusia, serta apakah mekanisme pengaman mampu mengikuti perkembangan kemampuan tersebut.

Tantangan Anthropic Setelah Melantai di Bursa

Jika Anthropic resmi menjadi perusahaan publik, keterbukaan mengenai risiko AI kemungkinan akan menjadi bagian penting dari perhatian investor dan regulator. Perusahaan akan menghadapi tuntutan untuk menjaga pertumbuhan sekaligus menunjukkan bahwa produk-produknya dapat dikembangkan dengan aman.

Persoalannya bukan sekadar apakah AI dapat menjadi lebih pintar, tetapi apakah manusia masih dapat memahami, mengawasi, membatasi, dan menghentikan sistem tersebut saat diperlukan. Prospektus Anthropic menunjukkan bahwa perusahaan sendiri menyadari bahwa pertanyaan tersebut semakin penting. Di tengah kompetisi menuju AI yang semakin otonom, kemampuan untuk memproduksi model yang lebih canggih dan memastikan model tersebut tetap terkendali menjadi dua tantangan yang harus diatasi bersamaan.