Ilmuwan Peringatkan AI Bisa Picu Kepunahan Manusia

Jakarta – Kekhawatiran mengenai potensi kecerdasan buatan atau artificial intelligence (AI) memicu kepunahan manusia kembali mencuat. Sejumlah peneliti yang bekerja di perusahaan pengembang AI terdepan memperingatkan bahwa perkembangan menuju superintelligence atau kecerdasan buatan yang melampaui kemampuan manusia di hampir seluruh bidang dapat membawa risiko yang sangat besar apabila tidak diimbangi sistem keselamatan dan pengawasan yang memadai.

Peringatan terbaru datang dari sejumlah peneliti Anthropic, perusahaan AI yang dikenal memiliki fokus besar pada keselamatan dan AI alignment. Salah satu peneliti bahkan memperkirakan risiko AI menyebabkan seluruh manusia tewas dalam dekade mendatang berada di atas 10 persen.

Pernyataan tersebut kembali memicu perdebatan global mengenai seberapa cepat pengembangan AI boleh dilakukan dan apakah perusahaan teknologi saat ini telah memiliki mekanisme yang cukup untuk mengendalikan sistem AI yang semakin otonom.

Peneliti Anthropic Ungkap Kekhawatiran Serius

Perhatian publik meningkat setelah Jacob Coxon, mantan peneliti Anthropic yang sebelumnya juga bekerja di OpenAI, mengumumkan pengunduran dirinya dan menyampaikan kritik keras terhadap arah pengembangan AI.

Coxon mengatakan perusahaan-perusahaan AI sedang berlomba menuju self-improving superintelligence, yakni sistem yang mampu meningkatkan kemampuannya sendiri secara signifikan. Menurutnya, sistem semacam itu berpotensi memiliki kemampuan jauh melampaui manusia, termasuk dalam bidang peretasan, penelitian ilmiah, serta kemampuan memperoleh sumber daya dan pengaruh.

Ia memperingatkan bahwa para pengembang AI sendiri sebenarnya menyadari adanya risiko tersebut. Coxon bahkan mengatakan risiko itu bukan sekadar skenario film fiksi ilmiah, melainkan sesuatu yang dipertimbangkan serius oleh sebagian orang yang berada di dalam industri. Pernyataan tersebut kemudian mendapat dukungan dari peneliti Anthropic lainnya.

Ada yang Menilai Risikonya Lebih dari 10 Persen

Evan Hubinger, yang bekerja sebagai Alignment Science Lead di Anthropic, merespons pernyataan Coxon dengan penilaian yang tak kalah mengkhawatirkan. Hubinger mengatakan ia secara pribadi menilai peluang AI menyebabkan seluruh manusia terbunuh berada di atas 10 persen dalam dekade mendatang.

Ia juga mengakui bahwa Anthropic berupaya menangani masalah keselamatan AI, tetapi menurutnya perusahaan tersebut belum memiliki solusi yang benar-benar dapat menyelesaikan persoalan alignment untuk superintelligence dan belum berada pada jalur yang jelas untuk mencapainya.

Penting dicatat, angka lebih dari 10 persen tersebut merupakan perkiraan pribadi seorang peneliti, bukan prediksi ilmiah yang menyatakan kepunahan manusia pasti terjadi. Risiko tersebut juga bukan konsensus seluruh ilmuwan AI.

Apa yang Dimaksud Risiko Kepunahan Akibat AI?

Skenario yang dikhawatirkan para peneliti bukan semata-mata robot tiba-tiba menyerang manusia seperti dalam film.

Salah satu perhatian utama adalah munculnya AI yang memiliki kemampuan sangat tinggi, bekerja secara otonom, mampu melakukan tindakan di dunia nyata, dan pada akhirnya dapat meningkatkan kemampuan dirinya sendiri.

Dalam skenario ekstrem, AI yang memiliki tujuan yang tidak selaras dengan kepentingan manusia dapat mengambil keputusan yang bertentangan dengan keselamatan manusia. Risiko juga dapat muncul melalui penyalahgunaan. Sistem AI yang sangat canggih berpotensi digunakan untuk melakukan serangan siber, mengembangkan senjata, menyebarkan disinformasi dalam skala besar, atau membantu manusia melakukan tindakan berbahaya.

Para pakar juga memperhatikan kemungkinan ketika AI memperoleh akses terhadap sistem penting dan sumber daya dalam jumlah besar.

Masalah Utamanya Adalah AI Alignment

Istilah AI alignment menjadi salah satu konsep penting dalam perdebatan keselamatan AI. Secara sederhana, alignment merupakan upaya memastikan sistem AI memiliki perilaku dan tujuan yang sesuai dengan nilai serta kepentingan manusia. Masalahnya, semakin kuat dan otonom sebuah sistem AI, semakin sulit bagi manusia untuk memastikan bahwa sistem tersebut selalu melakukan apa yang diinginkan.

AI dapat menjalankan instruksi secara harfiah tetapi menghasilkan konsekuensi yang tidak diinginkan. Karena itu, peneliti keselamatan AI berusaha mengembangkan metode untuk memahami, mengawasi, menguji, dan mengendalikan model yang semakin kompleks. Hubinger justru menyoroti bahwa belum ada solusi yang dianggap memadai untuk persoalan alignment pada tingkat superintelligence.

Kemampuan AI Berkembang Semakin Cepat

Kekhawatiran tersebut muncul ketika kemampuan model AI berkembang dengan sangat cepat. Reuters melaporkan bahwa perkembangan model AI terbaru meningkatkan perhatian terhadap kemampuan otonomi dan persoalan apakah perilaku internal sistem masih dapat dipantau secara efektif. Sejumlah peneliti juga mendorong agar pengembangan teknologi canggih tidak hanya berfokus pada peningkatan kemampuan, tetapi juga keselamatan.

Persoalannya adalah perlombaan teknologi melibatkan kepentingan ekonomi yang sangat besar. Perusahaan AI berlomba mengembangkan model yang lebih kuat, lebih murah, lebih cepat, dan semakin mampu menyelesaikan tugas secara mandiri. Dalam kondisi tersebut, muncul kekhawatiran bahwa keselamatan dapat tertinggal apabila perusahaan terlalu mengejar kecepatan inovasi.

Bukan Hanya Peneliti Perusahaan yang Khawatir

Kekhawatiran terhadap risiko AI juga datang dari luar perusahaan teknologi. Pada September 2026, Komisaris Tinggi PBB untuk Hak Asasi Manusia Volker Türk memperingatkan bahwa AI dapat berkembang menjadi teknologi yang menimbulkan risiko eksistensial bagi umat manusia.

Türk menyerukan upaya global untuk memastikan adanya jaminan keselamatan dan keamanan AI sebelum kemampuan teknologi tersebut berkembang terlalu jauh. Peringatan itu menunjukkan bahwa pembahasan mengenai risiko AI telah meluas dari komunitas teknologi ke ranah politik, hak asasi manusia, dan tata kelola internasional.

Studi Global Juga Menemukan Banyak Risiko Besar

Sebuah studi yang melibatkan 272 pakar AI dari 37 negara dan dipublikasikan oleh MIT Sloan pada Juni 2026 menemukan bahwa para ahli melihat berbagai kategori risiko AI yang berpotensi menimbulkan dampak sangat besar.

Risiko yang mendapat perhatian antara lain kemampuan AI yang berbahaya, senjata yang dibantu AI, serangan siber, tekanan kompetitif antarnegara dan perusahaan, konsentrasi kekuasaan, serta disinformasi yang semakin canggih. Dalam studi tersebut, para ahli menilai 18 dari 24 kategori risiko AI memiliki kemungkinan setidaknya 10 persen untuk menimbulkan dampak katastrofik berdasarkan arah perkembangan saat ini.

Namun, risiko katastrofik tidak selalu berarti kepunahan manusia. Dampaknya dapat berupa korban jiwa dalam jumlah besar, kerusakan ekonomi, konflik, atau gangguan terhadap sistem sosial dan politik.

Ada Perdebatan di Kalangan Ilmuwan

Meski peringatan mengenai kepunahan manusia semakin sering muncul, para ilmuwan tidak sepakat mengenai seberapa besar kemungkinan skenario tersebut. Nature sebelumnya menyoroti bahwa sebagian peneliti semakin khawatir terhadap AI yang sangat kuat dan otonom. Namun, sebagian lainnya menganggap skenario kiamat AI masih sangat spekulatif dan bukti bahwa AI dapat menyebabkan kepunahan manusia saat ini masih terbatas.

Sebagian ilmuwan juga mengingatkan bahwa terlalu fokus pada skenario ekstrem dapat membuat masyarakat mengabaikan persoalan AI yang sudah terjadi, seperti penyebaran informasi palsu, pengawasan massal, diskriminasi algoritmik, serta penyalahgunaan teknologi.

Dengan kata lain, perdebatan bukan mengenai apakah AI "pasti" akan memusnahkan manusia, melainkan bagaimana manusia harus mengelola risiko dari teknologi yang kemampuannya berkembang sangat cepat.

Regulasi dan Pengawasan Dinilai Mendesak

Munculnya peringatan dari orang-orang yang bekerja langsung di industri AI turut meningkatkan tekanan kepada pemerintah. Sejumlah legislator Amerika Serikat kembali menyerukan penguatan aturan keselamatan AI setelah pernyataan para peneliti Anthropic menjadi perhatian publik. Mereka menilai pemerintah tidak boleh menunggu sampai teknologi mencapai tingkat kemampuan yang sulit dikendalikan.

Dorongan regulasi mencakup pengujian model sebelum dirilis, transparansi mengenai kemampuan dan kegagalan sistem, mekanisme penghentian ketika AI menunjukkan perilaku berbahaya, serta kerja sama internasional. Persoalan tersebut menjadi semakin kompleks karena AI tidak mengenal batas negara. Pengembangan teknologi di satu negara dapat memberikan dampak ke seluruh dunia.

Apakah AI Benar-Benar Akan Memusnahkan Manusia?

Untuk saat ini, tidak ada bukti bahwa kepunahan manusia akibat AI merupakan sesuatu yang pasti terjadi. Peringatan yang muncul merupakan proyeksi mengenai kemungkinan risiko apabila AI berkembang menuju tingkat kemampuan tertentu tanpa sistem keselamatan yang memadai.

Yang membuat isu ini serius adalah adanya kesamaan kekhawatiran di antara sejumlah peneliti yang justru bekerja di garis depan pengembangan teknologi tersebut. Perkembangan AI memang menawarkan manfaat besar untuk penelitian, kesehatan, pendidikan, ekonomi, dan berbagai sektor lainnya. Namun, semakin besar kemampuan AI, semakin penting pula kemampuan manusia untuk memastikan teknologi tersebut tetap dapat diawasi.

Karena itu, tantangan terbesar bukan sekadar membuat AI menjadi semakin pintar, melainkan memastikan kecerdasan tersebut tetap aman, dapat dikendalikan, dan digunakan untuk kepentingan manusia. Peringatan terbaru dari para peneliti Anthropic menjadi pengingat bahwa perlombaan menuju AI yang semakin kuat tidak hanya menyangkut siapa yang paling cepat menciptakan teknologi baru, tetapi juga siapa yang mampu memastikan teknologi tersebut tidak berubah menjadi ancaman bagi penciptanya sendiri.