Benarkah AI Bisa Musnahkan Umat Manusia? Ini Kata Bapak AI Dunia

Kemajuan kecerdasan buatan atau artificial intelligence (AI) dalam beberapa tahun terakhir memunculkan pertanyaan besar: apakah suatu hari AI bisa menjadi ancaman bagi kelangsungan hidup manusia? Pertanyaan tersebut kembali menjadi sorotan pada September 2026 setelah sejumlah peneliti dan tokoh industri teknologi memperingatkan tentang risiko AI yang semakin canggih. Salah satu suara paling dikenal dalam perdebatan ini adalah Geoffrey Hinton, ilmuwan komputer yang sering dijuluki “Godfather of AI” karena perannya dalam pengembangan teknologi jaringan saraf yang menjadi fondasi penting AI modern.

Hinton bahkan memperkirakan terdapat kemungkinan sekitar 10 persen AI dapat menyebabkan kepunahan manusia dalam satu dekade. Namun, angka tersebut bukanlah hasil perhitungan ilmiah yang dapat memastikan masa depan. Hinton menyampaikannya sebagai perkiraan risiko, sementara para pakar lain memiliki penilaian yang sangat beragam.

Lantas, apakah AI benar-benar bisa memusnahkan umat manusia?

Geoffrey Hinton Khawatir AI Bisa Melampaui Manusia

Hinton menjadi salah satu ilmuwan AI yang secara terbuka menyuarakan kekhawatiran mengenai perkembangan kecerdasan buatan. Ia meninggalkan Google pada 2023 dan kemudian lebih leluasa berbicara mengenai potensi bahaya teknologi yang ikut ia kembangkan. Kekhawatirannya berpusat pada kemungkinan munculnya sistem AI yang memiliki kemampuan jauh melampaui manusia dalam berbagai bidang.

Salah satu persoalan yang menjadi perhatian adalah kontrol. Jika suatu saat manusia menciptakan AI yang jauh lebih cerdas dan mampu menjalankan tugas secara mandiri, pertanyaannya bukan lagi sekadar apakah AI dapat melakukan sesuatu, melainkan apakah manusia masih mampu memastikan sistem tersebut mengikuti tujuan yang ditetapkan.

Hinton sebelumnya juga mempertanyakan bagaimana manusia dapat mencegah sistem AI yang sangat canggih memiliki dorongan untuk memperoleh lebih banyak kendali.

Apa Maksudnya AI Memusnahkan Manusia?

Skenario yang dibicarakan para peneliti bukan berarti robot tiba-tiba menyerang manusia seperti dalam film fiksi ilmiah. Risiko yang dibahas lebih luas dan berkaitan dengan kemungkinan munculnya sistem AI yang memiliki kemampuan melakukan perencanaan jangka panjang, menjalankan tindakan secara otonom, memengaruhi manusia, serta memperoleh akses terhadap sistem dunia nyata.

Dalam skenario ekstrem, AI yang tidak selaras dengan tujuan manusia dapat melakukan tindakan yang menghasilkan konsekuensi sangat besar. Ada pula risiko AI digunakan oleh manusia untuk melakukan tindakan berbahaya. Dengan kata lain, ancaman AI dapat dibedakan menjadi setidaknya dua kategori besar: AI yang kehilangan kendali manusia dan AI yang sengaja disalahgunakan oleh manusia.

AI Saat Ini Belum Berada pada Tahap Menghancurkan Dunia

Penting untuk membedakan kekhawatiran terhadap AI masa depan dengan kemampuan AI yang tersedia saat ini. Sistem AI generatif seperti chatbot modern memang semakin mampu menghasilkan teks, gambar, kode, melakukan analisis, dan menjalankan sejumlah tugas secara otomatis. Namun, para ahli yang membahas risiko kepunahan manusia biasanya merujuk pada sistem masa depan yang jauh lebih otonom dan memiliki kemampuan umum yang jauh melampaui teknologi saat ini.

Axios mencatat bahwa sistem seperti ChatGPT, Claude, dan Grok saat ini tidak dikenal sedang memiliki kemampuan untuk merencanakan penghancuran umat manusia. Agar skenario ekstrem tersebut terjadi, AI harus memperoleh kemampuan seperti perencanaan otonom jangka panjang, menghindari pengawasan, mendapatkan akses ke sistem dunia nyata, serta menolak upaya untuk menghentikannya.

Karena itu, pernyataan bahwa “AI akan memusnahkan manusia” tidak dapat dianggap sebagai fakta yang sudah terbukti. Yang ada saat ini adalah perdebatan mengenai seberapa besar risiko tersebut dan bagaimana mencegahnya.

Mengapa Para Ilmuwan Khawatir?

Salah satu kekhawatiran utama adalah perkembangan kemampuan AI yang berlangsung sangat cepat. Sistem AI tidak hanya digunakan untuk menjawab pertanyaan. Teknologi ini semakin banyak diarahkan untuk menjalankan tugas secara mandiri, menggunakan berbagai perangkat lunak, melakukan penelitian, membuat kode, dan berinteraksi dengan sistem lain.

Semakin besar tingkat otonomi AI, semakin penting pula mekanisme pengawasan. Beberapa peneliti mengkhawatirkan kemungkinan recursive self-improvement, yaitu skenario hipotetis ketika sistem AI mampu membantu meningkatkan kemampuan AI berikutnya sehingga perkembangan kecerdasannya berlangsung sangat cepat.

Namun, apakah skenario tersebut benar-benar akan terjadi dan seberapa cepat perkembangannya masih menjadi perdebatan di kalangan ilmuwan.

Ancaman AI Tidak Selalu Berarti Kepunahan Manusia

Perdebatan mengenai AI juga tidak hanya menyangkut skenario ekstrem. Ada berbagai risiko yang sudah lebih konkret, seperti penyebaran informasi palsu, penipuan, serangan siber, manipulasi konten, pelanggaran privasi, diskriminasi algoritmik, dan perubahan besar pada dunia pekerjaan.

Sejumlah peneliti juga mengkhawatirkan kemungkinan teknologi AI digunakan untuk membantu manusia mengembangkan serangan siber atau teknologi biologis berbahaya. Artinya, masyarakat tidak harus menunggu sampai muncul AI supercerdas untuk menghadapi persoalan keselamatan. Risiko yang lebih dekat dengan kehidupan sehari-hari juga membutuhkan perhatian.

Ada Ilmuwan yang Tidak Sepakat dengan Skenario Kiamat AI

Pandangan mengenai ancaman AI tidak seragam. Sebagian ilmuwan menganggap risiko eksistensial perlu dipersiapkan sejak sekarang. Sebaliknya, sebagian peneliti lain menilai skenario kepunahan akibat AI masih sangat spekulatif dan perhatian berlebihan terhadap skenario tersebut dapat mengalihkan fokus dari persoalan AI yang sudah terjadi.

The Guardian mencatat bahwa perdebatan tersebut telah berlangsung selama bertahun-tahun. Beberapa tokoh teknologi dan peneliti memperingatkan mengenai bahaya AI, sementara pihak lain mempertanyakan apakah skenario “AI memusnahkan manusia” terlalu hipotetis dibandingkan masalah AI yang sudah dapat diamati saat ini. Karena itu, tidak ada konsensus ilmiah yang menetapkan bahwa AI pasti akan memusnahkan manusia.

Apa Itu Istilah "p(doom)"?

Dalam diskusi keselamatan AI, masyarakat mungkin akan menemukan istilah p(doom). Istilah tersebut pada dasarnya merujuk pada perkiraan probabilitas bahwa AI menyebabkan bencana eksistensial atau skenario kiamat bagi manusia. Masalahnya, tidak ada metode ilmiah yang saat ini dapat menghitung secara pasti peluang tersebut.

Setiap angka yang diberikan oleh seorang pakar merupakan penilaian terhadap masa depan berdasarkan asumsi tertentu, bukan prediksi yang sudah terbukti. Axios juga menekankan bahwa tidak ada cara ilmiah yang dapat menentukan secara akurat peluang AI membunuh seluruh umat manusia. Perkiraan para pakar sangat bervariasi.

Karena itu, angka 10 persen yang dikaitkan dengan Hinton sebaiknya dipahami sebagai estimasi risiko pribadi, bukan ramalan bahwa satu dari setiap sepuluh masa depan pasti berakhir dengan kepunahan manusia.

Bagaimana Cara Mengurangi Risikonya?

Kekhawatiran terhadap AI justru mendorong berkembangnya bidang AI safety dan AI alignment. AI safety berfokus pada upaya membuat sistem AI aman dan mengurangi kemungkinan sistem tersebut menghasilkan tindakan berbahaya. Sementara itu, AI alignment berkaitan dengan bagaimana memastikan tujuan dan perilaku sistem AI tetap sejalan dengan kepentingan serta nilai yang ditetapkan manusia.

Beberapa pendekatan yang banyak dibahas antara lain:

meningkatkan pengujian keamanan sebelum AI digunakan secara luas;
membuat sistem pengawasan dan pembatasan kemampuan;
melakukan evaluasi terhadap kemampuan berbahaya;
meningkatkan transparansi mengenai kemampuan dan keterbatasan AI;
memperkuat keamanan siber;
mengembangkan mekanisme penghentian atau pembatasan sistem;
membuat aturan mengenai penggunaan AI berisiko tinggi;
meningkatkan kerja sama internasional mengenai keselamatan AI.

Tujuannya bukan menghentikan seluruh perkembangan AI, melainkan memastikan peningkatan kemampuan teknologi berjalan bersama dengan peningkatan sistem pengamanannya.

Mengapa Perkembangan AI Sulit Dihentikan?

Salah satu tantangan terbesar adalah adanya persaingan bisnis dan geopolitik. Perusahaan teknologi berlomba mengembangkan model AI yang lebih kuat karena teknologi tersebut berpotensi memberikan keuntungan ekonomi besar. Pada saat yang sama, negara-negara juga melihat AI sebagai teknologi strategis yang berkaitan dengan ekonomi, pertahanan, penelitian, dan keamanan nasional.

The Guardian melaporkan bahwa meskipun kekhawatiran mengenai risiko AI terus muncul, investasi dan persaingan di industri tersebut tetap berlangsung dengan sangat cepat. Tekanan ekonomi dan persaingan teknologi membuat penghentian perkembangan AI secara global menjadi persoalan yang sangat kompleks.

Jadi, Benarkah AI Bisa Memusnahkan Umat Manusia?

Jawabannya saat ini adalah belum diketahui. Tidak ada bukti yang menunjukkan bahwa AI saat ini sedang menuju kepastian untuk memusnahkan umat manusia. Namun, sejumlah ilmuwan terkemuka, termasuk Geoffrey Hinton, menilai kemungkinan tersebut cukup serius untuk dipertimbangkan.

Di sisi lain, besarnya risiko tersebut masih menjadi perdebatan. Ada pakar yang memberikan probabilitas cukup tinggi, sementara yang lain menilai skenario kepunahan masih terlalu spekulatif. Yang lebih pasti adalah AI akan terus berkembang dan memberikan dampak besar terhadap kehidupan manusia. Karena itu, pertanyaan pentingnya bukan hanya “apakah AI akan menghancurkan manusia?”, tetapi juga bagaimana manusia memastikan teknologi yang semakin kuat tetap berada dalam kendali manusia dan digunakan secara aman.

Peringatan Hinton dan ilmuwan lainnya pada akhirnya menunjukkan bahwa perkembangan AI tidak hanya merupakan persoalan teknologi. Ia juga menyangkut keamanan, regulasi, ekonomi, etika, dan bagaimana manusia mengambil keputusan ketika menciptakan teknologi dengan kemampuan yang semakin besar.