Tolak AI Direm, Insinyur DeepSeek Ibaratkan Anthropic Bak Hitler

JAKARTA – Diskusi tentang perlunya memperlambat kemajuan kecerdasan buatan (AI) semakin intens. Ketika CEO Anthropic Dario Amodei menyerukan penundaan dalam pengembangan AI frontier untuk memperkuat sistem keamanan dan monitoring, seorang insinyur dari DeepSeek memberikan perspektif yang berbeda.

Liu Shengyu, insinyur dari DeepSeek tersebut, mengecam ide bahwa perlu ada rem pada pengembangan AI canggih. Dalam sebuah tulisan blog yang dirilis pada September 2026, Liu mengungkapkan keprihatinannya bahwa teknologi AI tercanggih mungkin hanya akan dikuasai oleh segelintir perusahaan.

Di bagian paling kontroversial dari tulisannya, Liu menyamakan skenario di mana Anthropic menguasai AI atau artificial general intelligence (AGI) paling canggih dengan situasi di mana Adolf Hitler mendapatkan teknologi bom atom terlebih dahulu dibandingkan dengan negara-negara Sekutu. Ucapan ini merupakan analogi yang digunakan Liu untuk menyoroti kekhawatirannya mengenai konsentrasi kekuasaan teknologi dan bukan menunjukkan adanya hubungan antara Anthropic dan Nazi Jerman.

Insinyur DeepSeek Khawatir AI Dikuasai Segelintir Perusahaan

Liu, yang berperan sebagai insinyur sistem pembelajaran mesin di DeepSeek serta terlibat dalam pengembangan model V4.1, mengungkapkan keraguannya bahwa perusahaan seperti Anthropic atau OpenAI akan membuat AI frontier dapat diakses secara terbuka dan terjangkau oleh semua kalangan.

Liu berpendapat bahwa teknologi kecerdasan yang tinggi tidak seharusnya terfokus pada segelintir entitas. Ia menjelaskan bahwa akses terhadap AI yang semakin canggih dapat berdampak pada distribusi kekuatan ekonomi dan sosial di masa depan.

Ia juga merujuk pada potensi munculnya keadaan di mana perusahaan-perusahaan yang telah memiliki AI paling maju akan meraih keuntungan ekonomi yang besar. Keuntungan tersebut kemudian dapat dipakai untuk menciptakan AI yang lebih kuat, membuat kesenjangan dengan perusahaan atau masyarakat yang tidak memiliki AI semakin sulit untuk diperdalam.

Mengapa Liu Membandingkannya dengan Hitler?

Perbandingan dengan Hitler menjadi bagian yang paling banyak menarik perhatian dari tulisan Liu. Ia menyatakan kecemasan mengenai kemungkinan Anthropic menguasai AI paling maju atau AGI. Untuk memberikan gambaran tentang besar risiko yang ia artikan, Liu menggunakan analogi historis tentang Nazi Jerman yang memperoleh teknologi senjata nuklir sebelum pihak Sekutu.

Dengan analogi ini, Liu ingin menekankan isu mengenai siapa yang menguasai teknologi AI paling mutakhir dan bagaimana penggunaannya. Pernyataan tersebut adalah pandangan pribadi Liu tentang risiko yang ditimbulkan dari konsentrasi teknologi. Tidak ada bukti dalam pernyataan itu sendiri yang menunjukkan bahwa Anthropic berencana memanfaatkan AI dengan cara yang serupa dengan rezim Nazi.

Berbeda dengan Seruan Anthropic untuk Memperlambat AI

Pernyataan Liu muncul beberapa hari setelah Dario Amodei, CEO Anthropic, meminta agar perusahaan-perusahaan di bidang AI memperlambat peningkatan kemampuan model frontier.

Dalam esainya yang berjudul We Must Pace the Frontier, Amodei mengemukakan beberapa langkah untuk meningkatkan pengawasan terhadap perkembangan AI. Salah satu langkah tersebut adalah memberikan akses kepada evaluator keselamatan yang independen untuk memantau sistem AI yang dikembangkan oleh perusahaan-perusahaan terdepan.

Amodei juga merekomendasikan agar dilakukan koordinasi antarlaboratorium AI dalam menetapkan standar keselamatan dan kerja sama internasional untuk meminimalkan risiko dari kemajuan teknologi yang semakin kuat. Namun, pernyataan tersebut tidak menandakan bahwa Amodei ingin menghentikan seluruh pengembangan AI. Tujuan utama dari usulan tersebut adalah mengatur laju perkembangan kemampuan AI agar sistem keamanan dan pemantauan dapat mengejar kemajuan teknologi.

Perdebatan "AI Direm" Tidak Hanya Terjadi di DeepSeek dan Anthropic

Terdapat perbedaan pandangan mengenai kecepatan pengembangan AI yang kini menjangkau sejumlah perusahaan teknologi besar. CEO OpenAI Sam Altman mengungkapkan dukungannya terhadap perlunya memperlambat laju tertentu dalam pengembangan kecerdasan buatan agar regulasi dan sistem keselamatan dapat berkembang dengan baik. Demis Hassabis dari Google DeepMind dan Elon Musk dari xAI turut mendukung berbagai bentuk koordinasi yang berkaitan dengan keselamatan.

Sebaliknya, CEO Meta Mark Zuckerberg dan CEO Nvidia Jensen Huang menentang saran untuk memperlambat secara menyeluruh, dengan alasan bahwa perusahaan-perusahaan dapat mengelola keselamatan AI lewat cara internal tanpa perlu bergantung pada regulasi baru. Perbedaan pandangan ini menunjukkan bahwa sektor AI belum menemukan kesepakatan tentang kecepatan pengembangan teknologi ini.

Liu Memilih Pendekatan AI yang Lebih Terbuka

Salah satu alasan Liu mengekspresikan kritiknya adalah keyakinan bahwa kecerdasan buatan yang maju seharusnya lebih mudah diakses oleh publik. Ia menjelaskan bahwa pendekatan DeepSeek merupakan alternatif bagi model pengembangan AI yang sangat terfokus pada perusahaan-perusahaan teknologi besar. Menurut Liu, menciptakan model yang inklusif dan terjangkau dapat mencegah sehingga teknologi AI paling mutakhir hanya dikuasai oleh kelompok perusahaan tertentu.

Liu juga mengindikasikan bahwa alasan ini menjadi salah satu faktor ia tetap bekerja di DeepSeek. Ia menyatakan bahwa perusahaan itu mengembangkan AI yang kuat, cepat, dan dapat diakses melalui metode open source.

Kekhawatiran Liu Tidak Hanya Terkait Perusahaan

Tulisan Liu sebenarnya tidak hanya membahas mengenai kompetisi antara DeepSeek dan perusahaan-perusahaan AI yang ada di Amerika Serikat. Ia juga menyoroti pengaruh AI terhadap dunia kerja. Sebagai seorang insinyur yang fokus pada pengembangan perangkat lunak dasar untuk sistem AI, Liu menggambarkan bagaimana kemampuan AI berkembang begitu pesat hingga mulai dapat menyelesaikan tugas yang dulunya memerlukan keahlian teknis yang tinggi.

Liu memperkirakan bahwa peran dalam pengembangan perangkat lunak tertentu bisa semakin banyak dilaksanakan oleh AI. Dalam hal ini, manusia berpotensi beralih dari pekerjaan teknis langsung menjadi pengarah atau pengawas bagi agen AI.

Perubahan ini, menurut Liu, bisa menciptakan tantangan baru bagi sistem pendidikan dan pasar kerja. Jika AI dapat menyelesaikan tugas teknis dalam waktu yang sangat singkat, kemampuan manusia untuk mengembangkan pengalaman dan keterampilan dasar juga akan mengalami perubahan.

Anthropic Sendiri Mengakui Risiko AI Semakin Serius

Di sisi lain, keprihatinan Anthropic mengenai kemajuan AI tidak tanpa alasan. Perusahaan tersebut telah menghadapi diskusi baik internal maupun eksternal dalam beberapa minggu terakhir tentang kemungkinan risiko sistem AI yang semakin otonom. Mantan peneliti Anthropic Jacob Coxon bahkan memilih untuk keluar dan mengkritik perusahaan-perusahaan AI karena dianggap bergerak terlalu cepat dalam menciptakan sistem AI yang dapat meningkatkan kemampuannya sendiri.

Peneliti Anthropic Evan Hubinger juga berbagi pandangannya mengenai potensi AI menimbulkan risiko yang ekstrem bagi manusia dalam dekade mendatang. Pernyataan ini berfungsi sebagai penilaian risiko dari seseorang di bidang keselamatan AI, bukan sebagai kepastian bahwa situasi tersebut akan terjadi.

AI Semakin Mampu Membantu Mengembangkan AI

Diskusi ini menjadi semakin penting karena kemampuan model AI dalam bidang penelitian serta pengembangan AI mulai menunjukkan kemajuan yang signifikan. Pada September 2026, Anthropic mengungkapkan bahwa Claude telah terlibat dalam berbagai kegiatan penelitian dan pengembangan untuk model generasi selanjutnya. Perusahaan tersebut menyatakan bahwa sekitar 26 persen dari seluruh aktivitas riset dan pengembangan model pada Agustus melibatkan Claude dengan pengawasan manusia, angka ini meningkat dari nol persen yang tercatat pada bulan Februari.

Perkembangan ini mencerminkan munculnya fenomena baru yang signifikan: AI tidak hanya difungsikan sebagai alat bantu bagi manusia, tetapi juga mulai memainkan peran dalam pengembangan generasi AI mendatang. Situasi ini mendorong meningkatnya diskusi mengenai isu keselamatan, pengawasan, transparansi, dan penggabungan kekuasaan teknologi.

China dan Amerika Serikat Berada dalam Persaingan AI

Diskusi antara DeepSeek dan Anthropic berlangsung di tengah persaingan teknologi antara dua negara besar, yaitu China dan Amerika Serikat. Amodei pernah menekankan pentingnya menjaga keunggulan teknologi di Amerika Serikat, serta mendorong langkah pengamanan dalam perkembangan AI yang sedang berkembang. Sementara itu, pejabat dari China mengkritisi pendekatan tersebut yang dianggap bisa memperlambat kemajuan teknologi di negara mereka.

Guo Jiakun, juru bicara Kementerian Luar Negeri China, menyampaikan bahwa kekhawatiran yang berlebihan, perseteruan, dan persaingan yang tidak sehat bisa menghambat pengelolaan AI secara global. Media yang dikelola pemerintah China juga menginterpretasikan seruan untuk memperlambat AI dari Amerika Serikat sebagai bagian dari ketegangan geopolitik yang lebih luas.

Ada Dua Persoalan Besar: Keamanan dan Konsentrasi Kekuasaan

Pernyataan yang dikeluarkan oleh Liu dan Amodei berasal dari dua kekhawatiran yang berbeda namun saling terkait. Pertama adalah terkait keselamatan. Semakin kuat AI, semakin besar pula perhatian akan kemungkinan penyalahgunaan teknologi atau perilaku sistem yang tidak sesuai dengan tujuan manusia.

Yang kedua adalah soal konsentrasi kekuasaan. Jika hanya beberapa perusahaan yang menguasai model AI terdepan, mereka bisa memiliki pengaruh yang substansial terhadap ekonomi, teknologi, dan akses masyarakat terhadap kecerdasan buatan. Liu fokus pada masalah kedua. Sedangkan Amodei lebih menekankan pentingnya meningkatkan keselamatan dan pengawasan seiring bertambahnya kemampuan AI.

Masa Depan AI Masih Menjadi Perdebatan

Ketegangan antara pandangan Liu dan Amodei menunjukkan bahwa pertanyaan paling mendasar dalam perkembangan AI bukan sekadar seberapa cepat teknologi tersebut dapat menjadi lebih pintar. Pertanyaan lainnya yang sama pentingnya adalah siapa yang mengontrol teknologi ini, sejauh mana akses terbuka, bagaimana pengawasan terhadap keselamatannya, serta bagaimana keuntungan ekonomi dapat disalurkan.

Bagi Liu, jika AI terkonsentrasi pada kelompok tertentu, hal itu bisa mengakibatkan ketimpangan kekuasaan. Sedangkan Amodei berpendapat bahwa pertumbuhan AI yang cepat tanpa pengawasan yang tepat dapat meningkatkan potensi risiko keselamatan. Keduanya merefleksikan dua sisi kritik dalam perdebatan yang tengah berlangsung di industri AI global.

Kontroversi yang muncul dari pernyataan Liu juga menunjukkan bahwa persaingan dalam bidang AI antara perusahaan-perusahaan di China dan Amerika Serikat tidak hanya berkaitan dengan siapa yang memiliki model paling canggih. Namun, persaingan ini juga melibatkan aksesibilitas teknologi, keselamatan, regulasi, publikasi, dan pengendalian terhadap AI generasi selanjutnya.