Kenapa Para CEO AI Mulai Minta Pengembangan AI Diperlambat?

Kemarin kita sudah membahas mengenai CEO Microsoft Minta Superintelligence Tetap Berada di Bawah Kendali Manusia, tapi sebenarnya ada apa sih, awalnya apa?, nah jadi kawan kawan, jika selama ini kita melihat perusahaan AI berlomba membuat model yang semakin pintar, situasinya sekarang mulai sedikit berbeda.

Beberapa CEO AI justru mulai mengatakan bahwa pengembangan AI frontier perlu diperlambat, namun perlu diluruskan dulu guys, mereka bukan meminta AI dihentikan, namun yang ingin diperlambat adalah laju pengembangan model paling canggih, terutama ketika kemampuan AI mulai berkembang lebih cepat dibanding sistem keamanan dan pengawasannya.

AI Mulai Sulit Dikendalikan

Nah salah satu suara yang paling keras datang dari CEO Anthropic, Dario Amodei. Ia meminta perusahaan AI untuk memperlambat pengembangan frontier AI agar sistem keamanan, monitoring, dan alignment punya waktu untuk mengejar kemampuan model.

Masalahnya bukan sekadar AI bisa menghasilkan jawaban yang salah, namun model terbaru semakin mampu menjalankan tugas secara mandiri, menggunakan tools, melakukan coding, hingga berinteraksi dengan sistem eksternal.

Dan bahkan, OpenAI sendiri sebelumnya mengakui bahwa mereka sempat memperlambat scaling model frontier setelah menemukan risiko keamanan dalam lingkungan risetnya, mereka juga bahkan menahan beberapa workload sambil memperkuat sandbox, network isolation, monitoring, dan alignment.

Baca Juga : Microsoft Terbitkan Panduan Khusus Agar AI Tidak Lepas Kendali, Apa Isinya?

Bukan Cuma Anthropic

Nah yang menarik, ajakan untuk memperlambat pengembangan ini mendapat dukungan dari beberapa nama besar. Termasuk CEO OpenAI Sam Altman, CEO xAI Elon Musk, dan Google DeepMind Demis Hassabis menyatakan dukungan terhadap gagasan untuk lebih berhati-hati dalam mengembangkan frontier AI.

Namun tidak semua CEO sepakat bahwa solusinya adalah perlambatan bersama, sebaliknya CEO Meta Mark Zuckerberg justru mengatakan perusahaan AI memiliki insentif untuk menjaga keamanan modelnya masing-masing. Meta sendiri mengklaim telah menunda peluncuran salah satu AI agent untuk memperkuat aspek security.

Tapi Kenapa Mulai di Rem?

Nah untuk saat ini bisa dibilang ada beberapa alasan yang mulai terlihat, pertama kemampuan AI berkembang sangat cepat, dimana sistem AI sekarang tidak hanya menjawab pertanyaan, tetapi semakin mampu melakukan tindakan secara autonomous.

Kedua, security belum tentu berkembang secepat capability, dimana semakin powerful sebuah model, semakin besar pula potensi dampaknya jika model tersebut disalahgunakan atau berhasil melewati batasan yang diberikan.

Dan yang ketiga, biaya dan kontrol juga mulai menjadi masalah, bahkan World Economic Forum mencatat perusahaan mulai menghadapi persoalan biaya AI, keamanan frontier systems, serta ketergantungan terhadap model dan infrastructure pihak lain.

Namun yang paling penting sih, belum ada konsensus tentang seberapa besar risiko AI tersebut atau kapan risiko ekstrem benar-benar akan terjadi. Karena itu, perdebatan sekarang bukan lagi sekadar “AI akan menjadi pintar atau tidak”, tetapi apakah manusia bisa memastikan perkembangan capability tetap berada dalam kendali.

Nah jadi guys, fenomena ini bukan berarti CEO AI tiba-tiba kapok membuat AI, melainkan justru sebaliknya, AI sudah berkembang sampai pada titik di mana perusahaan yang membuatnya sendiri mulai merasa bahwa kemampuan teknologi harus diimbangi dengan security, alignment, dan pengawasan yang jauh lebih serius.

Tapi apakah ini hanya gimmick saja? karena saat ini saya rasa netizen sudah terbagi kedalam dua belah pihak, ada yang merasa bahwa langkah ini memang diperlukan karena perkembangan AI sudah terlalu cepat, dan ada yang merasa bahwa ini hanya akal akalan perusahaan untuk persaingan yang lebih ketat.

Nah bagaimana menurutmu guys, karena pada akhirnya kita masih akan melihat bagaimana perdebatan ini berkembang, terutama ketika model AI semakin autonomous dan kemampuannya terus meningkat.