Banda Aceh — Bos Microsoft Satya Nadella berbicara soal teknologi kecerdasan buatan (AI) yang kian canggih perlu disertai oleh mekanisme pembatasan dan rem darurat.
Pernyataan tersebut disampaikan Satya, sebagaimana yang dirilis oleh media CNN Indonesia.com edisi 13 Oktober 2026.
Cnninindonesia menuliskan bahwa Nadella mengemukakan pendapatnya soal AI dalam sebuah cuitan di X. Dalam cuitan itu, dia menyebut bahwa sistem AI yang canggih perlu dilengkapi dengan mekanisme pembatasan, kendali yang independen, serta “rem darurat”.
Menurut Nadella, fitur dimaksud akan memungkinkan pihak berwenang menghentikan sementara atau mematikan model AI ketika tengah menjalankan tugas.
“Kita perlu melengkapi model yang perilakunya tidak selalu dapat diprediksi dengan desain sistem yang kuat dan terstruktur, kendali manusia, serta prosedur operasional yang dapat diandalkan. Kita juga perlu menetapkan standar industri, jika standar yang ada saat ini belum memadai,” kata Nadella dalam akun X pribadinya, Sabtu (10/10), dikutip dari CNBC., “rilis cnnindonesia.com.
“Memperlakukan model AI tercanggih, baik yang bersifat tertutup maupun yang bobot modelnya terbuka (open-weight), seperti potensi ancaman dari orang dalam, merupakan salah satu cara untuk membangun sistem semacam ini,” tambahnya.
Lebih lanjut, CEO Microsoft ini turut menyebut sistem AI harus dirancang berdasarkan “prinsip keterpantauan”, yaitu kemampuan untuk memantau dan memahami tindakan serta proses yang dijalankan oleh suatu sistem.
Menurut dia, prinsip ini mencakup penggunaan beragam model AI, pencatatan aktivitas model yang dapat dibaca dan dipahami manusia, pengujian sistem secara berkelanjutan, kendali independen dan kemampuan untuk diaudit, mekanisme pembatasan, serta pelaporan insiden.
“Sistem superintelligence yang paling terpercaya bukanlah sistem yang menggunakan model yang paling kita percayai. Melainkan sistem yang memungkinkan kita untuk sesedikit mungkin memercayai model tersebut,” ungkap Nadella lebih spesifik.
Ragam Masalah Telah Ditimbulkan AI
Pernyataan Nadella muncul di tengah peringatan dari sejumlah eksekutif dan peneliti teknologi terkemuka seperti Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, serta CEO SpaceX Elon Musk untuk memperlambat laju perkembangan AI.
Mereka turut menyoroti protokol keselamatan AI yang dinilai belum memadai serta perkembangan teknologi yang dianggap terlalu cepat.
Bulan lalu, seorang peneliti AI dari Anthropic mengundurkan diri dan menuduh perusahaan tersebut serta OpenAI mempertaruhkan nyawa manusia melalui pengembangan AI.
Pada hari yang sama, seorang pemimpin tim alignment AI di Anthropic menyatakan ada kemungkinan lebih dari 10 persen teknologi tersebut dapat membunuh seluruh manusia. Sebelumnya, ia bertugas untuk memastikan keselamatan AI.
Sebaliknya, Presiden Amerika Serikat (AS) Donald Trump berulang kali menepis kekhawatiran terkait risiko AI yang dapat memusnahkan umat manusia. Ia menekankan bahwa industri AI di AS harus tetap lebih unggul dari China.
Trump baru-baru ini bahkan memperkenalkan gugus tugas terbaru bernama “AI Force” yang dipimpin oleh Direktur Intelijen Nasional AS Jay Clayton. Gugus tugas ini dibentuk untuk mendukung perkembangan industri AI sekaligus menindak pihak-pihak yang menyalahgunakan teknologi tersebut. (Red: sumber-cnnindoensia.com).
