Bacotan Online – CEO Microsoft Satya Nadella menyerukan pemisahan tegas antara model kecerdasan buatan dan sistem eksekusi yang menjalankannya. Dalam pernyataan resmi pada Sabtu (10/10/2026), Nadella menegaskan bahwa model AI tingkat lanjut tidak boleh lagi diperlakukan sebagai sistem mandiri tanpa lapisan pengawasan independen.
Nadella menyoroti praktik umum pengembangan agen AI saat ini yang menggabungkan penalaran model dengan logika eksekusi alat dalam satu alur terpadu. Menurutnya, pendekatan ini menyimpan kelemahan struktural karena model bahasa besar pada dasarnya merupakan mesin probabilistik yang rentan terhadap manipulasi masukan, termasuk serangan indirect prompt injection melalui dokumen daring atau basis data eksternal.
Pagar Pengaman di Luar Bobot Model
Selama ini, mayoritas pengembang AI mengandalkan teknik penjajaran internal seperti reinforcement learning from human feedback (RLHF) untuk menanamkan norma keselamatan langsung ke dalam bobot model. Nadella menilai pendekatan tersebut tidak lagi memadai karena berbagai riset keamanan membuktikan lapisan penjajaran berbasis bobot dapat ditembus melalui rekayasa prompt tingkat lanjut.
Sebagai alternatif, ia menuntut kontrol keamanan dieksternalisasi ke luar sistem komputasi model. Pagar pengaman deterministik ini beroperasi sebagai proksi inspeksi independen yang memantau aliran token, menegakkan aturan kepatuhan, dan memblokir keluaran berbahaya sebelum diteruskan ke pengguna. Arsitektur ini menerapkan prinsip zero-trust, di mana setiap transaksi data diperlakukan sebagai potensi ancaman hingga memenuhi seluruh parameter verifikasi.
Jejak Audit dan Tombol Rem Darurat
Nadella juga menuntut pencatatan jejak tindakan model yang tahan manipulasi dan dapat dibaca manusia. Setiap keputusan agen AI yang memiliki konsekuensi nyata wajib didokumentasikan secara permanen, mencakup riwayat penalaran, konteks data, identitas modul pemanggil, serta stempel waktu kriptografis.
Di samping transparansi forensik, ia menempatkan tombol rem darurat sebagai syarat mutlak. Mekanisme ini memungkinkan personel terotorisasi untuk menunda atau mematikan model di tengah proses eksekusi tanpa merusak integritas basis data, memastikan manusia tetap memegang otoritas tertinggi atas keputusan kritis mesin. Seruan ini sejalan dengan evaluasi ketahanan model AI dalam penerapan sistem fisik yang kian mendesak di tengah akselerasi adopsi agen otonom oleh korporasi global.
