Google DeepMind Mulai Antisipasi AI yang Sulit Dikendalikan

AKURAT.CO Google DeepMind memperkenalkan kerangka kerja baru yang dirancang untuk mengantisipasi risiko dari AI agent generasi berikutnya. Dokumen bertajuk AI Control Roadmap tersebut menjelaskan bagaimana sistem AI yang semakin mandiri perlu diawasi menggunakan pendekatan yang selama ini diterapkan dalam dunia keamanan siber.

Langkah ini muncul ketika kemampuan AI berkembang dari sekadar menjawab pertanyaan menjadi mampu menjalankan tugas kompleks, menggunakan perangkat lunak, mengakses layanan digital, dan mengambil keputusan berdasarkan tujuan yang diberikan pengguna. DeepMind menilai perkembangan tersebut membawa peluang besar sekaligus risiko baru yang harus dipersiapkan sejak dini.

Dalam roadmap tersebut, DeepMind mengusulkan pendekatan yang memperlakukan AI agent seperti potensi ancaman internal atau insider threat. Konsep ini umum digunakan dalam keamanan perusahaan untuk mengawasi akses terhadap sistem dan data penting.

Perusahaan menilai sistem AI masa depan dapat memperoleh tingkat otonomi yang jauh lebih tinggi dibanding model saat ini. Karena itu, mekanisme pengawasan, pembatasan akses, dan verifikasi tindakan menjadi bagian penting dari pengembangan AI generasi berikutnya.

DeepMind Adopsi Pendekatan Keamanan Siber

Roadmap yang diterbitkan DeepMind menjelaskan beberapa lapisan perlindungan yang dapat diterapkan untuk mengurangi risiko AI agent bertindak di luar tujuan yang ditetapkan manusia.

Salah satu pendekatan yang diusulkan adalah penggunaan sistem pemantauan otomatis yang mampu mendeteksi perilaku mencurigakan atau tindakan yang tidak sesuai dengan instruksi awal.

DeepMind juga membahas konsep pengawasan AI oleh AI, di mana model tertentu digunakan untuk memonitor aktivitas model lain secara berkelanjutan. Strategi tersebut diharapkan dapat meningkatkan kemampuan deteksi terhadap tindakan yang berpotensi berbahaya.

Selain itu, pembatasan hak akses terhadap sistem penting menjadi bagian utama dari rekomendasi keamanan. AI agent tidak akan memperoleh akses penuh terhadap seluruh sumber daya tanpa mekanisme verifikasi tambahan.

Industri AI Mulai Fokus pada Pengendalian Risiko

Peluncuran roadmap ini menunjukkan bahwa perusahaan AI besar mulai memberikan perhatian yang lebih besar terhadap aspek keamanan dibanding beberapa tahun sebelumnya.

Google DeepMind menyebut pengembangan kemampuan AI harus berjalan beriringan dengan pengembangan sistem pengendalian yang memadai. Pendekatan tersebut dinilai penting karena AI masa depan diperkirakan akan mampu menjalankan tugas yang jauh lebih kompleks dibanding teknologi saat ini.

Investasi global dalam pengembangan AI telah mencapai puluhan miliar dolar AS. Dengan kurs sekitar Rp16.400 per dolar AS, nilainya setara ratusan triliun rupiah yang digunakan untuk riset model, infrastruktur komputasi, dan keamanan teknologi.

Roadmap tersebut menjadi salah satu dokumen paling penting yang diterbitkan DeepMind tahun ini karena memberikan gambaran mengenai bagaimana industri AI mempersiapkan diri menghadapi era AI agent yang lebih mandiri.