AI Canggih Berpotensi Mengancam Kehidupan, Manusia Punah?

AKURAT.CO - Sebuah laporan yang dibiayai oleh pemerintah AS telah menyampaikan peringatan bahwa perkembangan kecerdasan buatan (AI) yang canggih bisa menjadi ancaman serius, bahkan menghadirkan risiko kepunahan manusia.

Laporan tersebut menyarankan agar pemerintah AS segera mengambil langkah-langkah untuk melindungi masyarakat dari potensi bahaya AI yang bisa menciptakan senjata pemusnah massal.

Laporan ini, yang berjudul 'Rencana Aksi untuk Meningkatkan Keselamatan dan Keamanan AI Tingkat Lanjut', menyoroti bahwa kehadiran AI yang lebih maju dapat mengganggu stabilitas internasional, mirip dengan dampak pengenalan senjata nuklir.

Dikutip dari Techtimes.com, Rabu (13/3/2024), studi ini melibatkan lebih dari 200 individu selama 13 bulan, termasuk perwakilan dari pemerintah AS dan Kanada, penyedia layanan cloud terkemuka, serta ahli keamanan dan komputasi.

Rencana intervensi yang diusulkan mencakup langkah-langkah seperti pembentukan agensi AI baru, pembatasan kekuatan pemrosesan yang digunakan oleh AI, persyaratan persetujuan pemerintah untuk penggunaan model AI baru dan bahkan pembatasan terhadap pengungkapan rahasia tentang operasi model AI melalui lisensi sumber terbuka.

Laporan tersebut menegaskan bahwa menghadapi risiko besar yang ditimbulkan oleh AI memerlukan strategi keamanan yang komprehensif. Ini termasuk konsep defense-in-depth, yang menggabungkan beberapa aturan tumpang tindih untuk meningkatkan ketahanan terhadap kegagalan.

Selain itu, laporan itu menyoroti kebutuhan mendesak untuk bertindak, mengingat kecepatan perkembangan AI yang sangat cepat. Departemen Kehakiman AS juga telah memperingatkan tentang potensi kejahatan AI, seperti manipulasi pasar yang dapat mengakibatkan hukuman berat.

Meskipun demikian, laporan tersebut juga mengakui bahwa rekomendasi yang diajukan perlu diverifikasi oleh para ahli, namun merupakan langkah penting untuk memberikan reaksi yang efektif terhadap ancaman baru yang dihadapi manusia.