Anthropic Serukan Jeda Global dalam Pengembangan AI, Ini Alasannya

AKURAT.CO Perusahaan pengembang kecerdasan buatan Anthropic menyerukan perlambatan global dalam pengembangan artificial intelligence (AI) canggih.

Perusahaan tersebut menilai perkembangan teknologi AI berlangsung sangat cepat sehingga diperlukan mekanisme global yang memungkinkan dunia memperlambat atau menghentikan sementara pengembangan sistem AI paling maju.

Dalam laporan The Telegraph, Anthropic menyampaikan kekhawatiran bahwa kemampuan model AI berkembang dengan kecepatan tinggi dan berpotensi melampaui kesiapan sosial maupun penelitian keselamatan AI.

Perusahaan tersebut menilai perlu ada waktu tambahan agar masyarakat, regulator, dan peneliti dapat menyesuaikan diri terhadap perkembangan teknologi tersebut.

Seruan tersebut muncul ketika perusahaan mulai memperingatkan potensi risiko dari sistem AI masa depan yang semakin kompleks. Anthropic menilai tantangan utama bukan hanya pada peningkatan kemampuan model, tetapi juga kesiapan manusia dalam mengendalikan dampak teknologi tersebut.

Anthropic Soroti Risiko AI Masa Depan

Anthropic menjelaskan bahwa dunia sebaiknya memiliki opsi untuk memperlambat atau menghentikan sementara pengembangan frontier AI apabila perkembangan teknologi dinilai terlalu cepat.

"Kami percaya bahwa akan baik bagi dunia untuk memiliki opsi memperlambat atau menghentikan sementara pengembangan frontier AI agar struktur sosial dan riset alignment dapat mengejar laju perkembangan teknologi," ujar Dario Amodei selaku Chief Executive Officer Anthropic.

Pihaknya juga menyebut kemampuan AI untuk meningkatkan dirinya sendiri belum terjadi saat ini. Namun perusahaan menilai penting untuk mempersiapkan sistem pengamanan sejak awal sebelum kemampuan tersebut benar-benar muncul.

Menurut perusahaan, penelitian keselamatan AI perlu berkembang seiring percepatan pengembangan model agar sistem yang dibangun tetap dapat dikendalikan secara bertanggung jawab.

Dorong Kesepakatan Internasional Soal AI

Anthropic menilai perlambatan pengembangan AI tidak akan efektif jika dilakukan oleh satu perusahaan atau satu negara saja. Karena itu, perusahaan menyebut pendekatan global diperlukan agar aturan dapat diterapkan secara merata.

The Telegraph melaporkan Anthropic mendorong terciptanya mekanisme internasional yang memungkinkan banyak pihak menyepakati langkah bersama terkait pengembangan AI canggih.

Perusahaan juga menilai perkembangan teknologi AI saat ini bergerak menuju sistem yang semakin kuat dan kompleks sehingga membutuhkan perhatian lebih besar terhadap aspek keselamatan dan tata kelola.

Seruan Anthropic muncul di tengah meningkatnya persaingan industri AI global dan percepatan pengembangan model AI generasi terbaru di berbagai negara.