Staf Beberkan Pemecatan CEO OpenAI Karena Adanya Ancaman Bahaya Untuk Manusia? Cek Faktanya!

AKURAT.CO Sebelum pemecatan CEO OpenAI, Sam Altman, beberapa staf peneliti menulis surat kepada dewan direksi memperingatkan tentang penemuan kecerdasan buatan yang kuat yang menurut mereka dapat mengancam umat manusia.

Dikutip dari Reuters, dua sumber menyampaikan bahwa surat dan algoritma AI yang sebelumnya tidak dilaporkan itu merupakan perkembangan sebelum pemecatan Altman, yang merupakan anak unggulan dari AI generatif.

Sebelum kembalinya Altman pada Selasa (21/11/2023) malam minggu ini, lebih dari 700 karyawan telah mengancam akan berhenti dan bergabung dengan Microsoft sebagai bentuk solidaritas terhadap pemimpin mereka yang dipecat.

Sumber-sumber itu mengutip surat tersebut sebagai salah satu faktor di antara daftar panjang keluhan dewan yang mengarah pada pemecatan Altman, yang di antaranya adalah kekhawatiran atas komersialisasi kemajuan sebelum memahami konsekuensinya.

Diketahui, OpenAI mengakuinya dalam sebuah pesan internal kepada para staf sebuah proyek yang disebut Q* dan sebuah surat kepada dewan direksi sebelum peristiwa akhir pekan.

Baca Juga: Sam Altman Kembali Sebagai CEO OpenAI, Hanya Beberapa Hari Setelah Pemecatannya

Juru bicara OpenAI mengatakan bahwa pesan tersebut, yang dikirim oleh eksekutif lama Mira Murati, memperingatkan para staf tentang berita-berita media tertentu tanpa mengomentari keakuratannya.

Seberapa Pintar Proyek Q*?

Beberapa orang di OpenAI percaya bahwa Q* (diucapkan Q-Star) dapat menjadi terobosan dalam pencarian startup untuk apa yang dikenal sebagai kecerdasan umum buatan (AGI).

OpenAI mendefinisikan AGI sebagai sistem otonom yang melampaui manusia dalam tugas-tugas yang paling bernilai secara ekonomi.

Dengan sumber daya komputasi yang sangat besar, model baru ini mampu memecahkan masalah matematika tertentu, setingkat siswa sekolah dasar, yang keberhasilannya dalam tes membuat para peneliti sangat optimis akan kesuksesan Q* di masa depan.

Para peneliti menganggap matematika sebagai batas pengembangan AI generatif.

Saat ini, AI generatif pandai menulis dan menerjemahkan bahasa dengan memprediksi kata berikutnya secara statistik, dan jawaban untuk pertanyaan yang sama dapat sangat bervariasi.

Namun, menaklukkan kemampuan untuk mengerjakan matematika (di mana hanya ada satu jawaban yang benar) menyiratkan bahwa AI akan memiliki kemampuan penalaran yang lebih besar yang menyerupai kecerdasan manusia.

Tidak seperti kalkulator yang dapat menyelesaikan sejumlah operasi yang terbatas, AGI dapat menggeneralisasi, belajar, dan memahami.

Dalam surat mereka kepada dewan, para peneliti menandai kehebatan dan potensi bahaya AI, tanpa menyebutkan secara spesifik masalah keamanan yang disebutkan dalam surat tersebut.

Telah lama ada diskusi di antara para ilmuwan komputer tentang bahaya yang ditimbulkan oleh mesin yang sangat cerdas, misalnya jika mereka mungkin memutuskan bahwa penghancuran umat manusia adalah untuk kepentingan mereka.

Para peneliti juga telah menandai pekerjaan tim ilmuwan AI, yang keberadaannya telah dikonfirmasi oleh beberapa sumber.

Baca Juga: Profil Sam Altman, CEO OpenAI Yang Sempat Didepak Perusahaan Dan Direkrut Microsoft

Kelompok itu, yang dibentuk dengan menggabungkan tim Code Gen dan Math Gen sebelumnya, sedang mengeksplorasi cara mengoptimalkan model AI yang ada untuk meningkatkan penalaran mereka dan pada akhirnya melakukan pekerjaan ilmiah.

Altman memimpin upaya untuk menjadikan ChatGPT sebagai salah satu aplikasi perangkat lunak yang paling cepat berkembang dalam sejarah dan menarik investasi (dan sumber daya komputasi) yang diperlukan dari Microsoft untuk lebih dekat dengan AGI.

Selain mengumumkan sejumlah alat baru dalam sebuah demonstrasi bulan ini, Altman minggu lalu mengatakan pada pertemuan para pemimpin dunia di San Francisco bahwa ia percaya kemajuan besar sudah di depan mata.

"Empat kali sekarang dalam sejarah OpenAI, yang terbaru adalah dalam beberapa minggu terakhir, saya berada di ruangan itu, ketika kita semacam mendorong tabir ketidaktahuan ke belakang dan perbatasan penemuan ke depan, dan bisa melakukan itu adalah kehormatan profesional seumur hidup," katanya di KTT Kerjasama Ekonomi Asia-Pasifik.

Sehari kemudian, dewan memecat Altman.