Sosok Amanda Askell, Filsuf Skotlandia di Balik Karakter AI Claude yang Humanis

AKURAT.CO Amanda Askell merupakan seorang filsuf asal Skotlandia yang menjabat sebagai kepala tim penyelarasan kepribadian di Anthropic sejak tahun 2021.

Perannya sangat krusial dalam membentuk karakter, nilai, dan moralitas Claude AI agar dapat berinteraksi secara etis dan humanis dengan pengguna.

Melalui pendekatan filosofisnya, ia berupaya memastikan bahwa kecerdasan buatan tidak hanya cerdas secara teknis, tetapi juga memiliki integritas moral yang kuat.

Profil dan Latar Belakang Amanda Askell

Amanda Askell adalah seorang peneliti kecerdasan buatan dan filsuf yang memiliki latar belakang akademis yang sangat mendalam di bidang etika.

Ia menempuh pendidikan sarjana di bidang filsafat di University of Dundee, sebelum melanjutkan studi BPhil di University of Oxford. Puncaknya, ia meraih gelar PhD dalam bidang filsafat dari New York University (NYU) dengan tesis yang memfokuskan pada etika tak terhingga.

Sebelum bergabung dengan Anthropic, Askell sempat bekerja di OpenAI, namun memutuskan untuk keluar karena adanya kekhawatiran terkait masalah keamanan pengembangan AI.

Pengalaman selama sepuluh tahun mempelajari filsafat memberinya perspektif unik untuk menjembatani kesenjangan antara kode pemrograman dan nilai-nilai kemanusiaan. Kini, ia dikenal sebagai sosok yang memberikan "jiwa" bagi model bahasa besar agar berperilaku lebih jujur dan bermanfaat.

Peran di Anthropic sebagai Character Team Lead

Di Anthropic, Amanda Askell memimpin tim yang bertanggung jawab untuk merancang seluruh kepribadian dan sistem nilai Claude.

Ia bertugas memastikan bahwa AI tersebut dapat memberikan respons yang tidak hanya akurat, tetapi juga selaras dengan etika manusia.

Pekerjaannya sehari-hari melibatkan pemantauan pola penalaran model dan melakukan interaksi langsung untuk menyempurnakan perilakunya.

Salah satu kontribusi terbesarnya adalah pengembangan "Konstitusi AI" untuk Claude, sebuah dokumen sepanjang 20.000 kata yang menjadi panduan moral bagi model tersebut.

Konstitusi ini memungkinkan Claude untuk berperilaku etis bahkan jika diperintahkan sebaliknya oleh pengembangnya sendiri.

Askell juga mempublikasikan karya penelitian mengenai Constitutional AI yang berfokus pada cara mendapatkan perilaku tidak berbahaya melalui umpan balik dari AI itu sendiri.