Meta Hapus Profil Karakter AI Usai Kritik dan Tuduhan Rasisme

Petrus C. Vianney | 6 Januari 2025, 08:24 WIB

AKURAT.CO Meta memutuskan untuk menghapus 28 akun karakter AI yang sebelumnya diumumkan pada 2023 setelah menuai kritik tajam dan tuduhan rasisme.

Awalnya, Meta memperkenalkan karakter-karakter ini sebagai bagian dari eksperimen AI dengan avatar selebriti dan non-selebriti di platform seperti Instagram dan Facebook.

Dalam wawancara dengan Financial Times, VP Produk AI Generatif Meta, Connor Hayes, menyatakan harapannya bahwa karakter-karakter AI tersebut akan terintegrasi seperti akun biasa yang dapat berbagi konten di platform Meta.

"Kami berharap AI ini benar-benar, dari waktu ke waktu, ada di platform kami, dengan cara yang sama seperti yang dilakukan akun," kata Hayes.

Namun, sebagian besar akun karakter ini berhenti aktif pada 2024. Perhatian kembali muncul setelah karakter-karakter ini disorot dalam wawancara terbaru.

Salah satu profil yang menjadi sorotan adalah Liv, yang digambarkan sebagai 'ibu kulit hitam yang bangga' tetapi dibuat tanpa keterlibatan kreator dari komunitas kulit hitam.

Karakter lainnya, seperti Kakek Brian dan Carter, juga menuai kritik karena dianggap memanfaatkan stereotip kelompok tertentu.

Kritik publik di berbagai platform, termasuk X, Bluesky dan Threads, memaksa Meta untuk bertindak.

Dalam pernyataan resmi, juru bicara Meta menyebutkan bahwa penghapusan dilakukan akibat bug yang memengaruhi kemampuan pengguna untuk memblokir profil AI tersebut.

Meta juga menjelaskan bahwa akun-akun tersebut hanyalah bagian dari uji coba awal yang diumumkan dalam acara Connect 2023.

Meta menegaskan bahwa artikel Financial Times yang memicu diskusi ini bukanlah pengumuman produk baru, melainkan sekadar gambaran visi perusahaan untuk pengembangan karakter AI di masa depan.

"Kami mengidentifikasi bug yang memengaruhi kemampuan orang untuk memblokir AI tersebut dan menghapus akun tersebut untuk memperbaiki masalahnya," ujar juru bicara Meta, dikutip dari Nbcnews.com, Minggu (5/1/2025).

Meski begitu, hal ini menjadi pengingat penting bagi perusahaan teknologi untuk lebih berhati-hati dalam menghadirkan inovasi yang melibatkan representasi kelompok sosial tertentu.

#rasisme #meta #Karakter AI