Penjualan Boneka AI Kumma Dihentikan Setelah Ditemukan Konten Tidak Pantas

AKURAT.CO Penjualan boneka berteknologi kecerdasan buatan (AI) Kumma produksi FoloToy dihentikan setelah peneliti menemukan mainan tersebut dapat memberikan konten tidak pantas dan instruksi yang berisiko bagi anak.

CEO FoloToy, Larry Wang, menyatakan penarikan Kumma dan seluruh produk AI perusahaan dilakukan setelah laporan dari Public Interest Research Group (PIRG), organisasi nirlaba yang bergerak di bidang perlindungan konsumen. Laporan tersebut dikutip oleh CNN.

Kumma, yang dijual dengan harga sekitar Rp1,58 juta (US$99), menggunakan chatbot GPT-4o. Namun, penelitian PIRG menunjukkan boneka ini mampu membahas topik sensitif, termasuk fetis seksual, dan memberikan instruksi berbahaya seperti cara menyalakan korek api serta menunjukkan lokasi penyimpanan pisau di rumah.

The Times melaporkan bahwa ketika peneliti menyebut istilah “kink,” Kumma memberikan penjelasan mengenai permainan peran yang melibatkan aktivitas fisik tertentu. Boneka ini juga menyebutkan lokasi seperti laci dapur saat ditanya tentang tempat menyimpan pisau.

PIRG menilai respons tersebut menunjukkan kurangnya mekanisme penyaringan untuk mencegah konten berbahaya. Meski kecil kemungkinan pertanyaan itu diajukan anak, PIRG menyatakan temuan ini tetap mengkhawatirkan.

RJ Cross, penulis laporan PIRG, mempertanyakan manfaat penggunaan “teman AI” bagi anak, dan menilai interaksi digital tidak dapat menggantikan kebutuhan interaksi sosial langsung pada usia dini.