Heboh di X! Foto Wanita Diedit Grok Jadi Vulgar Tanpa Izin, Ini Langkah Pencegahannya

AKURAT.CO Belakangan ini, media sosial X (sebelumnya Twitter) dihebohkan dengan tren penyalahgunaan Grok AI yang memanipulasi foto perempuan menjadi tidak senonoh tanpa izin.

Fenomena ini memicu kekhawatiran serius mengenai potensi penyalahgunaan teknologi AI untuk manipulasi visual, pencemaran nama baik, dan penyebaran konten yang merugikan.

Berikut langkah-langkah pencegahan terhadap penyebaran foto vulgar yang dimanipulasi AI tanpa persetujuan.

Langkah Pencegahan dan Hukum

1. Perlindungan Data Pribadi dan Etika AI

xAI, perusahaan pengembang Grok, memiliki Aturan Penggunaan yang melarang penyalahgunaan layanan AI untuk merugikan individu, termasuk melanggar privasi, menggambarkan kemiripan seseorang dalam bentuk pornografi, seksualisasi, eksploitasi, serta penipuan dan pelecehan.

Prinsip "do not harm people" juga menekankan larangan penggunaan AI untuk merugikan orang lain atau menyesatkan publik terkait sumber konten yang dihasilkan AI.

Di Indonesia, Wakil Menteri Kominfo mencatat peningkatan deepfake sebesar 550% dalam lima tahun terakhir.

Pemerintah tengah menyiapkan dua regulasi terkait kecerdasan buatan, yaitu Peta Jalan AI dan Peraturan Presiden mengenai tata kelola keselamatan dan keamanan penggunaan AI.

Kominfo juga telah menerbitkan Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial, yang merumuskan prinsip-prinsip etika seperti kemanusiaan, keamanan data pribadi, inklusivitas, transparansi, akuntabilitas, dan kredibilitas.

Surat edaran ini mewajibkan pelaku usaha dan penyelenggara sistem elektronik memiliki kebijakan internal terkait data dan etika AI, serta bertanggung jawab mengawasi agar teknologi tidak disalahgunakan.

2. Tindakan Hukum Terhadap Penyebaran Foto Vulgar Tanpa Izin

Penyebaran foto vulgar tanpa izin merupakan pelanggaran kesusilaan yang dapat dihukum berdasarkan Undang-Undang Nomor 1 Tahun 2024 (UU 1/2024).

Pasal 4 ayat (1) Undang-Undang Pornografi melarang produksi, penyebarluasan, atau penyediaan pornografi yang memuat ketelanjangan atau tampilan yang mengesankan ketelanjangan.

Pelanggar dapat dipidana penjara paling singkat 6 bulan dan paling lama 12 tahun, dan/atau denda paling sedikit Rp250 juta hingga Rp6 miliar.

Selain itu, penyebar foto juga dapat dijerat Pasal 27 ayat (1) juncto Pasal 45 ayat (1) UU 1/2024, dengan ancaman pidana penjara paling lama 6 tahun dan/atau denda paling banyak Rp1 miliar, bagi yang sengaja menyiarkan informasi elektronik yang melanggar kesusilaan untuk diketahui umum.

Tindakan ini juga bisa dijerat dengan pasal pencemaran nama baik jika korban merasa malu dan dicemarkan.

Pasal 27A UU 1/2024 juncto Pasal 45 ayat (4) UU 1/2024 mengatur pidana penjara paling lama 2 tahun dan/atau denda paling banyak Rp400 juta bagi yang menyerang kehormatan atau nama baik orang lain melalui informasi elektronik.

Perlindungan Diri dan Pelaporan

Jika seseorang menjadi korban penyebaran konten intim tanpa izin (sering disebut revenge porn), beberapa langkah yang dapat dilakukan meliputi.

1. Menyimpan barang bukti: Mengambil tangkapan layar berisi ancaman dari pelaku, serta tautan akun atau unggahan media sosial yang digunakan untuk menyebar konten.

2. Memutus komunikasi: Memblokir kontak atau menonaktifkan akun digital sementara untuk menghindari kecemasan dan ancaman.

3. Melapor ke pihak berwajib: Tidak menuruti permintaan pelaku dan segera melapor ke polisi, terutama jika ada ancaman. Kasus-kasus penyebaran foto vulgar di media sosial sudah banyak ditangani polisi di Indonesia.

4. Mencari dukungan: Korban dapat merasa malu, takut, atau cemas. Dukungan dari orang terdekat sangat penting, seperti tidak menyalahkan korban, menjaga privasi, dan menawarkan bantuan untuk mengumpulkan bukti. Konsultasi dengan psikolog atau psikiater juga dianjurkan untuk mengelola emosi.

5. Memilih pengaturan pribadi: Menggunakan pengaturan privasi untuk sebagian besar foto di media sosial adalah cara sederhana untuk melindungi diri.

Platform media sosial seperti Meta juga menyatakan bahwa membagikan gambar intim seseorang tanpa izin melanggar aturan mereka, dan dapat membantu menghapus gambar tersebut serta melaporkan ancaman.

Melaporkan akun media sosial atau unggahan pelaku pada platform digital juga merupakan tindakan penting untuk mencegah penyebaran lebih lanjut.