Google Rilis Watermark untuk Konten AI, Identifikasi Konten Palsu Lebih Mudah

AKURAT.CO Google baru saja meluncurkan teknologi watermarking AI bernama SynthID, yang kini tersedia sebagai sumber terbuka untuk para pengembang di seluruh dunia.

Alat ini diharapkan dapat membantu mengatasi masalah misinformasi dan penyalahgunaan konten yang dihasilkan AI, terutama dalam konteks akademis.

Diluncurkan pada 23 Oktober oleh Google DeepMind, SynthID menyematkan 'tanda air' yang tidak terlihat dalam teks yang dihasilkan oleh AI, seperti pada chatbot Gemini milik Google.

Teknologi ini mengandalkan 'tanda tangan statistik' yang dapat membuat pengguna, seperti perusahaan, pendidik dan pemerintah, mengidentifikasi apakah sebuah konten dihasilkan oleh AI.

Meski responsnya bervariasi, SynthID menggunakan pendekatan statistik untuk memodifikasi pilihan kata dalam proses pembuatan teks.

Penyesuaian ini tidak mengubah makna atau kualitas konten bagi pembaca, tetapi dapat dikenali oleh perangkat lunak tertentu sebagai konten bertanda air.

Bagaimana Cara Kerjanya?

SynthID bekerja dengan menyesuaikan pilihan kata secara halus, tanpa mengubah keterbacaan konten bagi pengguna. Proses ini disebut 'samping turnamen', di mana berbagai opsi kata diuji untuk memastikan tanda air tetap tertanam.

Menurut Pushmeet Kohli dari Google DeepMind, para pengguna dalam uji coba dengan chatbot Gemini tidak melihat perbedaan kualitas antara konten dengan dan tanpa tanda air.

"Sekarang, pengembang AI (generatif) lainnya akan dapat menggunakan teknologi ini untuk membantu mereka mendeteksi apakah keluaran teks berasal dari (model bahasa besar) mereka sendiri," kata Kohli, dikutip dari Trtworld.com, Kamis (31/10/2024).

Kohli berharap teknologi ini akan membantu lebih banyak pengembang mengidentifikasi konten AI mereka dan mendukung penggunaan AI yang lebih bertanggung jawab.

Tantangan dan Prospek ke Depan

Meskipun SynthID berpotensi membantu mengidentifikasi konten AI, beberapa ahli menyebutkan bahwa teknologi watermarking masih memiliki kelemahan.

Konten yang ditandai bisa saja dimodifikasi dengan parafrase atau penerjemahan, yang dapat menghapus tanda air tersebut.

Sementara itu, regulator di berbagai negara mulai memperketat aturan terkait watermarking konten AI.

Uni Eropa dan Cina telah menerapkan regulasi untuk konten yang dihasilkan AI, dan di Amerika Serikat, NIST tengah menyusun standar keselamatan AI.

SynthID dianggap sebagai langkah awal yang menjanjikan, namun perlu pengembangan lebih lanjut untuk mencapai standar yang diandalkan dalam mengidentifikasi konten AI secara global.