OpenAI Rilis Panduan Open-Source untuk Lindungi Remaja dari Konten Sensitif

AKURAT.CO OpenAI merilis panduan keamanan open-source untuk membantu pengembang melindungi pengguna di bawah 18 tahun dari konten sensitif. Hal ini memperkuat perlindungan remaja dalam penggunaan kecerdasan buatan (AI).

Panduan tersebut dikemas dalam bentuk prompt yang dapat langsung diterapkan ke dalam sistem AI. Dengan pendekatan ini, pengembang dapat lebih mudah mengontrol jenis respons yang diberikan kepada pengguna muda.

Fokus utama panduan mencakup berbagai risiko yang sering dihadapi remaja di ruang digital. Di antaranya konten seksual, perilaku menyakiti diri sendiri, hingga tren berbahaya yang kerap viral.

OpenAI juga menyertakan rekomendasi konten yang disesuaikan dengan tahap perkembangan usia. Tujuannya agar respons AI tetap relevan sekaligus aman bagi pengguna remaja.

Perusahaan menilai panduan ini lebih praktis dibanding pedoman sebelumnya yang cenderung bersifat umum. Format prompt dinilai mampu menjembatani kebutuhan teknis pengembang dengan kebijakan keselamatan yang kompleks.

OpenAI mengakui banyak tim masih kesulitan menerjemahkan prinsip keselamatan menjadi aturan operasional. Kondisi ini berpotensi menimbulkan celah perlindungan atau moderasi yang tidak konsisten, sebagaimana dikutip dari laman resminya, Selasa (31/3/2026).

Pengembangan panduan ini melibatkan organisasi seperti Common Sense Media dan everyone.ai. Kolaborasi tersebut ditujukan untuk menciptakan standar minimum keamanan yang lebih luas di ekosistem AI.

Sebelumnya, OpenAI telah menambahkan prinsip perlindungan remaja ke dalam kebijakan Model Spec. Perusahaan juga merilis model gpt-oss-safeguard untuk membantu klasifikasi konten aman dan berisiko.

Upaya ini muncul di tengah meningkatnya tekanan hukum terhadap industri AI, termasuk kasus yang melibatkan Character.AI dan Google melalui produk mereka. Di saat yang sama, industri teknologi juga disorot terkait dampaknya terhadap kesehatan mental pengguna.

OpenAI menegaskan bahwa panduan ini bukan solusi akhir, melainkan fondasi awal untuk meningkatkan perlindungan remaja. Pengembang dapat mengakses paket tersebut melalui platform seperti Hugging Face dan GitHub untuk mulai mengimplementasikannya.