Bukan rahasia lagi kalau anak sekolahan sekarang lebih sering nanya ke ChatGPT ketimbang ke guru BP. Sadar kalau basis pengguna remaja mereka membludak, Selasa kemarin OpenAI akhirnya merilis ChatGPT for Teens.
Langkah ini sebenarnya dipicu oleh bayang-bayang tragedi kelam. Tahun lalu, perusahaan ini sempat digugat oleh orang tua dari remaja 16 tahun yang diduga mengakhiri hidupnya karena AI dianggap bertindak sebagai enabler (pemicu).
Lewat rilis terbarunya, OpenAI berjanji menebus dosa dengan membawa segudang fitur edukasi. Tapi pertanyaannya: apakah ini murni inovasi keselamatan, atau sekadar strategi Public Relations (PR) biar nggak disemprit regulator?
Janji Manis: AI Sebagai Guru, Bukan Pacar Virtual
Di atas kertas, presentasi OpenAI kelihatan sangat menjanjikan. Mereka menggandeng CodeAI untuk memastikan anak-anak nggak cuma jadi konsumen AI, tapi ngerti cara kerja teknologinya.
Buat membasmi mentalitas "tukang copas", mereka mengenalkan Study Mode dan Responsible Homework Reminders. Kalau AI deteksi si anak cuma minta jawaban instan buat PR Matematika, AI nggak bakal ngasih jawaban langsung, melainkan ngasih step-by-step cara ngerjainnya.
Satu lagi yang paling penting: pembaruan Under-18 Model Spec. ChatGPT versi remaja ini diharamkan menggunakan bahasa romantis, membangun ketergantungan emosional, atau ngaku-ngaku punya perasaan. Say goodbye buat bocil yang suka curhat baper ke bot.
Kenapa Pakar Keamanan Anak Malah Ngamuk?
Meski kelihatannya canggih, para pakar child safety seperti Robbie Torney (Common Sense Media) dan Josh Golin (Fairplay) justru melontarkan kritik pedas.
Sebagai orang yang paham cara kerja sistem digital, kita pasti setuju dengan skeptisisme mereka. Coba kita bedah klaim OpenAI vs realita teknis di lapangan:
| Fitur / Klaim OpenAI | Kritik Pakar & Realita Teknis |
|---|---|
| Otomatisasi Age-Gating (Filter Umur) | Akurasi AI nebak umur masih dipertanyakan (False-Positive tinggi). Bocil jaman sekarang gampang banget nge-bypass pakai VPN atau bohong umur. |
| Review Manusia dalam 1 Jam untuk konten bahaya. | Mustahil secara logistik. Seberapa besar tim reviewer OpenAI untuk nangani jutaan chat global dari AS sampai Indonesia dalam sejam? |
| Notifikasi ke Orang Tua via akun yang tertaut. | Sistem Opt-in. Banyak orang tua gaptek yang nggak ngerti cara nge-link akun. Fitur ini nyaris nggak berguna kalau bukan Safety by Default. |
Ilusi Moderasi Otomatis (Sudut Pandang Developer)
Yang paling bikin dahi berkerut adalah janji OpenAI untuk menotifikasi orang tua dalam waktu 1 jam jika anak membicarakan topik berbahaya (seperti gangguan makan atau self-harm), setelah melalui review manusia.
Sebagai developer, kita tahu persis seberapa besar bottleneck (kemacetan) yang terjadi kalau kita menggabungkan filter otomatis dengan verifikasi manual di skala global.
Masalah utamanya ada di algoritma Classifier. Teks yang mengarah ke self-harm itu sangat bias budaya. Remaja di Jaksel punya gaya bahasa stres yang beda total sama remaja di Singapura atau Belanda.
Kalau kita lihat implementasi kode moderasi standar, biasanya cuma mengandalkan keyword matching atau sentiment analysis mentah seperti ini:
def check_teen_prompt(prompt): # Logika naif yang rentan kebobolan atau false-positive trigger_words = ["depresi", "diet ekstrem", "sakit"] if any(word in prompt.lower() for word in trigger_words): flag_for_human_review(prompt) return "Saya tidak bisa membantu dengan ini, bicaralah dengan orang tua." return generate_ai_response(prompt)Solusi Sebenarnya: Safety by Design Profesor Ellen Fitzsimmons-Craft mengingatkan bahwa isu seperti gangguan makan (terutama anoreksia) punya tingkat mortalitas tertinggi di kalangan remaja. Jadi, fitur notifikasi ke orang tua memang krusial dan bisa menyelamatkan nyawa.
Namun, mengandalkan orang tua untuk setting akun secara manual itu ibarat ngarepin user baca Terms & Conditions sampai habis. Nggak bakal kejadian.
Solusi yang dituntut oleh para pakar adalah Safety by Default. OpenAI harusnya merancang sistem yang protektif sejak awal tanpa membebankan konfigurasi ruwet ke orang tua. Jangan sampai fitur keamanan ini ujung-ujungnya cuma jadi pajangan biar lolos sidang kongres.
Bagaimana dengan kamu? Rela nggak adik atau anakmu dibiarin ngobrol bebas sama AI, atau mending aksesnya diputus total sampai mereka cukup umur?