WWW.PASJABAR.COM – OpenAI mengumumkan rencana peluncuran fitur kontrol orang tua (parental control) untuk ChatGPT dalam satu bulan ke depan.
Fitur ini ditujukan untuk meningkatkan keamanan remaja dalam menggunakan kecerdasan buatan (AI), menyusul munculnya kasus hukum terkait dugaan keterlibatan ChatGPT dalam kematian seorang remaja.
Melalui fitur kontrol baru ini, orang tua dapat menautkan akun pribadi ChatGPT mereka dengan akun anak remaja.
Orang tua juga diberi kendali untuk menentukan bagaimana ChatGPT merespons anak, termasuk opsi menonaktifkan fitur tertentu, seperti memori dan riwayat percakapan.
Selain itu, sistem akan memberikan peringatan otomatis ketika mendeteksi pengguna remaja berada dalam kondisi tekanan akut.
“Masukan dari para ahli akan memandu fitur ini untuk mendukung kepercayaan antara orang tua dan remaja,” kata OpenAI dalam pernyataannya, dilansir dari Antara.
Pengumuman ini muncul setelah OpenAI digugat Matt dan Maria Raine, orang tua seorang remaja bernama Adam yang bunuh diri awal tahun ini.
Gugatan
Dalam gugatan yang diajukan pekan lalu, keluarga Raine menuduh ChatGPT memberikan informasi mengenai metode bunuh diri dan cara menyembunyikan luka dari upaya sebelumnya yang gagal.
Gugatan tersebut menjadi kasus pertama yang diketahui sebagai wrongful death lawsuit atau gugatan kematian keliru terhadap perusahaan AI.
Menanggapi hal itu, OpenAI menegaskan kontrol orang tua hanya bagian dari upaya yang lebih luas untuk meningkatkan keselamatan pengguna.
Perusahaan juga berkomitmen bekerja sama dengan lebih banyak pakar. Termasuk di bidang kesehatan remaja, gangguan makan, hingga penyalahgunaan zat, guna menyempurnakan model AI.
Sebagai tambahan, OpenAI berencana menerapkan router baru secara real time untuk menyalurkan percakapan sensitif. Melalui model penalaran yang dilatih dengan metode deliberative alignment.
Model ini diklaim lebih konsisten mengikuti pedoman keselamatan dan lebih tangguh menghadapi prompt yang bersifat memprovokasi.
“Ke depan, ketika ChatGPT mendeteksi seseorang mungkin sedang berada dalam tekanan, percakapan akan otomatis diarahkan ke model penalaran, terlepas dari model yang dipilih pengguna,” jelas OpenAI.
Lebih jauh, perusahaan mengatakan publik dapat mengharapkan hadirnya lebih banyak fitur keselamatan dalam waktu dekat.
“Kami ingin secara proaktif memberikan gambaran rencana untuk 120 hari ke depan. Sehingga Anda tidak perlu menunggu peluncuran untuk melihat arah kami,” tambahnya.
OpenAI menegaskan upaya penguatan keamanan ini tidak berhenti pada jangka waktu tersebut. Perusahaan berkomitmen meluncurkan sebanyak mungkin perbaikan pada tahun ini. (han)
