by Oh! Semput
OpenAI kini akan menggantung akses pengguna kepada ChatGPT selama 24 jam jika mereka cuba mencari bahan penderaan seksual kanak-kanak (CSAM), termasuk bahan yang dijana menggunakan kecerdasan buatan (AI).
Menurut OpenAI, ChatGPT akan memaparkan amaran yang menjelaskan bahawa perbuatan menseksualkan kanak-kanak adalah berbahaya dan boleh menyalahi undang-undang, walaupun bahan yang diminta dijana oleh AI. Perbualan yang ditanda turut akan dipadam.
Amaran tersebut juga mengarahkan pengguna kepada sokongan pakar bagi membantu menghentikan tingkah laku berbahaya. Pelanggaran berulang boleh membawa kepada sekatan lebih lama, penutupan akaun atau laporan kepada pihak berkuasa.
OpenAI sebelum ini sudah melarang CSAM dan melatih modelnya untuk menolak permintaan berkaitan. Pendekatan amaran baharu ini dibangunkan dengan input organisasi pencegahan penderaan kanak-kanak seperti Protect Children dan Lucy Faithfull Foundation.
Selain itu, OpenAI turut memperkenalkan classifier imej baharu yang boleh mengesan potensi CSAM, termasuk bahan janaan AI. Berbeza dengan kaedah padanan hash yang bergantung kepada pangkalan data bahan sedia ada, classifier ini menilai tanda visual untuk mengenal pasti imej baharu yang belum pernah dikesan.
Syarikat mendakwa ia merupakan classifier CSAM pertama yang tersedia secara meluas dengan isyarat khusus bagi menunjukkan sama ada bahan itu mungkin dijana AI. Ia dibangunkan dengan bantuan National Center for Missing and Exploited Children (NCMEC) dan ditawarkan secara percuma kepada organisasi yang ditapis melalui OpenAI API.
Dalam ujian dalaman, OpenAI menganggarkan classifier tersebut menanda 48% lebih sedikit imej berbanding sistem sedia ada, namun menemui jumlah imej penderaan yang hampir sama.
OpenAI juga menerbitkan panduan untuk pembangun serta menyediakan alat AI dan latihan kepada unit penguat kuasa undang-undang yang menyiasat kes eksploitasi kanak-kanak, tertakluk kepada kebenaran agensi.
Langkah ini hadir ketika perlindungan kanak-kanak dalam talian semakin diperketat, termasuk di Malaysia yang mewajibkan platform media sosial menyekat pendaftaran akaun individu bawah 16 tahun sejak 1 Jun 2026 di bawah Akta Keselamatan Dalam Talian 2025.
{suggest}
ChatGPT Kini Gantung Akses 24 Jam Jika Cuba Cari CSAM WISER.MY.