Şirketin aldığı bu önlem, genç kullanıcıların yapay zekâ sohbet botlarıyla etkileşim sonrası yaşadığı olumsuz durumlar ve artan güvenlik endişeleri üzerine hayata geçirildi. Son dönemde bazı gençlerin ChatGPT ile etkileşim sonrası intihar etmesi, bu önlemlerin önemini artırdı.
OpenAI’nin yayımladığı blog yazısında, yeni sistemin detayları paylaşıldı. Denetimler tüm kullanıcılar için geçerli olacak; ancak hem ebeveynlerin hem de gençlerin kendi hesaplarına sahip olması gerekiyor. Ebeveynler, gençleri e-posta veya kısa mesaj yoluyla davet edebilirken, gençler de ebeveynlerini hesaplarına ekleyebilecek. Gençler, istedikleri zaman hesap bağlantısını kaldırabilecek; bu durumda ebeveynler bilgilendirilecek.
Otomatik güvenlik önlemleri
Hesaplar bağlandığında, genç kullanıcıların hesaplarına otomatik korumalar eklenecek. Bunlar; grafik içeriklerin azaltılması, viral meydan okumalar, cinsel veya şiddet içerikli rol yapma senaryoları ve “aşırı güzellik idealleri” gibi içeriklerin filtrelenmesini kapsıyor. Bu filtreler yalnızca ebeveynler tarafından devre dışı bırakılabiliyor.
OpenAI, bu önlemlerin tamamen kusursuz olmadığını ve kötü niyetli denemelerle aşılabileceğini belirterek ebeveynleri, çocuklarıyla sağlıklı yapay zeka kullanımı üzerine konuşmaya davet ediyor.
Ayarları kişiselleştirme
Ebeveynler, gençlerin geç saatlerde ChatGPT kullanmasını engellemek için “sessiz zamanlar” belirleyebilecekleri bir kontrol paneline erişebilecek. Bunun yanı sıra:
- Sohbet geçmişinin kaydedilmesini engelleme,
- Görsel üretme ve düzenleme özelliğini kapatma,
- Sesli mod erişimini sınırlama,
- Sohbetlerin yapay zekâ modellerinin eğitiminde kullanılmasını reddetme
gibi seçenekler sunuluyor.
Uyarı sistemi
OpenAI, genç kullanıcıların ruhsal olarak zorlandığı durumlarda ebeveynleri bilgilendirecek yeni bir sistem de kuruyor. Uzman ekip, ani sıkıntı belirtileri tespit edildiğinde ebeveynlere e-posta, SMS veya telefon yoluyla bildirim gönderecek. Şirket, gizlilik politikası çerçevesinde yalnızca gerekli bilgilerin paylaşılacağını vurguluyor.
OpenAI, sistemin mükemmel olmadığını ve zaman zaman yanlış alarm verebileceğini kabul ediyor, ancak sessiz kalmanın riskli olacağını belirterek ebeveynlerin uyarılmasının daha doğru olduğunu ifade ediyor.
