OpenAI, popüler yapay zeka platformu ChatGPT için reşit olmayan kullanıcıları korumayı amaçlayan yeni bir güvenlik katmanı geliştirdi. Resmi duyuruyla birlikte açıklanan sistem, davranışsal analizlere dayalı yaş tahmini yaparak platformun kullanımını daha güvenli hale getirmeyi hedefliyor.
Amaç: Genç kullanıcıları korumak
Yeni model, hesap sahibinin 18 yaşın altında olup olmadığını tahmin ederek gerektiğinde otomatik olarak daha sıkı içerik filtreleri uyguluyor. Böylece küçük yaştaki kullanıcıların zararlı dijital materyallere maruz kalma riski minimuma indirilmeye çalışılıyor.
Nasıl çalışıyor? Kişisel bilgi değil davranışsal sinyaller
OpenAI, sistemin çalışmasında kişisel verilerin analiz edilmediğinin altını çizdi. Model bunun yerine şu davranışsal göstergelere odaklanıyor:
-
Hesabın kullanım süresi ve ritmi
-
Etkileşim tarzı ve dil yapısı
-
Belirtilen yaş bilgisi
-
Aktivite kalıpları
Bu sinyaller, makine öğrenimi algoritmalarıyla birlikte değerlendirilerek bir yaş tahmini yapılıyor. Model, çocuk olduğu düşünülen hesaplardaki içerik akışını otomatik olarak değiştiriyor.
Hassas içeriklere filtre uygulanacak
Sistem, yaş açısından riskli olarak değerlendirilen kullanıcılarda çeşitli sınırlamaları devreye sokuyor. Bu filtreler özellikle şu içerik kategorilerinde etkili olacak:
-
Grafik şiddet
-
Cinsel içerik
-
Vücut algısı ve utandırma
-
Kendine zarar verme temaları
OpenAI, “şüphe durumunda güvenli mod” prensibini benimsediğini belirterek kullanıcı yaşı net değilse erişimin otomatik olarak güvenli moda alındığını ifade etti. Bu yaklaşım, çocuk gelişimi alanındaki akademik araştırmalara dayandırılıyor.
Ebeveynler için yeni kontrol araçları
Yaş tahmin sistemiyle birlikte OpenAI, ebeveynlere dönük yeni güvenlik araçlarını da platforma ekledi. Bu araçlar arasında:
-
Kullanım için zaman kısıtlamaları (“sessiz saatler”)
-
Hesap etkinliğinin ebeveyn panelinden izlenebilmesi
-
Stres, kaygı veya riskli davranış sinyallerinde uyarı gönderme
gibi özellikler bulunuyor.
Sistem kullanıma girdi
OpenAI, yaş tahmin modelinin tüketici planlarına sahip hesaplarda aktif olarak devreye alındığını doğruladı. Şirket, önümüzdeki dönemde hem güvenlik kontrollerinin hem de ebeveyn araçlarının kapsamının genişletileceğini belirtiyor.
Yeni sistem, yapay zekanın hızla büyüyen kullanım alanlarında güvenli dijital deneyim oluşturma çabalarının kritik başlıklarından biri olarak değerlendiriliyor.
