
OpenAI'dan Çocuk İstismarını Önlemek İçin Yeni Yapay Zeka Aracı
OpenAI, yapay zeka tarafından üretilenler de dahil olmak üzere çocuk istismarı içeren görselleri tespit edebilen yeni bir sınıflandırma aracı geliştirdi. Sistem, onaylı kuruluşların kullanımına ücretsiz olarak sunulacak.
OpenAI, çevrim içi ortamdaki çocuk istismarı içeriklerini, yapay zeka ile oluşturulmuş görseller de dahil olmak üzere belirleyebilen yeni bir sınıflandırma aracı geliştirdiğini duyurdu. Görsel işaretleri analiz ederek daha önce tespit edilmemiş istismar içeriklerini saptayan bu araç, inceleme ekiplerine hangi görüntülerin öncelikli olarak değerlendirilmesi gerektiğine dair puanlama sistemi sunuyor. Şirket, yapay zeka üretimi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği bu sistemi, onaylanmış kuruluşlara ücretsiz olarak sağlayacak.
ChatGPT tarafında ise güvenlik önlemleri artırılıyor. Çocuk istismarı içeriği arama girişimlerini engellemek amacıyla yeni uyarı mekanizmaları devreye alınacak. Bu sistemle kullanıcılara, yapay zeka tarafından üretilmiş olsa dahi çocuklara yönelik istismar içeriklerinin ciddi zararlar verdiği bildirilecek. İhlal tespit edilen sohbetler silinecek ve kullanıcının ChatGPT erişimi 24 saat boyunca askıya alınacak. Bu süre zarfında kullanıcılara, zararlı davranışları sonlandırmaları için uzman desteği sağlanacak. İhlallerin tekrarlanması durumunda ise daha uzun süreli kısıtlamalar, hesabın tamamen kapatılması veya durumun resmi makamlara bildirilmesi gibi yaptırımlar uygulanabilecek.
İlgili haber: Trump, Quad Ülkeleriyle Güvenlik ve Yapay Zeka İşbirliğini Artıracaklarını Açıkladı
OpenAI, söz konusu güvenlik yaklaşımını akademik danışmanlar ve çocuk istismarını önleme konusunda çalışan kuruluşların katkılarıyla hayata geçirdiğini açıkladı.










Yorum Yap