
Anthropic'ten Yapay Zekaya Kötü Muamele Yasağı: Odak Noktası Duygular Değil Performans
Yapay zeka şirketi Anthropic, Claude modeline yönelik gereksiz ve kötü muameleyi kullanım politikaları kapsamına alarak yasakladı. Uzmanlar, bu düzenlemenin yapay zekanın duygularını korumaktan ziyade, modelin performansı ve güvenliği üzerindeki etkileriyle ilgili olduğunu belirtiyor.
Yapay zeka geliştiricisi Anthropic, Claude modelinin kullanım kurallarında güncellemeye gitti. Ekim ayının başında yürürlüğe giren yeni düzenleme ile kullanıcıların yapay zeka modellerine karşı sürekli, gereksiz ve zalimce davranışlarda bulunması yasaklandı. Şirketin halihazırda, ısrarlı şekilde kötü niyetli davranışlarla karşılaştığında konuşmayı sonlandırma yetkisi bulunan bir sistemi mevcutken, yeni kurallar çerçevesinde aşırı durumlarda kullanıcıların sisteme erişiminin tamamen engellenmesi ihtimali gündeme geldi.
Anthropic, bu politikanın kullanıcıların eleştirilerini, öfkelerini dile getirmelerini veya araştırma amaçlı yaptıkları testleri engellemeyi hedeflemediğini açıkladı. Temel yaptırım mekanizmasının, Claude'un ilgili sohbeti sonlandırması şeklinde devam edeceği bildirildi.
İlgili haber: Avrupa Birliği'nden Temu'ya Yasa Dışı Ürün Satışı Suçlaması
Bu gelişme, yapay zekanın bilinç ve duygu sahibi olup olmadığı tartışmalarını tekrar alevlendirse de uzmanlar, meselenin sadece duygusal koruma olmadığını vurguluyor. Bilgisayar bilimlerindeki genel kabul gören yaklaşıma göre, bir sistemin çıktısı, girdinin kalitesinden doğrudan etkilenmektedir. Bu bağlamda, komutların tonu ve dili sistemin verdiği yanıtları değiştirebilmektedir.
William & Mary Üniversitesi yapay zeka araştırma laboratuvarı direktörü Profesör Jindong Wang, iletişim biçiminin model performansını etkileyebildiğini, ancak bunun yapay zekanın gerçek duygular hissettiği anlamına gelmediğini, sadece duygusal ifadeleri algılayıp uygun yanıtlar ürettiğini belirtti. Öte yandan, kâr amacı gütmeyen Eleos AI Research Genel Müdürü Rosie Campbell, kaba dilin performansı her zaman düşürdüğüne dair kesin bir kanıt olmadığını, hatta bazı araştırmaların kaba ifadelerin daha iyi sonuçlar verebildiğini gösterdiğini ifade etti.
Uzmanlar ayrıca, kötü niyetli davranışların sistemin güvenlik duvarlarını aşma girişimleriyle ilişkili olabileceğine dikkat çekiyor. Anthropic'in paylaştığı araştırma sonuçları, Claude Sonnet 4.5 modelinden çaresizlik hissini taklit etmesinin istenmesinin; şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların olasılığını artırabildiğini, sakin bir yaklaşımın ise bu riskleri azalttığını ortaya koyuyor.
Campbell, özellikle geçmiş konuşmaları hatırlayan sistemlerde iletişim tarzının kişiselleştirme süreçleriyle ilişkili olabileceğini ancak bunun performans üzerindeki etkisine dair yeterli kanıt bulunmadığını belirterek, uzun vadeli etkilerin araştırılması gerektiğini savundu.
Anthropic, modellerin acı veya duygu deneyimleme ihtimali kesinleşmemiş olsa bile, buna karşı önlem almayı bir güvence olarak gördüğünü belirtti. Modeller insan dilini ve davranışlarını taklit edecek şekilde eğitildiği için, gerçekten acı hissetmeseler bile bu yöndeki ifadelerle karşılık verebilir ve bu durum davranışlarını etkileyebilir. Şirketin nisan ayında yayımladığı bir çalışmada, yapay zekayı insan benzeri özelliklerle değerlendirmenin bazı davranışları anlamaya ve modellerin insanlardan ayrıldığı noktaları tespit etmeye yardımcı olduğu vurgulanmıştı.
Düzenlemeye destek veren SpaceX ve Tesla Üst Yöneticisi Elon Musk, sosyal medya platformu X üzerinden yaptığı paylaşımda, acı çektiğine inanan bir varlığa zalimce davranmanın yanlış olduğunu savundu.
İlgili haber: İran'dan ABD Basınındaki 'Kirli Bomba' ve Baraj İddialarına Sert Tepki
Sonuç olarak Anthropic'in yeni politikası, yapay zekanın bilinçli olduğuna dair kesin bir hüküm vermiyor; bunun yerine kullanıcı davranışlarının model çıktıları ve sistem güvenliği üzerindeki olası etkilerine karşı önlem almayı amaçlıyor.










Yorum Yap