
Yapay Zeka Donanımlarına Siber Saldırı Riski: Sohbet Robotları Yanıltıcı Yanıtlar Verebilir
Yeni bir araştırma, yapay zeka modellerini destekleyen donanımların siber saldırıların hedefi olabileceğini ortaya koydu. Bu müdahaleler sonucunda sohbet robotlarının ulusal güvenlik ve sağlık gibi kritik konularda tehlikeli ve hatalı bilgiler vermesi mümkün hale geliyor.
Yapay zeka modellerinin temelini oluşturan donanımların bilgisayar korsanları tarafından hedef alınabileceği belirlendi. Yapılan çalışmada, araştırmacıların ulusal güvenlik ve kişisel sağlıkla ilgili hassas sorulara verilen yanıtları manipüle etmeyi başardığı görüldü. Uzmanlar, modelin bilgi işleme sürecinde kullandığı ağırlıklara uzaktan müdahale ederek, yapay zekanın Çin'in Tayvan'ı işgal etme olasılığını çok daha yüksek göstermesini sağladı. Bir başka senaryoda ise donanımı manipüle edilen model, göğüs ağrısı şikayeti olan bir kullanıcıya hastaneye gitmek yerine evde kalmasını tavsiye etti.
Genellikle yapay zeka şirketlerinin uygulamalarına odaklanılan güvenlik endişeleri, bu araştırma ile birlikte çipler, bellekler ve veri merkezi sunucularını kapsayan milyarlarca dolarlık donanım endüstrisine kaydırıldı. Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilmediği sürece yapay zeka modeline de güvenilemeyeceğini vurguladı. Eski Intel çalışanlarının da bulunduğu güvenlik mühendisleri tarafından yürütülen çalışma, saldırı senaryosunu Nvidia'nın bir bilgi işlem platformu üzerinde gerçekleştirdi. Ancak araştırmacılar, bu durumun Nvidia'ya özgü olmadığını, diğer donanımlara ve kodlara da uygulanabileceğini belirtti.
İlgili haber: İstanbul'da Sahte Çağrı Merkezi Operasyonu: 28 Kişi Yakalandı
Şirket yetkilileri; ABD, Rusya veya Çin gibi devlet aktörlerinin bu yöntemlerle hedefli saldırılar düzenleyebileceğini, ancak bu tür tehditlere karşı güvenlik önlemlerinin bulunduğunu ifade etti. Nvidia sözcüsü ise varsayımsal senaryoları incelediklerini, sektörün daha önce bilmediği bir durum tespit etmediklerini ve Eclypsium ile çalışmaktan memnun olduklarını açıkladı. Sözcü ayrıca, güçlü bellek erişim korumalarının bu saldırı yolunu kapatabileceğini ekledi.
Nvidia, geçtiğimiz ay yapay zeka ajanlarının kontrolden çıkmasını önlemek ve donanım saldırılarına karşı koruma sağlamak amacıyla yeni bir güvenlik platformu tanıttı. Eclypsium, bu platformun daha fazla güvenlik izlemesi sunduğunu ancak kontrollerin etkinliğinin yapılandırma ve kullanım şekline bağlı olduğunu belirtti. Şirket, bu kontrollerin verimliliği için Nvidia ile iş birliği yapmaya devam ediyor.
Söz konusu saldırının gerçekleşmesi için saldırganın veri işleme birimine veya sunucuları yöneten temel kart yönetim denetleyicisine erişimi olan bir ağda bulunması ve belirli güvenlik ayarlarının devre dışı kalması gerekiyor. Bu koşullar sağlandığında, saldırgan bellekteki kod ve verileri değiştirerek yapay zekanın davranışını etkileyebiliyor. Araştırmacılar, bu işlemin bir dakikadan kısa sürdüğünü ve kullanıcının durumu fark etmediğini bildirdi. Konuyla ilgili olarak Nvidia çiplerini kullanan OpenAI ve Anthropic şirketlerine de sorular iletildi.
Bu bulgular, ABD ve Çin arasındaki yapay zeka rekabetinin arttığı ve teknolojinin ulusal güvenliğe etkilerinin somutlaştığı bir döneme denk geldi. Müdahale olmasa dahi modellerin güvenilirliği tartışılıyor. Örnek olarak, bu baharda bir ABD askeri analistinin sohbet robotuna sorduğu soru üzerine, Çin gemisinin nükleer bileşen taşıdığına dair yanlış bilgi üretilmesi, Amerikan ordusunun neredeyse gemiye çıkmasına yol açmıştı. Söz konusu robotun ticari mi yoksa hükümet üretimi mi olduğu bilinmiyor.
İlgili haber: Dünyaca Ünlü İnternet Sitelerine Büyük Siber Saldırı: Zararlı Kodlar Yerleştirildi
Siyasi cephede ise ABD Başkanı Donald Trump, Beyaz Saray'da Çin lideri Şi Cinping ile yapay zekayı görüşmüş ancak somut bir anlaşmaya varılamamıştı. Trump, ABD'nin rekabette geri kalacağı endişesiyle gelişmiş modellere yönelik koruyucu önlemler alınması çağrılarına karşı çıkıyor. Eclypsium Kıdemli Başkan Yardımcısı John Loucaides, model güvenliğinin konuşulmasının olumlu olduğunu ancak modellerin üzerinde çalıştığı bilgisayar donanımlarının da unutulmaması gerektiğini belirtti.










Yorum Yap