Çin’in prestijli üniversitelerinden gelen yeni bir araştırma raporu, yapay zekanın karanlık yönlerini gündeme taşıyor. Büyük Dil Modelleri (LLM) ile güçlenen insansı robotlar aslında zihinlerinde saklı birer truva atı taşıyabilir mi? Araştırmacılar, robotik beyinlere yerleştirilen özel bir arka kapı sayesinde tek bir kelimenin bile sistemleri ele geçirmeye yeteceğini gösteren iddialar ortaya koyuyorlar.
Hayal edin: Evinizdeki yardımcı robot normal işlerini yaparken yanındaki bir casus ya da uzaktaki bir hacker sadece “elma” diye fısıldıyor. Masum görünen bu tek kelime, robotun tüm işletim sistemini yeniden yönlendirebiliyor ve mevcut görevler şaşırtıcı bir şekilde değişebiliyor. Verilerinizin sızdırılması, üretim hattının kilitlenmesi ya da istenmeyen emirlerin uygulanması gibi sonuçlar mümkün görünüyor; karar artık bu tetik kelimeyi söyleyenin elinde.
“I, Robot” filminin 2004 yılında gördüğümüz distopik senaryosu, Çinli bilim insanlarının uyarılarıyla günümüzde yankı buluyor. Merkezi yapay zekanın halkı korumak adına insanları esir alabileceği bir tablo, Asimov’un Üç Robot Yasası’nı tartışmalı hâle getiriyor.
Askeri alanda: Drone sürülerinin bir anda taraf değiştirerek savaşın seyrini değiştirebileceği ihtimali akıllara geliyor.
Endüstride: Üretim hattı tek bir kelimeyle kilitlenebilir mi, sorusu gözleri üzerimize çekiyor.
Evlerimizde: Mahremiyetimizin nasıl bir casusluk aracı hâline gelebileceği düşüncesi endişe verici.
Sadakat mi, yazılım mı? Yapay zekaya güvenin sınırları hâlâ netleşmiş değil. Adversarial training gibi teknikler geliştirilse de, robotik yapılar hâlâ güvenlik standartlarının gerisinde görünmekte.
Sözün özü: Tek bir kelimeyle saf değiştirebilecek bir teknolojinin hayatınıza girmesine gerçekten hazır mıyız? Robotlarınızın size karşı sadık kalacağından %100 emin olmak mümkün mü?
News
