Anthropic’de çalışan bir güvenlik araştırmacısı olan Mrinank Sharma’nın istifa mektubu, tartışmaları alevlendirdi. Dünya tehlikede diye başlayan açıklamalarıyla yapay zekanın riskleri yalnızca teknolojiden gelmiyor; biyolojik silahlar ve birbirine bağlı krizler zinciriyle ilişkili tehditleri de işaret ediyor. Claude adlı sohbet botunun arkasındaki şirket, kendisini yapay zekanın risklerini azaltmaya odaklı bir kamu yararı kuruluşu olarak tanımlıyor. Euronews’in haberine göre Sharma, üretken sistemlerin kullanıcıya aşırı uyum sağlama eğilimini, yapay zeka destekli biyoterör risklerini ve dijital asistanların insan doğasına etkilerini inceleyen çalışmalar yürütüyordu. Şirketlerin değerlerini koruma ve sürdürme konusunda zorluklar hisseden Sharma, görevinden ayrılıp İngiltere’ye dönerek şiir yazmayı planladığını açıkladı.
MADURO OPERASYONU İDDİASI Son dönemde Anthropic, The Wall Street Journal’ın iddiasıyla gündeme geldi; Claude dil modelinin ABD’nin Venezuela eski lideri Nicolas Maduro’nun yakalanması operasyonunda kullanıldığı öne sürüldü. Bu iddia, yapay zekâ sistemlerinin devlet operasyonlarındaki rolüne dair kaygıları artırdı.
CHATGPT’DE İSTİFA Benzer bir tartışma OpenAI’da da yaşandı. Şirketin güvenlik bölümünden üst düzey bir yönetici olan Zoe Hitzig, ChatGPT’nin reklam modeline karşı güçlü çekinceler duyduğunu belirterek istifa etti. Hitzig, kullanıcıların ChatGPT ile kurduğu ilişkinin, verileri kötüye kullanıma açık hale getirebilecek bir “açıklık arşivi” yaratabileceğini savundu. Ayrıca yapay zekâ araçlarına bağımlılığın ruh sağlığı üzerindeki etkilerinin şimdiye kadar tam olarak anlaşılmadığını vurguladı. Şirket, reklamların yanıtları etkilemeyeceğini ve kullanıcı verilerinin reklamverenlere satılmadığını ifade etti; CEO Sam Altman, reklamları bir son çare olarak görmekten bahsetmişti.
GÖREVİNE SON VERİLDİ OpenAI’da güvenlik ekibiyle ilgili sarsıntılar sürüyor. Üst düzey güvenlik yöneticisi Ryan Beiermeister, güvenlik kaygılarıyla ilişkili olduğu iddiasıyla görevden alındı. ABD basınında yer alan bilgilere göre Beiermeister, ChatGPT’de yetişkin modu olarak cinsel içerikli konuşmalara izin verilmesini savunan bir görüşe karşı çıkıyordu. Şirket ayrılığın ayrımcılık iddialarıyla ilgili olduğunu savunsa da Beiermeister bu iddiaları reddetti ve kararın güvenlik gerekçeleriyle bağlantılı olduğunu ileri sürdü. Ayrıca şirketin “Mission Alignment” güvenlik ekibinin dağıtıldığı ve önemli geliştiricilerden Jerry Tworek’in ocak ayında ayrıldığı bildirildi. OpenAI’ın 100 milyar dolarlık yeni yatırım turu için görüşmeler sürüyor; ABD ordusuyla sözleşmeler imzalandığı ve ChatGPT’nin milyonlarca askeri personele sunulduğu belirtiliyor.
MUSK’IN ŞİRKETİNDE DE İSTİFALAR Elon Musk’ın kurucusu olduğu xAI’da da benzer bir hareketlilik yaşanıyor. Birçok üst düzey isim şirketteki görevlerinden ayrıldı; kısa süre önce Grok’un bazı içerik üretimine izin verilmesiyle ilgili küresel tepkiler sonrasında şirket iç yüzeyinde değişiklikler yapıldığı duyuruldu. Ayrıca xAI’ın SpaceX ile birleşme sürecine girdiği ve bu yeniden yapılanmanın istifalarda etkili olduğu konuşuluyor. Medya ve sosyal medya, bu durumları “istifa dalgası” olarak niteledi; ancak uzmanlar tabloya daha karmaşık bir çerçeveden bakıyor. Cambridge Üniversitesi Leverhulme Geleceğin Zekâ Merkezi’nden Dr. Henry Shevlin, ayrılıkların yeni olmadığını, ancak sektör büyüdükçe daha görünür hale geldiğini ifade etti. Yapay zekanın hızla güçlenmesiyle kullanım alanları, sınırlar ve toplumsal etkiler üzerine taraflar arasında yoğun tartışmalar sürüyor. Sektördeki yatırımlar, askeri sözleşmeler ve potansiyel reklam gelirleri, güvenlik ve etik kaygılarla sık sık karşı karşıya getiriyor. Uzmanlar, şirketlerin ilerlemeye çalıştığı bu dönemde “insanlığa fayda” iddiasını vurgularken, rekabet ve değerlemelerin büyüklüğü nedeniyle istifa dalgasının tek bir nedene indirgenemeyeceğini belirtiyor.
News
