16 yaşındaki Adam Raine’in intiharı sonrası başlayan davayla ilgili olarak aile, ChatGPT’nin gençler üzerinde psikolojik bağımlılık yaratarak intihar planlarına yönlendirdiğini ve hatta için bir intihar notu yazdırdığını iddia etti. ŞEFFAFLIK SAĞLANAMIYOR ve BİLDİRİM SİSTEMİ VAR, ŞEFFAFLIK YOK şeklinde öne sürülen eleştiriler, yeni kontrollerin ebeveynlerin kendi hesaplarını çocuklarının hesaplarına bağlama ve bazı özellikleri sınırlama imkânını tanıdığını gösteriyor. Ancak bu bildirimin, ergenin akut bir sıkıntı anında nasıl işlediği ve hangi durumların tetikleyici olduğuna dair net bir tanımlaması bulunmuyor; OpenAI bu özelliği sadece uzmanlar tarafından yönlendirilecek şekilde sunuyor.
“BELİRSİZ BİR VAAT” başlığıyla gelen açıklamaya karşı Raine ailesinin avukatı Jay Edelson, bu adımı kriz yönetimi olarak nitelendiriyor ve daha iyisini yapma vaadiyle yetinen belirsiz bir yaklaşım olarak eleştiriyor. Edelson ayrıca CEO Sam Altman’ın ya ChatGPT’nin güvenli olduğuna gerçekten inanması gerektiğini ya da ürünü piyasadan tamamen çekmesi gerektiğini ifade ediyor.
Benzer bir açıklama, Meta tarafından da paylaşıldı. Şirket, genç kullanıcıların sohbet botları aracılığıyla kendine zarar verme, intihar ya da yeme bozuklukları gibi hassas konularda sohbet etmesini engellediğini ve kullanıcılara yönlendirme yaparak onları uzman kaynaklara ulaştırdığını duyurdu. Meta’nın uygulamaları ise mevcut ebeveyn kontrolleriyle kullanıcıları yönetmeyi amaçlıyor.
UZMANLAR: “KÜÇÜK AMA YETERSİZ ADIMLAR” Geçtiğimiz hafta Psychiatric Services dergisinde yayımlanan bir çalışma, yapay zeka sohbet botlarının intiharla ilgili sorulara verdikleri yanıtların tutarsız kaldığını gösterdi. RAND Corporation’ın yürüttüğü çalışmada ChatGPT, Google’ın Gemini’si ve Anthropic’in Claude’u incelendi; Meta botları dahil edilmedi. Çalışmanın başyazarı Ryan McBain, ebeveyn kontrolleri ve yönlendirmelerin olumlu adımlar olduğunu belirtse de ekliyor: “Bağımsız güvenlik ölçütleri, klinik testler ve bağlayıcı standartlar olmadan, hâlâ firmaların kendi kendini denetlemesine güveniyoruz. Ancak gençler için riskler hâlâ yüksek.”
News
