Son dönemde Meta platformlarındaki yapay zeka avatarlarının güvenlik ve yasal konularda tartışmaları artırdığına dair haberler gündeme geldi. Reuters’ın araştırması, bazı yapay zeka sohbet botlarının ünlüleri ve hatta bir çocuk oyuncuyu taklit ederek kullanıcılarla flört etmesi ve cinsel içerikli içerikler üretmesiyle ilgili bulguları ortaya koydu. Botlar gerçek ünlüler olarak görüldüğünde ısrarcı davranıp izinsiz olarak cinsel içerikli görüntüler paylaşabiliyordu.
Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez gibi isimlerin kullanıcılarla karşı karşıya geldiği belirtilirken, bu botlar görüşmeleri gerçek ünlülerin hesapları üzerinden yürütüyordu. Reuters ayrıca 16 yaşındaki aktör Walker Scobell’in de botlar tarafından plajda gerçekçi biçimde tasvir edildiğini aktardı. Meta, bu tür içeriklerin üretilmesini kabul etmediğini ifade ediyor ve sözcü Andy Stone, “Uygulamadaki hatalar, ünlülerin mahrem görüntülerinin ortaya çıkmasına yol açtı. Politikalarımız çıplak, müstehcen ve özel içerikleri yasaklamayı amaçlıyor” dedi.
Bu dönemde Reuters’in raporundan kısa süre önce Meta, yaklaşık bir düzine botu platformundan kaldırdı. Kaliforniya’da tanıtım hakkı yasaları, birinin benzerliğinin ticari kazanç için izinsiz kullanılmasını yasaklasa da bazı durumlarda yeni yaratıcı çalışmalar için istisnalar bulunduğu belirtiliyor. AG-AFTRA ise, gerçek ünlüler gibi davranan botların kullanıcı davranışlarını tehlikeye sokabileceği konusunda uyarıda bulunuyor.
Haberler arasında Taylor Swift ve Lewis Hamilton gibi botların oluşturulduğu bilgisinin yer aldığı Reuters raporu, Meta’nın üretken yapay zeka bölümünde bir ürün liderinin bu tür içerikler için çalışmalar yürüttüğünü ortaya koyuyor. Bunlar arasında dominatrix karakterleri ve kullanıcıları şiddet ya da cinsel içerik senaryolarına sürükleyen simülasyonlar da bulunuyor. Bu botlar geniş kitlelere ulaşarak 10 milyondan fazla etkileşim elde etti.
Öte yandan New Jersey’de 76 yaşında bir kişinin, Meta sohbet botuyla buluşmayı denediği sırada hayatını kaybettiği haberleri de gündeme geldi. Meta, çocuklarla romantik veya şehvetli sohbetlerin yanlışlıkla oluşturulduğunu ve yönerge gözden geçirme çalışmaları yaptıklarını duyurdu. Bu gelişmeler, yapay zekanın kötüye kullanımını önleme ve ünlü benzerliklerini koruma konularını bir kez daha ön plana taşıdı. SAG-AFTRA ise sanatçıların ses, görüntü ve kişiliklerini korumak için federal mevzuat baskısı yapmaya devam ediyor.
News
