Grok’un Durumu ve Küresel Abluka

Elon Musk‘ın yapay zeka şirketi xAI tarafından geliştirilen ve X platformuna entegre edilen Grok, çocuk istismarı görüntüleri ve rızasız cinsel içerikli deepfake üretimindeki rolü nedeniyle küresel bir abluka ile karşı karşıya kaldı. Ocak ayının başından itibaren X kullanıcılarının, Grok’u kullanarak çocukların müstehcen görüntülerini ve kadınların rızası dışında oluşturulmuş cinsel içerikli görsellerini ürettiği tespit edildi.

Güvenlik Duvarları Aşıldı: Rızasız İçerik Üretimi Artıyor

Araştırmalar, kullanıcıların halka açık görselleri bot yardımıyla saniyeler içinde “bikini giydirme” veya daha ileri seviye çıplaklık içeren formatlara dönüştürebildiğini ortaya koydu. Cinsel saldırı karşıtı sivil toplum kuruluşu RAINN, bu durumu “teknoloji destekli cinsel istismar” olarak tanımlarken; Reuters, The Atlantic ve Wired gibi kuruluşların incelemeleri, Grok’un güvenlik bariyerlerinin kolayca aşılabildiğini ve modelin şiddet içerikli materyallere de onay verdiğini belgeledi.

Güneydoğu Asya’da İlk Yasak Kararları

Endonezya ve Malezya, Grok’un güvenlik açıklarını gerekçe göstererek hizmete geçici erişim engeli getirdi. Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, rızasız cinsel içerikli deepfake görselleri “insan hakları ve vatandaş güvenliğinin ciddi bir ihlali” olarak nitelendirdi. Malezya İletişim ve Multimedya Komisyonu ise, X Corp ve xAI‘nın zayıf yanıtları nedeniyle uygulamanın suistimale açık olduğunu belirterek erişimi kısıtladı.