Kısıtlamalar aşılıyor
Ocak ayında getirilen çıplaklık sınırlamalarına rağmen kullanıcıların sistem açıklarını kullanarak bu engelleri aşabildiği görülüyor. Özellikle ünlü kişilere ait fotoğrafların farklı görsellerle birleştirilmesiyle oluşturulan içerikler, yapay zekanın rıza dışı müstehcen kompozisyonlar üretmesine zemin hazırlıyor.
Ayrıca, sabit görsellerin videoya dönüştürülmesi sırasında eklenen uygunsuz hareketler de ihlal türleri arasında öne çıkıyor.
Hukuki baskı artıyor
Gelişmelerin ardından xAI üzerindeki hukuki baskı giderek yoğunlaşıyor. Şirketin SpaceX ile olan yapısal bağı, olası yaptırımların etkisini daha geniş bir alana taşıyabilir.
Soruşturma yürüten kurumlar arasında Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi de bulunuyor. Toplamda sekiz farklı kurumun süreci yakından takip ettiği belirtiliyor.
Mahkemeden dikkat çeken karar
Hollanda’da bir mahkeme, Grok’un hem yetişkinlere hem de çocuklara yönelik soyunma içerikleri üretmesini durdurmasına hükmetti. Bu karar, yapay zeka tabanlı içerik üretimi konusunda Avrupa’da artan yasal hassasiyetin somut bir örneği olarak değerlendiriliyor.
“Filtreler yetersiz” eleştirisi
X yönetimi, rıza dışı deepfake içeriklerin yasak olduğunu ve güvenlik önlemlerinin sürekli güncellendiğini savunuyor. Ancak uzmanlar mevcut filtrelerin yeterli olmadığını ve kullanıcıların sistemdeki açıkları istismar etmeyi sürdürdüğünü belirtiyor.
Araştırmacılara göre Grok, hâlâ küresel ölçekte rıza dışı sentetik çıplaklık üretiminde öne çıkan araçlardan biri konumunda. Bu durum, yapay zekâ teknolojilerinin etik sınırları ve denetimi konusundaki tartışmaları yeniden alevlendiriyor.
