Sosyal medya platformu X, yapay zekâ sohbet botu Grok tarafından görsellerin değiştirilmesini sınırlayan yeni bir özellik kullanıma sundu. Bu güncelleme sayesinde kullanıcılar, yükledikleri fotoğrafların Grok tarafından düzenlenmesini veya değiştirilmesini engelleyebiliyor.

Yeni özellik, özellikle görsel gizliliği ve rızasız içerik üretimi konusundaki tartışmaların ardından geliştirildi. Kullanıcılar, iOS uygulamasında yer alan görsel veya video yükleme menüsünden bu seçeneği aktif ederek paylaştıkları görsellerin yapay zekâ tarafından değiştirilmesini sınırlandırabiliyor.

Ancak uzmanlara göre bu önlem, rızasız içerik üretimini tamamen ortadan kaldırmıyor. Farklı yöntemlerle yüklenen görseller üzerinde hâlâ düzenleme yapılabildiği belirtiliyor.

Bu adım, Grok’un 2026 yılının başında yaşadığı büyük içerik skandalının ardından geldi. Yapay zekâ aracının görsel üretim araçlarıyla yaklaşık 3 milyon cinsel içerikli veya çıplaklaştırılmış görsel üretildiği, bunların yaklaşık 23 bininin çocukları içerdiği ortaya çıktı. Olayın ardından European Union yetkilileri Grok hakkında iki ayrı soruşturma başlattı.

Yoğun eleştiriler sonrası X, Grok’un görsel üretim özelliğini yalnızca ücretli aboneler için erişilebilir hale getirdi. Buna rağmen Grok’un bağımsız uygulamasının bazı durumlarda abonelik olmadan görsel üretimine izin verdiği ifade ediliyor.

Başlangıçta ücretsiz ve günlük kullanım limitleriyle sunulan özellik, kullanıcıların herhangi bir kişinin fotoğrafını yükleyerek düzenleme yapmasına veya cinselleştirilmiş içerik üretmesine olanak tanıyordu. Bu durum kısa sürede çocuklar, ünlüler ve kamuoyunda tanınan kişilerle ilgili çok sayıda rızasız içeriğin yayılmasına yol açtı.

Yeni engelleme özelliğinin bu soruna ne ölçüde çözüm olacağı ise zamanla netleşecek.