X’in sağlam koruma sistemlerine sahip olmayan yeni fotoğraf düzenleme sistemi, Elon Musk’ın da teşvikiyle kısa sürede kontrolden çıkmış; kullanıcılar Grok’u kullanarak X’te buldukları kişilerin bikinili fotoğraflarını üretmeye başlamış ve bu süreçte maalesef çocuklar da hedef alınmıştı. Küçük yaşta olduğu tespit edilen kişilerin dahi bikinili fotoğraflarını üreten Grok, bir kullanıcının paylaşımı üzerine şu açıklamayı yapmıştı: “Bir kullanıcının talebi üzerine, cinsel içerikli kıyafetler giymiş iki genç kızın (tahmini yaşları 12-16) görüntüsünü oluşturup paylaştığım için derin pişmanlık duyuyorum.” Tepkilerin artmasıyla Grok’u güncellemek zorunda kalan X, Grok’un gerçek kişilerin bikinili fotoğraflarını üretmesini engelleyecek önlemler getirdiğini belirtmişti. Yalnızca 11 gün gibi kısa bir sürede 23 binden fazla çocuk istismarı görüntüsü oluşturan yapay zeka hakkında soruşturma başlatan Avrupa Birliği, bu durumun kabul edilemez olduğunu belirtti. Henüz kesin bir bilgi yok ancak AB yakında X’e bu durum üzerinden Dijital Hizmetler Yasası (DSA) kapsamında büyük bir para cezası uygulayabilir.