Τη δημιουργία 3 εκατομμυρίων deepfake εικόνων πορνογραφικής φύσης μέσα σε 11 μέρες του Ιανουαρίου διαπίστωσε μελέτη για το Grok που είναι, μάλιστα, ενσωματωμένο στην πλατφόρμα Χ. Σημαντικό είναι επίσης να αναφερθεί πως στον παραπάνω αριθμό συμπεριλαμβάνονται 23.000 εικόνες με παιδιά. Την ίδια στιγμή, οι ευρωπαϊκές ρυθμιστικές αρχές δεν έχουν ακόμη αποφασίσει πώς θα χειριστούν την έκρηξη των deepfakes που δημιουργούνται χωρίς συναίνεση στην ήδη δοκιμαζόμενη πλατφόρμα.

Διαβάστε: Το AI του Μασκ εκτός ελέγχου: Πώς γέμισε το διαδίκτυο με εκατομμύρια σεξουαλικές εικόνες

Πότε έγινε viral η λειτουργία δημιουργίας εικόνων μέσω Grok

Η μελέτη από το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους (Center for Countering Digital Hate) ανέλυσε ένα δείγμα 20.000 αναρτήσεων στον λογαριασμό του Grok στο X, από ένα σύνολο 4,6 εκατομμυρίων σε μια περίοδο 11 ημερών. Διαπίστωσε ότι το 65% του δείγματος ήταν εικόνες πορνογραφικής φύσης, και το 0,5% πιθανώς απεικόνιζε παιδιά. Η λειτουργία δημιουργίας εικόνων μέσω του Grok έγινε viral λίγο πριν το τέλος του 2025, κυρίως λόγω της ικανότητάς του να «γδύνει» ανθρώπους. Η πλατφόρμα έλαβε ορισμένα μέτρα για τον περιορισμό της λειτουργίας στις 9 Ιανουαρίου και ξανά στις 14 Ιανουαρίου.


Τι εξετάζει η Ευρωπαϊκή Επιτροπή

Η Ευρωπαϊκή Επιτροπή, η οποία είναι υπεύθυνη για την εφαρμογή της Πράξης για τις Ψηφιακές Υπηρεσίες (DSA) που καλύπτει μεγάλες πλατφόρμες όπως το X, καθώς και για τον νόμο της ΕΕ για την Τεχνητή Νοημοσύνη (AI Act), εξετάζει ποιο εργαλείο θα χρησιμοποιήσει. Μια νέα έρευνα για το Grok υπό το ισχυρό πλαίσιο ρύθμισης των μέσων κοινωνικής δικτύωσης βρίσκεται στα σκαριά. Στο X έχει ήδη επιβληθεί πρόστιμο και ερευνάται σε διάφορα μέτωπα από την Επιτροπή. Η ΕΕ εξετάζει επίσης την απαγόρευση των εφαρμογών AI «nudification» (ψηφιακού γυμνού), η οποία μπορεί να ισχύσει ή όχι για εργαλεία γενικής χρήσης όπως το Grok.

Το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους δεν ανέλυσε τις εντολές (prompts) των αναρτήσεων, επομένως δεν μπορεί να πει εάν κάποιο από τα εικονιζόμενα πρόσωπα είχε συναινέσει στην επεξεργασία της εικόνας του. Στον Imran Ahmed, Διευθύνοντα Σύμβουλο της ομάδας της κοινωνίας των πολιτών, απαγορεύτηκε πρόσφατα το ταξίδι στις Ηνωμένες Πολιτείες από την αμερικανική κυβέρνηση για τον φερόμενο ρόλο του στη λογοκρισία.