Η Ισπανία ανακοίνωσε ότι θα προχωρήσει στην απαγόρευση των μέσων κοινωνικής δικτύωσης για άτομα κάτω των 16 ετών, καθώς και διέταξε τους εισαγγελείς να διερευνήσουν τα X, Meta (Facebook - Instagram - WhatsApp) και TikTok για φερόμενο υλικό σεξουαλικής κακοποίησης ανηλίκων που δημιουργείται από τεχνητή νοημοσύνη. Ο πρωθυπουργός Πέδρο Σάντσεθ κατηγόρησε τις πλατφόρμες κοινωνικής δικτύωσης ότι επιτρέπουν την παράνομη δημιουργία περιεχομένου και δήλωσε ότι «η ατιμωρησία των γιγάντων πρέπει να σταματήσει».

Διαβάστε: "Βολές" Ισπανίας κατά Μασκ: Οι πλατφόρμες social media να μην παρεμβαίνουν σε υποθέσεις άλλων χωρών

Ισπανία: H AI δημιουργεί περιεχόμενο, το οποίο τα παλιά συστήματα δυσκολεύονται να ανιχνεύσουν

Η έρευνα εστιάζει στο CSAM (Child Sexual Abuse Material) που δεν είναι πλέον απαραίτητα πραγματικές φωτογραφίες, αλλά προϊόντα Τεχνητής Νοημοσύνης (Deepfakes). Οι κοινωνικές πλατφόρμες συχνά ισχυρίζονται ότι τα φίλτρα τους εντοπίζουν γνωστό παράνομο υλικό. Ωστόσο, η AI δημιουργεί μοναδικό, νέο περιεχόμενο σε δευτερόλεπτα, το οποίο τα παλιά συστήματα δυσκολεύονται να ανιχνεύσουν.

Ο Σάντσεθ υποστηρίζει ότι οι αλγόριθμοι των X, Meta και TikTok όχι μόνο αποτυγχάνουν να το σταματήσουν, αλλά μερικές φορές το προωθούν, μέσω των μηχανισμών συστάσεων (recommendation engines). Η ισπανική εισαγγελία θα χρησιμοποιήσει ως «όπλο» την ευρωπαϊκή πράξη για τις ψηφιακές υπηρεσίες (Digital Services Act - DSA).

Αν αποδειχθεί συστηματική αποτυχία στην προστασία των ανηλίκων, οι εταιρείες κινδυνεύουν με πρόστιμα έως και 6% του παγκόσμιου κύκλου εργασιών τους. Η Μαδρίτη απαιτεί από τους «γίγαντες» να ανοίξουν τα «μαύρα κουτιά» των αλγορίθμων τους στους ερευνητές, για να διαπιστωθεί αν το παράνομο υλικό δημιουργείται ή διακινείται μέσω εργαλείων που οι ίδιες οι πλατφόρμες παρέχουν (π.χ. AI image generators ενσωματωμένα στο Meta).