Στη σκιά της τεχνολογικής επανάστασης, ένα σκοτεινό φαινόμενο αναδύεται με ανησυχητική ταχύτητα: η παραγωγή υλικού παιδικής πορνογραφίας με τη βοήθεια της Τεχνητής Νοημοσύνης (Τ.Ν.). Πρόκειται για μια μορφή ψηφιακής βίας, καθώς, ενώ τα θύματα δεν βρέθηκαν πράγματι μπροστά σε μια κάμερα, βιώνουν τις τραγικές συνέπειες στην πραγματική ζωή, υφιστάμενα βαθύ πλήγμα στην αξιοπρέπειά τους. Κι αυτό γιατί τα εργαλεία A.I. απειλούν να σπάσουν κάθε όριο ηθικής, καθώς μέσα σε δευτερόλεπτα δημιουργούν εικόνες που μοιάζουν τόσο αληθινές, που δύσκολα διακρίνεται η παραποίηση ή και η κατασκευή τους από το μηδέν. Και η διάδοση αυτού του παράνομου περιεχομένου δεν συνιστά απλώς μια ψηφιακή απειλή, αλλά αποτελεί βίαιη επίθεση στην ασφάλεια πολλών παιδιών.

Διαβάστε: Τεχνητή νοημοσύνη: Προειδοποίηση επιστημόνων για τους κινδύνους και τα καταστροφολογικά σενάρια για την εξαφάνιση της ανθρωπότητας

Ενδεικτικό της έξαρσης του φαινομένου είναι πως για το 2024 η διεθνής φιλανθρωπική οργάνωση Internet Watch Foundation (IWF), που δραστηριοποιείται στην καταπολέμηση παράνομου διαδικτυακού περιεχομένου, κατέγραψε 245 αναφορές για υλικό παιδικής σεξουαλικής κακοποίησης που δημιουργήθηκε μέσω Τ.Ν., καταγράφοντας αύξηση 380% σε σχέση με το 2023. Γι’ αυτό και η Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος, αναγνωρίζοντας τις μεγάλες διαστάσεις που λαμβάνει το φαινόμενο, δίνει σκληρή μάχη για να σταματήσει αυτή τη νέα μορφή εκμετάλλευσης, με τον αγώνα να είναι εξαιρετικά δύσκολος, αφού η τεχνολογία εξελίσσεται ταχύτατα και τα όρια μεταξύ αλήθειας και ψεύδους γίνονται ολοένα και πιο δυσδιάκριτα. «Αν και δεν υπάρχουν πραγματικοί πρωταγωνιστές, οι συνέπειες είναι αληθινές».

Όπως αναφέρει πηγή από τη Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος, μιλώντας στα «Π», η Γενετική Τεχνητή Νοημοσύνη (Generative A.I.) δημιουργεί νέο περιεχόμενο -κείμενο, εικόνες, βίντεο με εργαλεία που είναι ευρέως προσβάσιμα και συχνά δωρεάν. Οι δράστες τα αξιοποιούν για την παραγωγή «συνθετικού» υλικού σεξουαλικής κακοποίησης ανηλίκων, αλλά και ενηλίκων (A.I.-generated CSAM), είτε πλήρως κατασκευασμένου είτε μέσω deepfake (παραπλανητικό περιεχόμενο), όπου τροποποιούνται πραγματικές φωτογραφίες χωρίς τη συγκατάθεση των «θυμάτων». Αν και το υλικό αυτό δεν έχει πραγματικούς πρωταγωνιστές, οι συνέπειες είναι αληθινές: φόβος, ντροπή, χειραγώγηση, εκβιασμός. Ειδικά τα εργαλεία «nudify» (δημιουργία ψεύτικης γυμνής εικόνας με χρήση A.I., χωρίς τη συγκατάθεση του ατόμου) επιτρέπουν μέσα σε δευτερόλεπτα την παραποίηση φωτογραφιών, διευκολύνοντας αδικήματα όπως είναι η παραγωγή και η διακίνηση παιδικής πορνογραφίας, ο σεξουαλικός εκβιασμός (sextortion), η ηλεκτρονική παρενόχληση, η παραβίαση προσωπικών δεδομένων και η πλαστοπροσωπία. Αλλά και τα ίδια τα παιδιά κάνουν όλο και πιο συχνά κατάχρηση των εφαρμογών nudify, για να στοχοποιήσουν τους συμμαθητές τους. Αυτές οι εικόνες συχνά ξεκινούν ως αθώες σχολικές φωτογραφίες ή φωτογραφίες από τα κοινωνικά Μέσα, όμως ακόμα και αν οι εικόνες είναι συνθετικές, η βλάβη για τα θύματα είναι ουσιαστική και απαιτεί πρόληψη και αυστηρή αντιμετώπιση.


Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος: Η μεγαλύτερη δυσκολία έγκειται στον αυξανόμενο ρεαλισμό του υλικού σεξουαλικής κακοποίησης παιδιών μέσω AI

Ποια είναι, όμως, η μεγαλύτερη δυσκολία στον εντοπισμό υλικού που έχει παραχθεί μέσω A.I.; Σύμφωνα με τη Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος, η μεγαλύτερη δυσκολία έγκειται στον αυξανόμενο ρεαλισμό του υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργείται από Τ.Ν. (AIG-CSAM, A.I.-GeneratedChildSex ualAbuseMaterial). Καθώς η τεχνολογία GenAI εξελίσσεται, αυξάνεται η ικανότητά της να δημιουργεί εξαιρετικά ρεαλιστικές εικόνες, που δεν διακρίνονται από τις πραγματικές φωτογραφίες, γεγονός που δημιουργεί σημαντικές προκλήσεις για τον έλεγχο του περιεχομένου, αλλά και τη δίωξη των επιμέρους εγκλημάτων διεθνώς. ΚΟΙΝΩΝΙΚΗ ΔΙΑΣΤΑΣΗ Η κυκλοφορία υλικού που μοιάζει αληθινό, αλλά έχει παραχθεί τεχνητά εγκυμονεί σοβαρούς κοινωνικούς κινδύνους. Κατ’ αρχάς, υπονομεύει την εμπιστοσύνη των πολιτών στις πληροφορίες και στους θεσμούς, δημιουργώντας κλίμα παραπληροφόρησης και δυσπιστίας. Ειδικά για ανηλίκους, η διάδοση τέτοιου περιεχομένου μπορεί να οδηγήσει σε διασυρμό, εκφοβισμό, ψυχολογική πίεση και κοινωνικό αποκλεισμό, αλλοιώνοντας την αυτοεικόνα και την ηθική τους ανάπτυξη. Παράλληλα, η ευκολία πρόσβασης σε εργαλεία A.I. μπορεί να παρασύρει ακόμα και νέους σε πράξεις που συνιστούν παραβίαση προσωπικών δεδομένων, πλαστοπροσωπία ή εκβιασμό, κανονικοποιώντας την παραβατικότητα ως «παιχνίδι». Σε ευρύτερο επίπεδο, τέτοιες πρακτικές απειλούν τη συνοχή της κοινωνίας, αναπαράγοντας ανισότητες και ενισχύοντας την ευαλωτότητα των πιο αδύναμων ομάδων και όχι μόνο. ΕΓΚΛΗΜΑΤΙΚΗ ΔΡΑΣΗ Στην ερώτηση αν η ύπαρξη εικονικού υλικού που μοιάζει ρεαλιστικό μπορεί να ενθαρρύνει ή να οδηγήσει σε πραγματική εγκληματική δράση, η πηγή μας από τη Δίωξη απαντά θετικά. Αυτό συμβαίνει, κυρίως, λόγω της ψευδαίσθησης αυθεντικότητας που δημιουργεί στους χρήστες και της εντύπωσης ότι αναπαριστώνται πραγματικά γεγονότα βίας. Η έκθεση σε τέτοιο περιεχόμενο μπορεί να υποθάλψει βίαιες ή παραβατικές συμπεριφορές. Ενας δεύτερος παράγοντας αφορά τη χρήση του από άτομα ή ομάδες με εγκληματική δραστηριότητα, για τα οποία το συνθετικό υλικό μπορεί να λειτουργήσει ως μέσο τέλεσης παραβάσεων. Τι σημαίνει αυτό πρακτικά; Οταν ανήλικοι ή ενήλικοι εκτίθενται σε τέτοιο περιεχόμενο, μπορεί να υποκύψουν σε συμπεριφορές παραβατικότητας, όπως η διακίνηση, ο εκβιασμός ή η παραβίαση προσωπικών δεδομένων, θεωρώντας τις αβλαβείς ή ως «παιχνίδι». Επιπλέον, η διάδοση τέτοιου περιεχομένου μπορεί να οδηγήσει σε κανονικοποίηση παραβατικών πρακτικών στην κοινωνία, ενισχύοντας την αποδοχή της βίας ή της παραπληροφόρησης. Και οι ανήλικοι είναι ιδιαίτερα ευάλωτοι, γιατί συχνά δεν αντιλαμβάνονται πλήρως τις συνέπειες των πράξεών τους στο ψηφιακό περιβάλλον.

Οι εκπαδευτικές ενέργειες

Μέσα σε αυτό το πλαίσιο, η Δίωξη Ηλεκτρονικού Εγκλήματος αποτελεί πολύτιμο σύμμαχο των πολιτών. Βρίσκεται δίπλα σε ανηλίκους και ενηλίκους για να καταγγείλουν τέτοιου είδους περιστατικά. Παράλληλα, υλοποιεί ενημερωτικές και εκπαιδευτικές δράσεις σε σχολεία, γονείς και κοινότητες, προάγοντας την υπεύθυνη χρήση της τεχνολογίας και την πρόληψη τέτοιων φαινομένων. Η έγκαιρη καταγγελία, η σωστή ενημέρωση και η συνεργασία πολιτών και Αρχών είναι καθοριστικής σημασίας για την ασφάλεια και την προστασία όλων στον ψηφιακό κόσμο. Για να μπορεί, λοιπόν, η Υπηρεσία να είναι κατάλληλα προετοιμασμένη για να αντιμετωπίσει τις προκλήσεις του κυβερνοεγκλήματος, ακολουθεί τις εξελίξεις, συμμετέχοντας σε διεθνείς εκπαιδεύσεις αναφορικά με τεχνολογίες αιχμής, καθώς και σε επιχειρήσεις που διοργανώνονται παγκοσμίως για την προστασία των ανηλίκων, αλλά και για άλλα αδικήματα, όπως είναι η εκδικητική πορνογραφία (revenge porn) κ.ά.

Σημαντική είναι η συμβολή των στελεχών της Υπηρεσίας, που, αξιοποιώντας την πολυετή εμπειρία τους, μπορούν να αντιληφθούν και να εντοπίσουν την ύπαρξη τέτοιου υλικού. Βέβαια, όπως υπογραμμίζει εκπρόσωπος της Δίωξης Ηλεκτρονικού Εγκλήματος, αναγκαία είναι και η συστηματική συνεργασία της Ελλάδας με διεθνείς Αρχές και οργανισμούς για την αντιμετώπιση των κινδύνων που προκύπτουν από την Τ.Ν., ειδικά σε περιπτώσεις που αφορούν deepfakes και προστασία ανηλίκων. Η Εθνική Αρχή Κυβερνοεγκλήματος (ΕΑΚ) έχει ενισχύσει σημαντικά τη συνεργασία με ευρωπαϊκούς και διεθνείς φορείς για την αντιμετώπιση κυβερνοαπειλών, ενώ το υπουργείο Ψηφιακής Διακυβέρνησης υπέγραψε μνημόνιο συνεργασίας με διεθνή ιδρύματα για την προώθηση της ψηφιακής ισότητας και την ασφαλή χρήση της Τ.Ν. Στόχος είναι η ανταλλαγή τεχνογνωσίας, η κοινή ανάπτυξη εργαλείων ανίχνευσης deepfakes και η προστασία ευάλωτων ομάδων, όπως οι ανήλικοι. Ακόμα, η Ελλάδα εκπροσωπείται στο GlobalPartnership on ArtificialIntelligence (GPAI) - μια διεθνή πρωτοβουλία του ΟΟΣΑ, που στοχεύει στην ηθική και υπεύθυνη ανάπτυξη της Τ.Ν. Ελληνες επιστήμονες συμμετέχουν σε ομάδες εργασίας που ασχολούνται με την ανίχνευση deepfakes και την προστασία ευάλωτων ομάδων, όπως οι ανήλικοι. Παράλληλα, οι ελληνικές Αρχές συνεργάζονται με οργανισμούς όπως η Europol, η Interpol και το Internet WatchFoundation (IWF), για την ανίχνευση και καταπολέμηση ψηφιακής κακοποίησης ανηλίκων.


Τι συμβουλές δίνει η Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος στους γονείς

Αξίζει να σημειωθεί πως η ελληνική νομοθεσία για την Τ.Ν. διαμορφώνεται σε άμεση σύνδεση με τον Κανονισμό της Ευρωπαϊκής Ενωσης για την Τ.Ν. (A.I. Act), ο οποίος τέθηκε σε ισχύ στις 2 Αυγούστου 2024 και αποτελεί το πρώτο ολοκληρωμένο νομικό πλαίσιο για την A.I. σε διεθνές επίπεδο. Ο Κανονισμός στοχεύει στην προστασία των θεμελιωδών δικαιωμάτων των πολιτών, στην ασφαλή και αξιόπιστη χρήση της και στην πρόληψη κινδύνων, ειδικά σε ευαίσθητους τομείς, όπως η Υγεία, η Εκπαίδευση, η Δικαιοσύνη και η προστασία ανηλίκων.

Η ελληνική νομοθεσία, σε συνδυασμό με την A.I. Act, προβλέπει αυστηρούς περιορισμούς για συστήματα Τ.Ν. που αλληλεπιδρούν με ανηλίκους (π.χ. εκπαιδευτικές πλατφόρμες, παιχνίδια, κοινωνικά δίκτυα), απαγόρευση χρήσης Τ.Ν. για την παραγωγή ή διασπορά παράνομου περιεχομένου, όπως deepfakes ή παραπλανητικές εικόνες που θίγουν την προσωπικότητα ανηλίκων, αλλά και την υποχρέωση διαφάνειας και τεκμηρίωσης για κάθε σύστημα που επεξεργάζεται δεδομένα ανηλίκων. Σε κάθε περίπτωση, η Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος επισημαίνει πως, αν κάποιος πολίτης διαπιστώσει τέλεση αδικήματος, πρέπει να απευθυνθεί άμεσα στις Αρχές. Όσον αφορά τους γονείς, στο στάδιο της πρόληψης, προτείνεται να διατηρούν ανοιχτό διάλογο με τα παιδιά τους για τις διαδικτυακές τους δραστηριότητες, να τα ενθαρρύνουν, να μιλούν για οτιδήποτε τα ανησυχεί και να τα διδάσκουν πώς να αναγνωρίζουν ύποπτο ή επιβλαβές περιεχόμενο, ειδικά σε έναν ψηφιακό κόσμο που εξελίσσεται πιο γρήγορα απ’ ό,τι μπορούμε να παρακολουθήσουμε.

Ειδικότερα, η Δίωξη συμβουλεύει τους γονείς να:

  • ρωτάνε τα παιδιά τους για τις δραστηριότητές τους στο GenAI και να ζητάνε να τους δείξουν πώς το χρησιμοποιούν
  • διαβεβαιώνουν τα παιδιά τους ότι όποιο πρόβλημα κι αν προκύψει, θα είναι πάντα εκεί για να τα βοηθήσουν
  • ενθαρρύνουν τα παιδιά τους να ζητήσουν βοήθεια, αν συμβεί κάτι
  • αποθαρρύνουν τη δημιουργία και τη διαμοίραση, εξηγώντας τους ότι η δημιουργία ή η αναδιαμοίραση γυμνών εικόνων GenAI ή CSAM είναι παράνομη, επιβλαβής και μπορεί να έχει σοβαρές επιπτώσεις στο άτομο που απεικονίζεται, ανεξάρτητα από το αν η εικόνα είναι πραγματική ή έχει δημιουργηθεί με χρήση GenAI
  • τονίζουν ότι έχουν τη δύναμη να σταματήσουν τη διάδοσή τους και να προστατεύσουν τους άλλους
  • ενθαρρύνουν την ενσυναίσθηση
  • ρωτάνε τα παιδιά τους πώς θα ένιωθαν αν αυτό συνέβαινε στα ίδια ή σε κάποιον που αγαπούν
  • ενισχύουν τη σημασία του σεβασμού, της αξιοπρέπειας, της ιδιωτικής ζωής και της ευημερίας των άλλων
  • υποστηρίζουν τα παιδιά που έχουν πέσει θύματα, εστιάζοντας στη βλάβη που υφίστανται και όχι στη διερεύνηση του πώς δημιουργήθηκε η εικόνα
  • διατηρούν την ψυχραιμία τους
  • αναφέρουν το περιστατικό στις Αρχές
  • ελέγχουν τις ρυθμίσεις απορρήτου των παιδιών τους στο Διαδίκτυο
  • συζητάνε με τους δασκάλους των παιδιών τους για το πώς αντιμετωπίζεται αυτό το θέμα στο σχολείο.
Σε αυτόν τον νέο, απρόβλεπτο ψηφιακό κόσμο, η σιωπή ισοδυναμεί με συνενοχή. Η πρόληψη, η εκπαίδευση, η επαγρύπνηση και η συνεργασία με τις αρμόδιες Αρχές είναι οι μοναδικοί δρόμοι προς την προστασία. Γιατί, ακόμα κι αν μια εικόνα είναι ψεύτικη, η βλάβη είναι πραγματική - και η ευθύνη όλων μας ανεπίτρεπτα αληθινή.

Δημοσιεύτηκε στα Παραπολιτικά