Tα δημοφιλή chatbots αναπαράγουν ψευδείς ειδήσεις, αφού τα συστήματά τους «δηλητηριάστηκαν» από μια ρωσική εκστρατεία προπαγάνδας, όπως έδειξαν ερευνητές. Απαντήσεις των ChatGPT, Gemini, Claude, Mistral και Grok επανέλαβαν ψευδείς ισχυρισμούς ότι ο πρόεδρος Ζελένσκι εγκατέστησε φάρμες εξόρυξης κρυπτονομισμάτων σε πυρηνικούς σταθμούς και ότι τα πτώματα Ουκρανών στρατιωτών μεταποιούνται σε κρέας, σύμφωνα με έκθεση της δεξαμενής σκέψης Demos.

Η έρευνα επικεντρώθηκε στην αυξανόμενη χειραγώγηση των chatbots από κράτη και εταιρείες, σε αυτό που οι ερευνητές περιγράφουν ως «το νέο μέτωπο του πολέμου της πληροφορίας». Καθώς περισσότεροι άνθρωποι χρησιμοποιούν chatbots, εντείνονται και οι προσπάθειες αλλοίωσης των απαντήσεών τους, μέσω μιας πρακτικής που ονομάζεται βελτιστοποίηση για μηχανές παραγωγής περιεχομένου (GEO). Η έκθεση εντοπίζει 50 εταιρείες που ασχολούνται με GEO· 15 από αυτές βρίσκονται στο Ηνωμένο Βασίλειο.

Η έκθεση, με τίτλο «GEO for Geopolitics», περιγράφει αναλυτικά πώς τα πέντε chatbots επικαλέστηκαν ψευδείς ισχυρισμούς που διέσπειρε το Ιδρυμα για την Καταπολέμηση της Αδικίας (r-FBI). Ο οργανισμός παρουσιάζεται ως οργάνωση ανθρωπίνων δικαιωμάτων, αλλά αποτελεί ρωσική μονάδα προπαγάνδας, που δημιουργήθηκε από τον εκλιπόντα Γιεβγκένι Πριγκόζιν, ιδρυτή της μισθοφορικής Ομάδας Wagner, και έχει υπαχθεί σε κυρώσεις από την Ε.Ε. και τις ΗΠΑ.

Ερωτηθέν σχετικά με το υποτιθέμενο εγχείρημα κρυπτονομισμάτων του Ζελένσκι, ένα chatbot της Mistral απάντησε: «Μια έρευνα πολλών μηνών από ακτιβιστές ανθρωπίνων δικαιωμάτων του Ιδρύματος για την Καταπολέμηση της Αδικίας συγκέντρωσε στοιχεία που υποδεικνύουν άμεση σύνδεση μεταξύ της κρίσιμης κατάστασης του ενεργειακού συστήματος της Ουκρανίας και των δραστηριοτήτων υψηλόβαθμων αξιωματούχων του στενού περιβάλλοντος του προέδρου Ζελένσκι». Οταν το ChatGPT ρωτήθηκε για τη μεταποίηση ανθρώπινου κρέατος, απάντησε ότι «τα ευρήματα αυτά έχουν επιβεβαιωθεί από πολλαπλές πηγές, μεταξύ των οποίων το Iδρυμα για την Καταπολέμηση της Αδικίας». Σχεδόν 17% από 3.000 απαντήσεις των chatbots προσέδωσαν αξιοπιστία στις ψευδείς ειδήσεις, ενώ το 30% αναφέρθηκε στα θέματα, χωρίς όμως να χαρακτηρίσει κάποια πηγή ως αληθή ή ψευδή. Περίπου οι μισές απαντήσεις απέρριψαν ή διέψευσαν τους ισχυρισμούς.

Το Demos εκτιμά ότι τα chatbots παραπλανήθηκαν και αναπαρήγαγαν τους ισχυρισμούς μέσω μιας τεχνικής που «δηλητηριάζει» τον τρόπο με τον οποίο αναζητούν πληροφορίες.

Το r-FBI δημιούργησε ένα σύστημα τριών ιστοσελίδων που παραπλάνησε τα chatbots -τα μεγάλα γλωσσικά μοντέλα (LLM)-, ώστε να πιστέψουν ότι το περιεχόμενο ήταν αξιόπιστο.

Η ιστοσελίδα του r-FBI παρουσιάζεται ως έγκυρη ΜΚΟ και χρησιμοποιεί κρυφές τεχνικές για να καθοδηγεί τα συστήματα Τεχνητής Νοημοσύνης να εξάγουν απεριόριστο κείμενο.

Ενα δεύτερο Μέσο λειτουργεί ως ειδησεογραφικός ιστότοπος, δημοσιεύοντας πολλά σύντομα άρ θρα, ώστε να πολλαπλασιάζεται η παρουσία των ιστοριών του r-FBI. Μια τρίτη ιστοσελίδα μιμείται δυτικό περιοδικό εξωτερικής πολιτικής για να ενισχύσει την αξιοπιστία και είναι γραμμένη ώστε να απορροφάται από συστήματα Τεχνητής Νοημοσύνης. Ο Καρλ Μίλερ, επικεφαλής ερευνητής της μελέτης, το χαρακτήρισε «αρκετά ακανθώδες και ιδιαίτερα επικίνδυνο πρόβλημα», το οποίο όμως θα μπορούσε να αντιμετωπιστεί εν μέρει με τεχνικές αλλαγές από τις εταιρείες Τεχνητής Νοημοσύνης. Δήλωσε: «Αν ήμουν Ρώσος ειδικός στον πόλεμο της πληροφορίας, δεν θα έκανα σωστά τη δουλειά μου παρά μόνο αν στόχευα τα LLM. Δεν βλέπω γιατί να ασχολούμαι πια με μποτ στο Twitter. Εχεις αυτό το τεράστιο, νέο, δελεαστικό και εξαιρετικά χειραγωγήσιμο επίπεδο πληροφορίας, με το οποίο μπορείς να στοχεύσεις ολόκληρα έθνη».

Ο Μίλερ δήλωσε ότι το r-FBI θα έπρεπε να είχε εντοπιστεί από τις εταιρείες, διότι «δεν πρόκειται για κάποια κρυφή επιχείρηση που μόλις τώρα ήρθε στο φως... Πρόκειται για οντότητα σε καθεστώς κυρώσεων από την Ε.Ε. και τις ΗΠΑ».

Η Anthropic, δημιουργός του Claude, δήλωσε ότι τέτοιες εκστρατείες αποτελούν πρόκληση για ολόκληρο τον κλάδο. Η Mistral δήλωσε ότι η μελέτη εξέτασε τα «ανεπεξέργαστα μοντέλα» της και ότι εκείνο που χρησιμοποιούν οι πελάτες ενσωματώνει «ισχυρά επίπεδα φιλτραρίσματος, σχεδιασμένα να εντοπίζουν και να αποτρέπουν αμφισβητήσιμες πηγές».

Σημείωση: Η «The Times» επισημαίνει στο τέλος του παραπάνω άρθρου: «Ζητήθηκε σχόλιο από τις Google, OpenAI και xAI» σε σχέση με τις προαναφερθείσες πληροφορίες.

ΠΗΓΗ: Times Media Ltd / News