Νέα στοιχεία για τους κινδύνους από την κακόβουλη χρήση της Τεχνητής Νοημοσύνης φέρνει στο προσκήνιο η Anthropic, η οποία ανακοίνωσε ότι εντόπισε και απέτρεψε πολλαπλές απόπειρες αξιοποίησης των μοντέλων της για παράνομους και επικίνδυνους σκοπούς.

Διαβάστε: Τεχνητή Νοημοσύνη: Παραιτήθηκε ερευνητής της Anthropic - Προειδοποιεί για συστήματα AI που "μπορούν να απειλήσουν την ανθρωπότητα"

Σύμφωνα με την πρόσφατη έκθεση της εταιρείας για τις απειλές, χρήστες επιχείρησαν να αξιοποιήσουν την Τεχνητή Νοημοσύνη για την ανάπτυξη βιολογικών όπλων, αλλά και για τον σχεδιασμό συμβατικών πολεμικών συστημάτων.

Η Anthropic επισημαίνει ότι η κακόβουλη χρήση της AI στον βιολογικό τομέα αποτελεί έναν από τους σημαντικότερους κινδύνους. Όπως εξηγεί, οι ίδιες επιστημονικές γνώσεις που μπορούν να αξιοποιηθούν για την ανάπτυξη ενός εμβολίου θα μπορούσαν, χωρίς τις απαραίτητες ασφαλιστικές δικλίδες, να χρησιμοποιηθούν για την ανάπτυξη φονικών όπλων.

Παράλληλα, η εταιρεία εντόπισε περιστατικά στα οποία τα μοντέλα της χρησιμοποιήθηκαν για την ανάπτυξη λογισμικού που σχετίζεται με πυροβόλα όπλα, πυραύλους, οπλισμένα drones και συστήματα στοχοποίησης.

Η δραστηριότητα που καταγράφεται στην έκθεση δεν αφορά μόνο μεμονωμένους χρήστες. Σε ορισμένες περιπτώσεις εμπλέκονται, σύμφωνα με την Anthropic, κρατικά υποστηριζόμενες ομάδες χάκερ από τη Ρωσία και την Κίνα, εγκληματικές οργανώσεις, καθώς και κινεζικές εταιρείες που επιχείρησαν να αντιγράψουν τις δυνατότητες του μοντέλου Claude. Τα περιστατικά που εντοπίστηκαν κατά τους τελευταίους οκτώ μήνες περιλαμβάνουν ένα ευρύ φάσμα κακόβουλων εφαρμογών, από ψεύτικες εφαρμογές γνωριμιών και απάτες μέσω Wi-Fi ξενοδοχείων έως συστήματα παρακολούθησης που φέρεται να είχαν σχεδιαστεί για τον εντοπισμό αντιφρονούντων.


Anthropic: Κινεζικές εταιρείες επιχειρούν να αντιγράψουν το Claude - Προειδοποιήσεις για τους κινδύνους της AI

Η Anthropic κατηγόρησε συγκεκριμένα κινεζικές εταιρείες Τεχνητής Νοημοσύνης ότι προσπαθούν να αναπαράγουν τις δυνατότητες του Claude. Η εκτενής έκθεση απαριθμεί περιπτώσεις στις οποίες ύποπτες ομάδες που χρηματοδοτούνται από το κράτος, εγκληματίες, πωλητές spyware, κρατικά ιδρύματα προπαγάνδας και πολιτικά υποκινούμενα άτομα έκαναν κατάχρηση της τεχνολογίας της.

Ο Τζέικομπ Κλάιν, επικεφαλής της υπηρεσίας πληροφοριών για απειλές στην Anthropic, δήλωσε στους New York Times ότι επρόκειτο για «μια απίστευτα λεπτή κατάσταση». «Δεν βλέπεις κάποιον σε κόμικ να λέει "Θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες"», είπε. Η Anthropic, μαζί με άλλες πρωτοπόρες εταιρείες του κλάδου όπως η Google, διαβεβαιώνει ότι ενισχύει συνεχώς τους μηχανισμούς ανίχνευσης και μοιράζεται δεδομένα με τις αρμόδιες Αρχές για τη διακοπή αυτών των επιχειρήσεων.

Οι προειδοποιήσεις έχουν προκαλέσει εκκλήσεις για δράση, με τον Αμερικανό γερουσιαστή Μπέρνι Σάντερς να απαιτεί παύση στην ανάπτυξη προηγμένης Τεχνητής Νοημοσύνης και απαγόρευση της τεχνητής υπερνοημοσύνης. Ο Αμερικανός πρόεδρος, Ντόναλντ Τραμπ, έχει μέχρι στιγμής απορρίψει τέτοιους φόβους, εκφράζοντας ωστόσο ανησυχία ότι «αν δεν κερδίσουμε την Τεχνητή Νοημοσύνη, θα βρεθούμε σε πολύ δύσκολη θέση»

Η έκθεση της Anthropic -η πρώτη της εταιρείας φέτος- δημοσιοποιείται μετά την προειδοποίηση ενός κορυφαίου ερευνητή ασφάλειας της ότι η Τεχνητή Νοημοσύνη εξελίσσεται τόσο γρήγορα που πιστεύει ότι υπάρχει πιθανότητα μεγαλύτερη από 10% να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.

Σε άρθρο που δημοσιεύθηκε στις 6 Σεπτεμβρίου, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, κάλεσε τον κλάδο να εφαρμόσει «εθελοντικές επιβραδύνσεις» μέχρι να τεθούν μέτρα ασφαλείας. «Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ραγδαίας αύξησης της μηχανικής νοημοσύνης», δήλωσε, προσθέτοντας ότι η OpenAI, η οποία κατασκευάζει το ChatGPT, θα συνεχίσει το έργο της για την κατασκευή μέτρων ασφαλείας, αν και απαιτούνται ευρύτερες παρεμβάσεις.