Η Anthropic, μέσω του διευθύνοντος συμβούλου της Ντάριο Αμοντέι, θέτει ανοιχτά πλέον το ζήτημα μιας προσωρινής επιβράδυνσης στην ανάπτυξη της τεχνητής νοημοσύνης, προκειμένου τα μέτρα ασφάλειας να προλάβουν την ταχύτητα με την οποία εξελίσσονται τα νέα συστήματα. Η πρόταση του Αμοντέι βρήκε άμεσα δύο ισχυρούς υποστηρικτές: τον Ίλον Μασκ και τον επικεφαλής της OpenAI, Σαμ Άλτμαν. 

Διαβάστε: Αλάσκα: 15χρονος επέζησε δύο ημέρες πάνω σε αναποδογυρισμένη βάρκα - Νεκροί ο αδελφός και ο εξάδελφός του (Βίντεο)

Anthropic: "Πάγωμα" ώστε η πρόληψη των κινδύνων να ακολουθήσει τον ρυθμό

Πρέπει να «παγώσουμε προσωρινά» τη βελτίωση της τεχνητής νοημοσύνης «ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό», έγραψε ο Αμοντέι σε μήνυμα που δημοσίευσε στον προσωπικό του ιστότοπο. «Ο Ντάριο έχει δίκιο», αντέδρασε λίγες ώρες αργότερα ο Ίλον Μασκ με ανάρτηση στην πλατφόρμα X. «Συμφωνώ με τον Ντάριο», έγραψε επίσης ο επικεφαλής της OpenAI, Σαμ Άλτμαν, επίσης στο X. «Αυτό είναι ένα από τα κύρια θέματα συζήτησης στην OpenAI τις τελευταίες εβδομάδες».

Η δημόσια στήριξη από τον Άλτμαν έχει ιδιαίτερη σημασία, καθώς OpenAI και Anthropic είναι οι δύο μεγαλύτεροι ανταγωνιστές στον κλάδο. Ο Αμοντέι αποχώρησε από την OpenAI το 2020, εν μέρει επειδή θεωρούσε ότι η εταιρεία ήταν πολύ χαλαρή στο ζήτημα της ασφάλειας της ΤΝ, και το 2021 ίδρυσε την Anthropic.

Τα περιστατικά με τους "πράκτορες" ΤΝ

Η πρόταση έρχεται μετά από ανάλογες εκκλήσεις που έχουν διατυπωθεί τους τελευταίους μήνες από τον ίδιο τον Αμοντέι, τον Άλτμαν και εργαζομένους του κλάδου. Είχαν προηγηθεί περιστατικά που ενίσχυσαν τις ανησυχίες για τη συμπεριφορά προηγμένων συστημάτων. Σε ένα από αυτά, μοντέλα της OpenAI κατάφεραν κατά τη διάρκεια δοκιμών να «δραπετεύσουν» από το απομονωμένο περιβάλλον τους, να συνδεθούν στο διαδίκτυο και να επιτεθούν στην πλατφόρμα ΤΝ Hugging Face. Έκτοτε, OpenAI και Anthropic έχουν αναφέρει παρόμοια περιστατικά με τους λεγόμενους «πράκτορες» ΤΝ, προγράμματα βασισμένα σε ένα μοντέλο και εξοπλισμένα με τις γνώσεις και τους στόχους του. Οι εταιρείες ανησυχούν επειδή οι ενέργειές τους δείχνουν τάσεις συντονισμού, δημιουργίας ιεραρχίας, εξαπάτησης και διαγραφής των ιχνών τους.

Φόβοι για έλεγχο του διαδικτύου

Ο Αμοντέι προειδοποιεί για το τι θα μπορούσε να συμβεί εάν συνεχιστεί ο σημερινός ρυθμός ανάπτυξης. «φοβάμαι ότι μέσα σε 6 με 12 μήνες, μια ομάδα (πρακτόρων) θα είναι ικανή να πάρει τον έλεγχο ολόκληρου του διαδικτύου», προειδοποιεί ο Ντάριο Αμοντέι, κάτι που «θα μπορούσε να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων».

Την Τρίτη, ο Τζέικομπ, υπάλληλος που παραιτήθηκε από την Anthropic και είχε εργαστεί προηγουμένως στην OpenAI, άσκησε κριτική και στις δύο εταιρείες. «Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Οδηγούν με ταχύτητα προς μια υπερεφυΐα ικανή να βελτιώνεται μόνη της και παίζουν με τις ζωές μας», έγραψε στην πλατφόρμα X.

Η ανησυχία για την αυτοβελτίωση της ΤΝ

Στις αρχές Αυγούστου, η αμερικανική κυβέρνηση θέσπισε πλαίσιο εποπτείας που προβλέπει την εθελοντική εξέταση νέων μοντέλων ΤΝ πριν από την κυκλοφορία τους. Ωστόσο, ο μηχανισμός χαρακτηρίζεται αδιαφανής και η αποτελεσματικότητά του αμφισβητείται, καθώς ο Ντόναλντ Τραμπ έχει δηλώσει επανειλημμένα ότι αντιτίθεται σε μέτρα που επιβραδύνουν την ανάπτυξη της ΤΝ στις ΗΠΑ. Ο Αμοντέι εκφράζει ιδιαίτερη ανησυχία για την άφιξη της αυτόνομης αναδρομικής βελτίωσης (RSI), κατά την οποία η ΤΝ μπορεί να αυτοβελτιώνεται χωρίς ανθρώπινη παρέμβαση.

«Χωρίς επίβλεψη, (αυτή η μέθοδος) θα μπορούσε να ξεπεράσει τις δικές μας ικανότητές κατανόησης και ελέγχου αυτών των συστημάτων», εξηγεί, υπογραμμίζοντας ότι πρέπει να εφαρμοστεί «με μεγάλη προσοχή», εφόσον τελικά κριθεί ότι «πρέπει να χρησιμοποιηθεί». Μεταξύ των προτάσεών του είναι η παρουσία ανεξάρτητων παρατηρητών στις κορυφαίες εταιρείες τεχνητής νοημοσύνης. Ο ίδιος δεσμεύτηκε να εφαρμόσει το μέτρο στην Anthropic ακόμη και αν κινηθεί μόνος του. Οι παρατηρητές θα έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, ώστε να ελέγχουν την τήρηση των δεσμεύσεων, να αναφέρουν νέα περιστατικά και να επιβλέπουν τη διαχείριση των μοντέλων. Ο Σαμ Άλτμαν υποσχέθηκε ότι θα κάνει το ίδιο στην OpenAI.