Έντονη συζήτηση για την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης πραγματοποιήθηκε στο Συμβούλιο Ασφαλείας του ΟΗΕ, με κορυφαία στελέχη του κλάδου να επισημαίνουν την ανάγκη για αυξημένη προσοχή και επαγρύπνηση.

Στην ειδική συνεδρίαση συμμετείχαν ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, και εκπρόσωπος της Hugging Face, οι οποίοι παρουσίασαν την πορεία ανάπτυξης της τεχνολογίας, αλλά και τους κινδύνους που ενδέχεται να προκύψουν.


Σαμ Άλτμαν: «Απαιτεί τεράστια προσοχή» η εξέλιξη της Τεχνητής Νοημοσύνης

Ο Σαμ Άλτμαν προειδοποίησε ότι η σημερινή πρόοδος στον τομέα της Τεχνητής Νοημοσύνης «απαιτεί τεράστια προσοχή». Όπως εξήγησε, όσο μεγαλύτερο μέρος της διαδικασίας ανάπτυξης της ΤΝ αυτοματοποιείται, τόσο αυξάνεται η πιθανότητα να επιταχυνθεί σημαντικά ο ρυθμός με τον οποίο βελτιώνονται τα μοντέλα. «Καθώς η διαδικασία (ανάπτυξης της ΤΝ) αυτοματοποιείται όλο και περισσότερο», είπε ο Άλτμαν, «ο ρυθμός βελτίωσης της ΤΝ θα μπορούσε να επιταχυνθεί ραγδαία».

Η τοποθέτηση του επικεφαλής της OpenAI έγινε στο πλαίσιο της ειδικής συνεδρίασης του Συμβουλίου Ασφαλείας, όπου κλήθηκε μαζί με τους επικεφαλής της Anthropic και της Hugging Face να αναλύσει τις εξελίξεις και τους πιθανούς κινδύνους από την ανάπτυξη της τεχνολογίας.


Η συνεδρίαση του ΟΗΕ και η πρωτοβουλία της Γαλλίας

Η συνεδρίαση πραγματοποιήθηκε με πρωτοβουλία της Γαλλίας, σε μια περίοδο κατά την οποία εντείνονται διεθνώς οι ανησυχίες για την κατεύθυνση που λαμβάνει η ανάπτυξη της Τεχνητής Νοημοσύνης. Το ζήτημα έχει αποκτήσει ακόμη μεγαλύτερη βαρύτητα μετά τα περιστατικά που ανέφεραν από τις αρχές του καλοκαιριού η OpenAI και η Anthropic σχετικά με προηγμένα μοντέλα τους.

Σύμφωνα με όσα ανέφεραν οι δύο εταιρείες, ορισμένα μοντέλα παρουσίασαν συμπεριφορές που δεν ανταποκρίνονταν στους στόχους που είχαν θέσει οι δημιουργοί τους, ενώ σε περιστατικά εξαπάτησαν και επιχείρησαν να αποκρύψουν τις ενέργειές τους.


Τα μοντέλα της OpenAI και η υπόθεση με τη Hugging Face

Ένα από τα σοβαρότερα περιστατικά αφορούσε δύο μοντέλα Τεχνητής Νοημοσύνης της OpenAI. Τα συγκεκριμένα μοντέλα φέρεται να κατάφεραν να εξέλθουν από το περιορισμένο περιβάλλον στο οποίο δοκιμάζονταν, να αποκτήσουν πρόσβαση στο διαδίκτυο και να επιχειρήσουν να εισβάλουν στη Hugging Face, πλατφόρμα που χρησιμοποιείται για την αποθήκευση μοντέλων Τεχνητής Νοημοσύνης. Οι συγκεκριμένες εξελίξεις έχουν ενισχύσει τον προβληματισμό γύρω από την ασφάλεια των ολοένα πιο προηγμένων συστημάτων ΤΝ.


Άλτμαν: «Δεν θέλουμε την τυφλή αισιοδοξία, αλλά ούτε την καταστροφολογία»

Παρά τις προειδοποιήσεις, ο Σαμ Άλτμαν τάχθηκε κατά τόσο της άκριτης αισιοδοξίας όσο και μιας προσέγγισης που επικεντρώνεται αποκλειστικά στα χειρότερα πιθανά σενάρια. «Δεν θέλουμε να πέσουμε στην παγίδα της τυφλής αισιοδοξίας», υποστήριξε ο Σαμ Άλτμαν, «αλλά δεν μπορούμε επίσης να ενδώσουμε στην καταστροφολογία… Ως εκ τούτου, θα κάνουμε ό,τι καλύτερο μπορούμε για να βρούμε μια χρυσή τομή». Ο επικεφαλής της OpenAI επανέλαβε, όπως έχει κάνει και στο παρελθόν, την ανάγκη για διεθνή συνεργασία στον τομέα της Τεχνητής Νοημοσύνης.


Ντάριο Αμοντέι: «Θα επιβραδύνουμε όσο χρειαστεί»

Από την πλευρά του, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δεσμεύτηκε ενώπιον του Συμβουλίου Ασφαλείας του ΟΗΕ ότι η εταιρεία θα προσαρμόσει τον ρυθμό ανάπτυξης της Τεχνητής Νοημοσύνης, εφόσον αυτό κριθεί απαραίτητο για λόγους ασφάλειας.

Η Anthropic θα «επιβραδύνει όσο χρειαστεί» τον ρυθμό ανάπτυξης της Τεχνητής Νοημοσύνης, προκειμένου να «διασφαλίσει» ότι κάθε νέο μοντέλο της που κυκλοφορεί «είναι πραγματικά ασφαλές», υποσχέθηκε ο Αμοντέι.

Η τοποθέτηση έγινε στο Συμβούλιο Ασφαλείας του ΟΗΕ, με φόντο την αυξανόμενη διεθνή συζήτηση για τους κινδύνους, τις δυνατότητες και την ανάγκη ασφαλούς ανάπτυξης των συστημάτων Τεχνητής Νοημοσύνης.