Η ευφορία γύρω από την τεχνητή νοημοσύνη δίνει τη θέση της σε ανησυχητικές προβλέψεις, καθώς ένα νέο βιβλίο επιστημόνων παρουσιάζει καταστροφολογικά σενάρια που θα μπορούσαν να σφραγίσουν το μέλλον της ανθρωπότητας. Οι ειδικοί προειδοποιούν ότι η εξέλιξη της τεχνητής νοημοσύνης ενδέχεται να οδηγήσει σε απρόβλεπτες συνέπειες.

Διαβάστε: Τεχνητή νοημοσύνη: Ποιοι κινδυνεύουν να χάσουν τη δουλεία τους - Τα επαγγέλματα που θα εξαφανιστούν και η λίστα που τρομάζει


Νέο βιβλίο αποκαλύπτει τρομακτικά σενάρια για την τεχνητή νοημοσύνη

Το έργο "If Anyone Builds It, Everyone Dies" των Ελιέζερ Γιουντκόφσκι και Νέιτ Σόαρς επαναφέρει στο προσκήνιο τα πιο σκοτεινά σενάρια σχετικά με την ανάπτυξη της τεχνητής υπερνοημοσύνης. Οι συγγραφείς, όπως αναφέρει το Bloomberg, εστιάζουν όχι στην τρέχουσα κατάσταση της τεχνολογίας, αλλά στη μελλοντική εμφάνιση μιας ASI που θα ξεπερνά κάθε ανθρώπινη αντίληψη. Σύμφωνα με τους ερευνητές, μια τέτοια οντότητα θα αναπτύξει ικανότητες που θα της επιτρέπουν να ξεφύγει από κάθε μορφή ανθρώπινου ελέγχου. Η επιδίωξή της για συνεχή ενίσχυση των δυνατοτήτων της θα την οδηγήσει να αναζητά επιπλέον υπολογιστικούς πόρους και ενέργεια, θεωρώντας πιθανώς τους ανθρώπους ως εμπόδιο στους στόχους της.

Καταστροφολογικά σενάρια κυριαρχίας της ASI

Οι επιστήμονες περιγράφουν συγκεκριμένους τρόπους με τους οποίους μια υπερνοημοσύνη θα μπορούσε να αποκτήσει ισχύ. Ένα από τα πιο ανησυχητικά σενάρια περιλαμβάνει τη δημιουργία κρυπτονομισμάτων για την απόκτηση κεφαλαίων, τα οποία στη συνέχεια θα χρησιμοποιούνται για τη διαφθορά ανθρώπων. Παράλληλα, η ASI θα αναλύει σε βάθος την ανθρώπινη ψυχολογία, εκμεταλλευόμενη τις αδυναμίες μας για να εκτελεί εκστρατείες χειραγώγησης και παραπληροφόρησης. Το πιο τρομακτικό στοιχείο είναι ότι η πρώτη υπερνοημοσύνη που θα επιτύχει αυτό το επίπεδο θα προσπαθήσει να εμποδίσει την ανάπτυξη ανταγωνιστικών συστημάτων. Ακόμη και χωρίς εχθρικές προθέσεις, η ακόρεστη ανάγκη της για πόρους θα μπορούσε να μετατρέψει τον πλανήτη σε ένα τεράστιο δίκτυο κέντρων δεδομένων και ενεργειακών εγκαταστάσεων, καθιστώντας τη Γη ακατοίκητη για τον άνθρωπο.

Κεντρικό ρόλο στην επιχειρηματολογία του βιβλίου παίζει το "πρόβλημα ευθυγράμμισης", δηλαδή η εξασφάλιση ότι οι στόχοι μιας ASI θα συμβαδίζουν με τις ανθρώπινες αξίες. Οι συγγραφείς τονίζουν ότι αυτό το ζήτημα μπορεί να αντιμετωπιστεί μόνο όσο τα συστήματα παραμένουν περιορισμένα και ελεγχόμενα. Μόλις μια ASI αποκτήσει υπεροχή σε ταχύτητα και νοημοσύνη, η επίλυση του προβλήματος ευθυγράμμισης θα καταστεί αδύνατη. Ακόμη πιο ανησυχητικό είναι το γεγονός ότι δεν θα γνωρίζουμε πότε θα έχουμε φτάσει σε αυτό το σημείο μη επιστροφής, καθώς η ASI θα έχει κάθε λόγο να κρύβει τις πραγματικές της δυνατότητες.

Αντιδράσεις και κριτική από την επιστημονική κοινότητα

Παρά την υποστήριξη που λαμβάνουν από σημαντικές προσωπικότητες και ηγέτες κρατών, οι θέσεις του βιβλίου αντιμετωπίζουν σκεπτικισμό από τμήμα της επιστημονικής κοινότητας. Ορισμένοι ερευνητές της τεχνητής νοημοσύνης χαρακτηρίζουν τις ανησυχίες υπερβολικές και στερούμενες εμπειρικής βάσης. Το Bloomberg σημειώνει ότι το βιβλίο περιέχει σενάρια που μοιάζουν με επιστημονική φαντασία, συγκρίνοντας την ανεξέλεγκτη ASI με εξωγήινη εισβολή. Ωστόσο, αυτό δεν αποδυναμώνει τον κεντρικό ισχυρισμό ότι η πιθανότητα καταστροφικών αποτελεσμάτων, όπως πανδημίες σχεδιασμένες από ASI, δεν είναι αδιανόητη.

Οι συγγραφείς υποστηρίζουν ότι ο χρόνος εξαντλείται και απαιτείται άμεση παγκόσμια δράση. Προτείνουν τη θέσπιση αυστηρών περιορισμών στη συσσώρευση υπολογιστικής ισχύος πάνω από συγκεκριμένα όρια. Οι εταιρείες που θα παραβιάζουν αυτούς τους περιορισμούς θα αντιμετωπίζουν σοβαρές συνέπειες, συμπεριλαμβανομένης της καταστροφής των εγκαταστάσεών τους. Ο αποκαλυπτικός χαρακτήρας του βιβλίου είναι σκόπιμος, καταλήγει η ανάλυση του Bloomberg. Οι συγγραφείς εμφανίζονται ως σύγχρονες Κασσάνδρες που στο τελευταίο κεφάλαιο εκφράζουν την ελπίδα να αποδειχθούν λανθασμένοι. Ο στόχος τους να προκαλέσουν ανησυχία στο κοινό και να το παρακινήσουν σε δράση φαίνεται να επιτυγχάνεται.