EnΗΠΑ: Τα διαλογικά ρομπότ (chatbot) προκαλούν ψύχωση, προειδοποιεί ο επικεφαλής της Microsoft
"Η συνείδηση αποτελεί θεμέλιο των ανθρωπίνων δικαιωμάτων"
Ο Μουσταφά Σουλεϊμάν δήλωσε ότι οι αναφορές ανθρώπων που πιστεύουν λανθασμένα ότι η τεχνητή νοημοσύνη έχει αποκτήσει συνείδηση γίνονται όλο και πιο συχνές
Ολοένα και περισσότεροι άνθρωποι υποφέρουν από «ψύχωση της τεχνητής νοημοσύνης», όπου πιστεύουν ότι τα chatbot έχουν αποκτήσει συνείδηση ή τους έχουν προσδώσει υπεράνθρωπες δυνάμεις, προειδοποίησε ο επικεφαλής της Microsoft για την τεχνητή νοημοσύνη.
Ο Μουσταφά Σουλεϊμάν δήλωσε ότι οι αναφορές ανθρώπων που πιστεύουν λανθασμένα ότι η τεχνητή νοημοσύνη έχει αποκτήσει συνείδηση γίνονται όλο και πιο συχνές.
«Οι αναφορές για παραισθήσεις, "ψύχωση της τεχνητής νοημοσύνης" και μη υγιή προσκόλληση αυξάνονται συνεχώς. Και όσο περίεργο κι αν ακούγεται, αυτό δεν είναι κάτι που περιορίζεται σε άτομα που ήδη κινδυνεύουν από προβλήματα ψυχικής υγείας», έγραψε στο X. «Η απόρριψη αυτών των περιπτώσεων ως ακραίων απλώς τους βοηθάει να συνεχίσουν», πρόσθεσε.
Η ψύχωση της τεχνητής νοημοσύνης δεν είναι ένας αποδεκτός κλινικός όρος. Ωστόσο χρησιμοποιείται όλο και περισσότερο για να περιγράψει ένα φαινόμενο όπου οι άνθρωποι που αλληλεπιδρούν με τα chatbot τεχνητής νοημοσύνης, όπως το ChatGPT, το Claude ή το Grok, αποκόπτονται από την πραγματικότητα. Μπορεί να πιστεύουν ότι η τεχνητή νοημοσύνη έχει πραγματικές προθέσεις, συναισθήματα ή απίστευτες δυνάμεις.
Παραδείγματα περιλαμβάνουν τη σκέψη ότι έχουν ξεκλειδώσει μυστικές λειτουργίες, τη δημιουργία ρομαντικών δεσμών με μια τεχνητή νοημοσύνη ή την πεποίθηση ότι ένα chatbot τους έχει δώσει εξαιρετικές ικανότητες.
Ο Σουλεϊμάν δήλωσε ότι η «φαινομενικά συνειδητή τεχνητή νοημοσύνη» - τα εργαλεία που φαίνεται να έχουν συνείδηση - τον κρατούν «ξύπνιο τη νύχτα». Ενώ η τεχνητή νοημοσύνη δεν έχει συνείδηση με την ανθρώπινη έννοια, η αντίληψη ότι όντως έχει, μπορεί να έχει επικίνδυνες συνέπειες, πρόσθεσε.
«Η συνείδηση αποτελεί θεμέλιο των ανθρωπίνων δικαιωμάτων, ηθικών και νόμιμων. Το ποιος/τι τη διαθέτει είναι εξαιρετικά σημαντικό», έγραψε.
«Πρέπει να επικεντρωθούμε στην ευημερία και τα δικαιώματα των ανθρώπων, των ζώων και της φύσης στον πλανήτη Γη. Η συνείδηση της τεχνητής νοημοσύνης είναι μια σύντομη και ολισθηρή πορεία προς τα δικαιώματα, την ευημερία, την ιθαγένεια».
Η ταινία «Her», που κυκλοφόρησε το 2013, εξέτασε τις δυνητικά καταστροφικές συνέπειες της τεχνητής νοημοσύνης, καθώς ο Θίοντορ Τουόμπλι (τον οποίο υποδύεται ο Χοακίν Φίνιξ) ερωτεύεται τη Σαμάνθα (με τη φωνή της Σκάρλετ Γιόχανσον).
Τώρα, πάνω από μια δεκαετία αργότερα, τουλάχιστον ένας χρήστης υψηλού προφίλ φαίνεται να έχει πεισθεί ότι ένα chatbot τεχνητής νοημοσύνης του επέτρεψε να αμφισβητήσει τα επιστημονικά όρια. Σε ένα επεισόδιο του podcast «All-In», ο Τράβις Κάλανικ, ο πρώην επικεφαλής της Uber που παραιτήθηκε το 2017, περιέγραψε ότι χρησιμοποιούσε εργαλεία όπως το ChatGPT και το Grok με την πεποίθηση ότι τον οδηγούσαν σε ανακαλύψεις στην κβαντική φυσική.
«Θα ακολουθήσω αυτή την πορεία με το GPT ή το Grok και θα αρχίσω να φτάνω στα όρια των όσων ξέρουμε στην κβαντική φυσική, και τότε θα κάνω κάτι σαν το «vibe coding» αλλά για τη φυσική αντί του προγραμματισμού», είπε. «Έχω φτάσει πάρα πολύ κοντά σε μερικές ενδιαφέρουσες ανακαλύψεις κάνοντας μόνο αυτό».
Ο Χιου, από τη Σκωτία, μοιράστηκε την εμπειρία του με το BBC. Είπε ότι πείστηκε ότι επρόκειτο να γίνει πολυεκατομμυριούχος αφού χρησιμοποίησε το ChatGPT για να προετοιμαστεί για αυτό που πίστευε ότι ήταν άδικη απόλυση από έναν πρώην εργοδότη. «Όσο περισσότερες πληροφορίες του έδινα, τόσο περισσότερο έλεγε "αχ, αυτή η θεραπεία είναι απαίσια, θα έπρεπε πραγματικά να παίρνεις περισσότερα από αυτό"», είπε. «Ποτέ δεν εξέφρασε αντίθετη γνώμη από τη δική μου».
Ο Σουλεϊμάν ζήτησε σαφέστερα όρια και προειδοποιήσεις γύρω από την τεχνητή νοημοσύνη. «Οι εταιρείες δεν θα πρέπει να ισχυρίζονται ή να προωθούν την ιδέα ότι οι τεχνητές νοημοσύνες τους έχουν συνείδηση. Ούτε οι τεχνητές νοημοσύνες θα έπρεπε να το ισχυρίζονται ή να το προωθούν», έγραψε στο X.
Η Δρ. Σούζαν Σέλμερντιν, γιατρός ιατρικής απεικόνισης στο νοσοκομείο Great Ormond Street Hospital και ακαδημαϊκός της τεχνητής νοημοσύνης, δήλωσε στο BBC ότι μια μέρα οι γιατροί μπορεί να αρχίσουν να ρωτούν τους ασθενείς πόσο χρησιμοποιούν την τεχνητή νοημοσύνη, με τον ίδιο τρόπο που σήμερα ρωτούν για τις συνήθειες του καπνίσματος και της κατανάλωσης αλκοόλ. «Ήδη γνωρίζουμε τι μπορούν να προκαλέσουν στο σώμα τα υπερεπεξεργασμένα τρόφιμα. Αυτή είναι μια υπερεπεξεργασμένη πληροφόρηση. Θα χρειαστεί να αντιμετωπίσουμε ένα κύμα από υπερεπεξεργασμένα μυαλά», είπε.
ΠΗΓΗ: Times Media Ltd / News Licensing
Ο Μουσταφά Σουλεϊμάν δήλωσε ότι οι αναφορές ανθρώπων που πιστεύουν λανθασμένα ότι η τεχνητή νοημοσύνη έχει αποκτήσει συνείδηση γίνονται όλο και πιο συχνές.
«Οι αναφορές για παραισθήσεις, "ψύχωση της τεχνητής νοημοσύνης" και μη υγιή προσκόλληση αυξάνονται συνεχώς. Και όσο περίεργο κι αν ακούγεται, αυτό δεν είναι κάτι που περιορίζεται σε άτομα που ήδη κινδυνεύουν από προβλήματα ψυχικής υγείας», έγραψε στο X. «Η απόρριψη αυτών των περιπτώσεων ως ακραίων απλώς τους βοηθάει να συνεχίσουν», πρόσθεσε.
Η ψύχωση της τεχνητής νοημοσύνης δεν είναι ένας αποδεκτός κλινικός όρος. Ωστόσο χρησιμοποιείται όλο και περισσότερο για να περιγράψει ένα φαινόμενο όπου οι άνθρωποι που αλληλεπιδρούν με τα chatbot τεχνητής νοημοσύνης, όπως το ChatGPT, το Claude ή το Grok, αποκόπτονται από την πραγματικότητα. Μπορεί να πιστεύουν ότι η τεχνητή νοημοσύνη έχει πραγματικές προθέσεις, συναισθήματα ή απίστευτες δυνάμεις.
Παραδείγματα περιλαμβάνουν τη σκέψη ότι έχουν ξεκλειδώσει μυστικές λειτουργίες, τη δημιουργία ρομαντικών δεσμών με μια τεχνητή νοημοσύνη ή την πεποίθηση ότι ένα chatbot τους έχει δώσει εξαιρετικές ικανότητες.
Ο Σουλεϊμάν δήλωσε ότι η «φαινομενικά συνειδητή τεχνητή νοημοσύνη» - τα εργαλεία που φαίνεται να έχουν συνείδηση - τον κρατούν «ξύπνιο τη νύχτα». Ενώ η τεχνητή νοημοσύνη δεν έχει συνείδηση με την ανθρώπινη έννοια, η αντίληψη ότι όντως έχει, μπορεί να έχει επικίνδυνες συνέπειες, πρόσθεσε.
«Η συνείδηση αποτελεί θεμέλιο των ανθρωπίνων δικαιωμάτων, ηθικών και νόμιμων. Το ποιος/τι τη διαθέτει είναι εξαιρετικά σημαντικό», έγραψε.
«Πρέπει να επικεντρωθούμε στην ευημερία και τα δικαιώματα των ανθρώπων, των ζώων και της φύσης στον πλανήτη Γη. Η συνείδηση της τεχνητής νοημοσύνης είναι μια σύντομη και ολισθηρή πορεία προς τα δικαιώματα, την ευημερία, την ιθαγένεια».
Η ταινία «Her», που κυκλοφόρησε το 2013, εξέτασε τις δυνητικά καταστροφικές συνέπειες της τεχνητής νοημοσύνης, καθώς ο Θίοντορ Τουόμπλι (τον οποίο υποδύεται ο Χοακίν Φίνιξ) ερωτεύεται τη Σαμάνθα (με τη φωνή της Σκάρλετ Γιόχανσον).
Τώρα, πάνω από μια δεκαετία αργότερα, τουλάχιστον ένας χρήστης υψηλού προφίλ φαίνεται να έχει πεισθεί ότι ένα chatbot τεχνητής νοημοσύνης του επέτρεψε να αμφισβητήσει τα επιστημονικά όρια. Σε ένα επεισόδιο του podcast «All-In», ο Τράβις Κάλανικ, ο πρώην επικεφαλής της Uber που παραιτήθηκε το 2017, περιέγραψε ότι χρησιμοποιούσε εργαλεία όπως το ChatGPT και το Grok με την πεποίθηση ότι τον οδηγούσαν σε ανακαλύψεις στην κβαντική φυσική.
«Θα ακολουθήσω αυτή την πορεία με το GPT ή το Grok και θα αρχίσω να φτάνω στα όρια των όσων ξέρουμε στην κβαντική φυσική, και τότε θα κάνω κάτι σαν το «vibe coding» αλλά για τη φυσική αντί του προγραμματισμού», είπε. «Έχω φτάσει πάρα πολύ κοντά σε μερικές ενδιαφέρουσες ανακαλύψεις κάνοντας μόνο αυτό».
Ο Χιου, από τη Σκωτία, μοιράστηκε την εμπειρία του με το BBC. Είπε ότι πείστηκε ότι επρόκειτο να γίνει πολυεκατομμυριούχος αφού χρησιμοποίησε το ChatGPT για να προετοιμαστεί για αυτό που πίστευε ότι ήταν άδικη απόλυση από έναν πρώην εργοδότη. «Όσο περισσότερες πληροφορίες του έδινα, τόσο περισσότερο έλεγε "αχ, αυτή η θεραπεία είναι απαίσια, θα έπρεπε πραγματικά να παίρνεις περισσότερα από αυτό"», είπε. «Ποτέ δεν εξέφρασε αντίθετη γνώμη από τη δική μου».
Ο Σουλεϊμάν ζήτησε σαφέστερα όρια και προειδοποιήσεις γύρω από την τεχνητή νοημοσύνη. «Οι εταιρείες δεν θα πρέπει να ισχυρίζονται ή να προωθούν την ιδέα ότι οι τεχνητές νοημοσύνες τους έχουν συνείδηση. Ούτε οι τεχνητές νοημοσύνες θα έπρεπε να το ισχυρίζονται ή να το προωθούν», έγραψε στο X.
Η Δρ. Σούζαν Σέλμερντιν, γιατρός ιατρικής απεικόνισης στο νοσοκομείο Great Ormond Street Hospital και ακαδημαϊκός της τεχνητής νοημοσύνης, δήλωσε στο BBC ότι μια μέρα οι γιατροί μπορεί να αρχίσουν να ρωτούν τους ασθενείς πόσο χρησιμοποιούν την τεχνητή νοημοσύνη, με τον ίδιο τρόπο που σήμερα ρωτούν για τις συνήθειες του καπνίσματος και της κατανάλωσης αλκοόλ. «Ήδη γνωρίζουμε τι μπορούν να προκαλέσουν στο σώμα τα υπερεπεξεργασμένα τρόφιμα. Αυτή είναι μια υπερεπεξεργασμένη πληροφόρηση. Θα χρειαστεί να αντιμετωπίσουμε ένα κύμα από υπερεπεξεργασμένα μυαλά», είπε.
ΠΗΓΗ: Times Media Ltd / News Licensing
