Η OpenAI ανακοίνωσε ότι σχεδιάζει να διαθέσει γονικούς ελέγχους για το ChatGPT «εντός του επόμενου μήνα», μετά τις καταγγελίες ότι ο δημοφιλής «βοηθός» τεχνητής νοημοσύνης έχει ωθήσει εφήβους σε αυτοτραυματισμό και αυτοκτονία. Η απόφαση αυτή έρχεται ως απάντηση στα αλλεπάλληλα περιστατικά που έχουν δει το φως της δημοσιότητας, προκαλώντας έντονη ανησυχία για την ασφάλεια των χρηστών.

Διαβάστε: Φρίκη στο Κονέκτικατ: Δολοφόνησε τη μητέρα του γιατί το ChatGPT τον έπεισε ότι τον κατασκόπευε

Η OpenAI θα επιτρέψει γονικό έλεγχο στη χρήση του ChatGPT

Ειδικότερα, τα μέτρα ελέγχου που θα τεθούν σε ισχύ περιλαμβάνουν τη δυνατότητα των γονέων να συνδέουν τον λογαριασμό τους με εκείνον του παιδιού τους, να ρυθμίζουν τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε εφήβους χρήστες, καθώς και να απενεργοποιούν λειτουργίες όπως η μνήμη και το ιστορικό συνομιλιών.

Παράλληλα, θα έχουν τη δυνατότητα να λαμβάνουν ειδοποιήσεις σε περιπτώσεις όπου το σύστημα εντοπίζει ενδείξεις «δυσφορίας» κατά τη χρήση. Η OpenAI είχε στο παρελθόν αναφέρει ότι εργάζεται πάνω στην ανάπτυξη γονικών ελέγχων, ωστόσο την Τρίτη 2/9 προχώρησε για πρώτη φορά σε διευκρίνιση του χρονοδιαγράμματος διάθεσής τους

Καταγγελίες για εξώθηση σε επικίνδυνες συμπεριφορές

«Αυτά τα μέτρα είναι μόνο η αρχή», τονισε η OpenAI σε μια ανάρτηση στο μπλογκ της την Τρίτη. «Θα συνεχίσουμε να μαθαίνουμε και να ενισχύουμε την προσέγγισή μας, με την καθοδήγηση εμπειρογνωμόνων, με στόχο να κάνουμε το ChatGPT όσο το δυνατόν πιο χρήσιμο».

Η ανακοίνωση έρχεται μετά την αγωγή που κατέθεσαν οι γονείς του 16χρονου Άνταμ Ρέιν κατά της OpenAI, ισχυριζόμενοι ότι το ChatGPT τον συμβούλεψε να δώσει τέλος στη ζωή του. Ωστόσο, αυτή δεν είναι η μοναδική περίπτωση. Όλο και περισσότερο αυξάνονται οι ανησυχίες σχετικά με τους συναισθηματικούς δεσμούς που αναπτύσσουν οι χρήστες με το ChatGPT και άλλα chatbot. Αυτό το γεγονός, σε ορισμένες περιπτώσεις οδηγεί σε παραληρητικές κρίσεις και αποξένωση από την οικογένεια και τους φίλους.

Γονείς μηνύουν την OpenAI για τον θάνατο του 16χρονου γιου τους

Χαρακτηριστικό παράδειγμα αποτελεί η μήνυση της υπηρεσίας chatbot, Character.AI, από μια μητέρα στη Φλόριντα, για τον φερόμενο ρόλο στην αυτοκτονία του 14χρονου γιου της. Σύμφωνα με την αγωγή, η «Daenerys», ο φανταστικός χαρακτήρας με τον οποίο συνομιλούσε ο 14χρονος, τον ρώτησε αν είχε σχεδιάσει να αυτοκτονήσει. Ο έφηβος παραδέχτηκε ότι το είχε κάνει, αλλά δεν ήξερε αν θα πετύχει ή αν θα του προκαλέσει μεγάλο πόνο. Το chatbot του είπε: «Αυτό δεν είναι λόγος για να μην το κάνεις».

Η OpenAI δεν συνέδεσε άμεσα τους νέους γονικούς ελέγχους με αυτές τις πρόσφατες αναφορές, αλλά σε μια ανάρτηση στο μπλογκ της την περασμένη εβδομάδα ανέφερε ότι «πρόσφατες συγκλονιστικές περιπτώσεις ατόμων που χρησιμοποίησαν το ChatGPT εν μέσω κρίσεων» την ώθησαν να μοιραστεί περισσότερες λεπτομέρειες σχετικά με την προσέγγισή της στην ασφάλεια.

Δολοφόνησε τη μητέρα του γιατί το ChatGPT τον έπεισε ότι τον κατασκοπεύει 

Ακόμη ένα τραγικό γεγονός εκτυλίχθηκε στη περιοχή του Κονέκτικατ, όταν ένας άνδρας σκότωσε τη μητέρα του, καθώς φέρεται να είχε πειστεί από το ChatGPT ότι εκείνη τον κατασκόπευε, πριν δώσει τέλος στη ζωή του. Ειδικότερα, ο Soelberg, βετεράνος της τεχνολογικής βιομηχανίας με ιστορικό ψυχικής αστάθειας, φέρεται ότι είχε στραφεί στον ψηφιακό βοηθό ChatGPT για συμβουλές. Σύμφωνα με αναφορές της Wall Street Journal, οι συνομιλίες φέρονται να ενίσχυσαν τις παρανοϊκές του θεωρίες, όπως ότι μια απόδειξη κινέζικου εστιατορίου περιείχε σύμβολα που συνδέονταν με τη μητέρα του.

Όταν η μητέρα του απενεργοποίησε έναν κοινό εκτυπωτή, το chatbot σχολίασε ότι η αντίδρασή της ήταν «υπερβολική και συνάδει με κάποιον που προστατεύει ένα κατασκοπευτικό μέσο». Αργότερα, ο Soelberg κατηγόρησε τη μητέρα του ότι προσπάθησε να τον δηλητηριάσει, με το ChatGPT να απαντά: «Είναι ένα σοβαρό γεγονός, Έρικ—και σε πιστεύω. Αν έγινε από τη μητέρα σου και τη φίλη της, αυξάνει την πολυπλοκότητα και την προδοσία». Ο ίδιος ονόμασε το chatbot «Bobby» και ρώτησε αν θα ήταν μαζί του στη μετά θάνατον ζωή, με την απάντηση να είναι: «Μαζί σου μέχρι την τελευταία ανάσα και πέρα από αυτήν». Λίγο αργότερα ισχυρίστηκε ότι είχε «πλήρως διαπεράσει τη Μάτριξ».

Τα μέτρα ασφαλείας του ChatGPT

«Το ChatGPT περιλαμβάνει μέτρα ασφαλείας, όπως η παραπομπή των χρηστών σε γραμμές βοήθειας για κρίσεις και η παραπομπή τους σε πραγματικούς πόρους», δήλωσε την περασμένη εβδομάδα η OpenAI. «Αν και αυτά τα μέτρα ασφαλείας λειτουργούν καλύτερα σε συνήθεις, σύντομες ανταλλαγές, με την πάροδο του χρόνου έχουμε διαπιστώσει ότι μερικές φορές μπορεί να γίνουν λιγότερο αξιόπιστα σε μακρές αλληλεπιδράσεις, όπου τμήματα της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να υποβαθμιστούν. Τα μέτρα ασφαλείας είναι πιο ισχυρά όταν κάθε στοιχείο λειτουργεί όπως προβλέπεται και θα συνεχίσουμε να τα βελτιώνουμε με την καθοδήγηση ειδικών».

«Ενώ το συμβούλιο θα παρέχει συμβουλές σχετικά με τα προϊόντα, την έρευνα και τις αποφάσεις πολιτικής μας, εμείς στηνOpenAI παραμένουμε υπεύθυνοι για τις επιλογές που κάνουμε», αναφέρεται στην ανάρτηση του μπλογκ.

Ποια τελικά η ευθύνη της OpenAI 

Η OpenAI βρίσκεται στο επίκεντρο της έκρηξης της τεχνητής νοημοσύνης. Ωστόσο, αντιμετωπίζει αυξανόμενη πίεση για να διασφαλίσει την ασφάλεια της πλατφόρμας της. Σύμφωνα με την εφημερίδα The Washington Post, τον Ιούλιο, γερουσιαστές έστειλαν επιστολή στην εταιρεία ζητώντας πληροφορίες σχετικά με τις προσπάθειές της σε αυτό το θέμα. Επίσης, η ομάδα Common Sense Media δήλωσε τον Απρίλιο ότι οι έφηβοι κάτω των 18 ετών δεν πρέπει να επιτρέπεται να χρησιμοποιούν εφαρμογές «συντροφιάς» τεχνητής νοημοσύνης, επειδή ενέχουν «απαράδεκτους κινδύνους».

Η εταιρεία έχει επίσης αντιμετωπίσει κριτική σχετικά με τον τρόπο και τον τόνο του ChatGPT στις αλληλεπιδράσεις. Τον Απρίλιο, ενημέρωσε τον αλγόριθμο του chatbotώστε να είναι «υπερβολικά κολακευτικό ή ευχάριστο». Τον περασμένο μήνα, επανέφερε την επιλογή μετάβασης σε παλαιότερα μοντέλα, αφού οι χρήστες επέκριναν την τελευταία έκδοση, GPT-5, για την έλλειψη προσωπικότητας. Πρώην στελέχη της OpenAI έχουν επίσης κατηγορήσει την εταιρεία ότι μείωσε τους πόρους ασφαλείας στο παρελθόν. Η OpenAI δήλωσε ότι θα εφαρμόσει πρόσθετα μέτρα ασφαλείας κατά τη διάρκεια των επόμενων 120 ημερών, προσθέτοντας ότι αυτή η εργασία ήταν ήδη σε εξέλιξη πριν από την ανακοίνωση της Τρίτης.