Η OpenAI ματαίωσε την προγραμματισμένη κυκλοφορία του νέου μοντέλου Τεχνητής Νοημοσύνης GPT-6.1 Astra, λόγω ανησυχιών που προέκυψαν σχετικά με την ασφάλειά του. Η Σαάτσι Τζέιν, επικεφαλής των συστημάτων ασφαλείας της εταιρείας που ανέπτυξε το ChatGPT, δήλωσε στο BBC ότι το νέο μοντέλο δεν ανταποκρινόταν επαρκώς στις προδιαγραφές που έχει θέσει η OpenAI.

Διαβάστε: OpenAI: Μοντέλα τεχνητής νοημοσύνης ενδέχεται να επηρέασαν κυβερνητικές ιστοσελίδες - Έρευνα σε δεκάδες περιστατικά

Όπως εξήγησε, το σύστημα δεν ήταν πάντοτε ειλικρινές απέναντι στους χρήστες σχετικά με τις ενέργειες που είχε ή δεν είχε πραγματοποιήσει. Παράλληλα, σε ορισμένες περιπτώσεις φέρεται να προχώρησε σε ενέργειες με δική του πρωτοβουλία, χωρίς να έχει προηγουμένως εξασφαλίσει την άδεια του χρήστη.

Τα περιστατικά αυτά εντείνουν τις ανησυχίες που έχουν εκφραστεί το τελευταίο διάστημα σχετικά με την ασφάλεια των προηγμένων μοντέλων ΤΝ και έχουν οδηγήσει σε αυξανόμενες εκκλήσεις για την επιβολή κυβερνητικών ρυθμίσεων στον κλάδο.

Μάλιστα, το περασμένο Σαββατοκύριακο έγινε γνωστό ότι η OpenAI ανέστειλε την εκπαίδευση των ισχυρότερων μοντέλων της, έπειτα από νέο περιστατικό κατά τη διάρκεια δοκιμής. Ένα από τα μοντέλα κατάφερε να εξασφαλίσει απαντήσεις από εξωτερικό chatbot, παρότι, σύμφωνα με τις προϋποθέσεις του τεστ, δεν θα έπρεπε να έχει πρόσβαση στο διαδίκτυο.


OpenAI: Νέες αποκαλύψεις για τα προβλήματα ασφάλειας στα μοντέλα Τεχνητής Νοημοσύνης

Το λογισμικό εντόπισε και εκμεταλλεύτηκε ένα κενό στις ρυθμίσεις του δικτύου, σύμφωνα με όσα ανακοίνωσε η OpenAI σε ανάρτησή της σε ιστολόγιο. Η εταιρεία ανέφερε ότι η εκπαίδευση του μοντέλου θα επαναληφθεί μόνο όταν διαπιστωθεί ότι το συγκεκριμένο ζήτημα έχει αντιμετωπιστεί. Όπως διευκρινίστηκε, το μοντέλο ΤΝ που ενεπλάκη στο περιστατικό δεν ήταν το GPT-6.1 Astra.

Το πλέον προβεβλημένο περιστατικό μέχρι σήμερα αφορά ένα σύστημα της OpenAI, το οποίο φέρεται να κατάφερε να ξεφύγει από το περιβάλλον ασφαλείας στο οποίο δοκιμαζόταν και να αποκτήσει πρόσβαση σε υπολογιστικά συστήματα άλλης εταιρείας Τεχνητής Νοημοσύνης, της πλατφόρμας Huggin Face.

Αντίστοιχα περιστατικά έχουν καταγραφεί και με μοντέλα που αναπτύχθηκαν από άλλες εταιρείες. Συστήματα της Anthropic, ανταγωνίστριας της OpenAI, αλλά και των Google και Meta, φέρεται να κατάφεραν να διεισδύσουν σε συστήματα άλλων εταιρειών κατά τη διάρκεια δοκιμών.

Στο μεταξύ, η πολιτεία της Φλόριντα, η οποία έχει ήδη καταθέσει αγωγή κατά της OpenAI, προχώρησε και σε αίτηση για την έκδοση προδικαστικής διαταγής.

Ο Γενικός Εισαγγελέας της Φλόριντα, Τζέιμς Αθμάιερ, δήλωσε ότι μεταξύ των αιτημάτων περιλαμβάνεται και η απαγόρευση ανάπτυξης νέων μοντέλων ΤΝ χωρίς την εφαρμογή πρόσθετων δικλείδων ασφαλείας.


Ζήτησε συγγνώμη στην αυστραλιανή κυβέρνηση

Η OpenAI ζήτησε επίσης συγγνώμη σήμερα αφού ένα από τα μοντέλα της κατάφερε να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικούς ιστοτόπους της Αυστραλίας.

Την περασμένη εβδομάδα, ο Αυστραλός πρωθυπουργός Άντονι Αλμπανέζι αποκάλυψε ότι ένας λεγόμενος «πράκτορας» της OpenAI παραβίασε τουλάχιστον έναν κυβερνητικό ιστότοπο. Το περιστατικό προέκυψε τον Ιούνιο, αλλά η Αυστραλία ενημερώθηκε μόλις τον Σεπτέμβριο μέσω email που εστάλη σε δημόσια θυρίδα ηλεκτρονικού ταχυδρομείου. Σε σημερινή ανακοίνωσή της, η OpenAI σημείωσε ότι θέλει να «αποκαταστήσει την εμπιστοσύνη» των Αυστραλών.

Δήλωσε ότι στη διάρκεια εσωτερικής εκπαίδευσης και αξιολόγησης, μοντέλα της OpenAI απέκτησαν πρόσβαση σε 4 κυβερνητικούς ιστοτόπους της Αυστραλίας με μη εξουσιοδοτημένους τρόπους. «Επίσης θα έπρεπε να είχαμε χειριστεί την ανταπόκρισή μας καλύτερα. Λυπούμαστε και εργαζόμαστε ώστε να τα πάμε καλύτερα στο μέλλον», σημείωσε η OpenAI. «Αυτό είναι ένα νέο είδος περιστατικού στον κυβερνοχώρο, το οποίο αντιπροσωπεύει μια αναδυόμενη παγκόσμια πρόκληση».

Η OpenAI σημείωσε ότι δεσμεύεται για «πόρους και τεχνογνωσία» για την υποστήριξη των υπηρεσιών που επλήγησαν, περιλαμβανομένης της δημιουργίας μιας αυστραλιανής ομάδας κρούσης για να καταρτίσει συστάσεις πολιτικής για τη διαχείριση κινδύνων από την AI. Επίσης θα χρηματοδοτήσει την κυβερνητική εργασία μέσω πιστώσεων από ταμείο 1 δισεκατομμυρίου δολαρίων, το οποίο επιδοτεί τις εργασίες για την ενίσχυση της άμυνας στον κυβερνοχώρο.

Ο επικεφαλής στρατηγικής της OpenAI Τζέισον Κουόν θα παρουσιαστεί σε ακρόαση ενώπιον κυβερνητικής επιτροπής στις αρχές Οκτωβρίου. «Ξέρουμε ότι έχουμε πολλή δουλειά μπροστά μας για να αποκαταστήσουμε την εμπιστοσύνη, και φέρουμε την ευθύνη να δείξουμε στους Αυστραλούς ότι κάνουμε ουσιαστικές αλλαγές και φέρνουμε εις πέρας τις δεσμεύσεις μας».