Σοκαριστική έρευνα της Wall Street Journal αποκαλύπτει ότι χρήστες ζήτησαν και έλαβαν από το ChatGPT πληροφορίες σχετικές με την παραγωγή βιολογικών όπλων, δηλητηρίων και επικίνδυνων παθογόνων ουσιών. Οι συνομιλίες καταγράφηκαν το 2025. Σύμφωνα με το δημοσίευμα, ορισμένες απαντήσεις περιείχαν πληροφορίες για τη σύνθεση τοξινών και τη διασπορά παθογόνων, διατυπωμένες με τρόπο κατανοητό ακόμη και για απλούς ανθρώπους. Ειδικοί χαρακτήρισαν κάποιες απαντήσεις εξαιρετικά ανησυχητικές.

Διαβάστε: Εκτός ελέγχου η AI: Μοντέλο του ChatGPT αυτονομήθηκε και προέβη σε κυβερνοεπίθεση

Wall Street Journal: Η απόφαση της OpenAI

Η εταιρεία που το δημιούργησε, η OpenAI φέρεται να απαγόρευσε την πρόσβαση στους λογαριασμούς που συνδέονταν με τις συνομιλίες, δίχως να ενημερώσει τις Αρχές. Όπως επισημαίνει η Wall Street Journal, η απόφαση αυτή δεν παραβίασε τη νομοθεσία, καθώς δεν υφίσταται γενική υποχρέωση για τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν στις Αρχές ερωτήματα χρηστών.

Από την πλευρά του, ο Ρεπουμπλικανός βουλευτής, Ναθάνιελ Μοράν, παρουσίασε το AI Incident Reporting Act, το οποίο προβλέπει τη δημιουργία ομοσπονδιακού μηχανισμού αναφοράς σοβαρών περιστατικών που σχετίζονται με την τεχνητή νοημοσύνη. Πιο αναλυτικά, οι εταιρείες θα πρέπει να ενημερώνουν το αμερικανικό υπουργείο Εμπορίου μέσα σε επτά ημέρες από τη διαπίστωση ενός κρίσιμου περιστατικού.

Πρόταση για "διακόπτη έκτακτης ανάγκης"

Λίγο αργότερα, ο Μοράν και ο Δημοκρατικός βουλευτής της Καλιφόρνια, Τεντ Λιου παρουσίασαν το AI Kill Switch Act. Το νομοσχέδιο θα υποχρεώνει τους δημιουργούς των συστημάτων τεχνητής νοημοσύνης να διατηρούν την τεχνική δυνατότητα να επιβραδύνουν ή να τερματίζουν τη λειτουργία τους.

Το υπουργείο Εσωτερικής Ασφάλειας, έπειτα από συνεννόηση με το υπουργείο Εμπορίου και τις υπηρεσίες πληροφοριών, θα μπορεί να ζητάει την ενεργοποίηση του μηχανισμού σε περιπτώσεις απώλειας ελέγχου ή κινδύνου βλάβης. Η μη συμμόρφωση θα μπορεί να επιφέρει κυρώσεις ύψους 20 εκατ. δολαρίων για κάθε ημέρα παράβασης.