Αμέσως μόλις έγινε γνωστή η είδηση για το θανατηφόρο τροχαίο που αφορούσε το σύστημα αυτόματης οδήγησης (Autopilot) της Tesla το περασμένο έτος, οι οπαδοί και οι επικριτές της κατασκευάστριας ηλεκτροκίνητων οχημάτων πήραν σαφή θέση όσον αφορά στα αίτια της τραγωδίας. Οι υποστηρικτές και οι επενδυτές της Tesla δεν αμφέβαλλαν ποτέ για το γεγονός ότι το σύστημα βελτιώνει την ασφάλεια, οπότε ο οδηγός θα πρέπει να μην πρόσεξε τις προειδοποιήσεις της Tesla για να επιδείξει την ανάλογη προσοχή. Οι επικριτές και οι short επενδυτές, από την άλλη πλευρά, ήταν απόλυτα σίγουροι ότι το Autopilot με κάποιο τρόπο απέτυχε να προστατέψει τον οδηγό του αυτοκινήτου, επιτρέποντάς του να οδηγήσει απευθείας πάνω σε ένα τρέιλερ νταλίκας με ταχύτητα 120 χλμ. την ώρα.

Μετά από περισσότερο από ένα χρόνο που διήρκεσε αυτό το debate, τελικά δόθηκε οριστική απάντηση, χάρη στην έρευνα του Συμβουλίου Ασφάλειας Μεταφορών των ΗΠΑ (NTSB), τα τελικά αποτελέσματα της οποίας παρουσιάστηκαν την προηγούμενη εβδομάδα. Ωστόσο, τα ευρήματα του συμβουλίου δεν αναμένεται να ικανοποιήσουν καμία από τις δύο πλευρές: αντί να κατηγορήσει μόνο τον άνθρωπο ή μόνο το μηχάνημα, φαίνεται ότι τόσο ο οδηγός όσο και το σύστημα Autopilot -ειδικά η πολύπλοκη σχέση μεταξύ των δύο- συνέβαλαν στο θανατηφόρο συμβάν.

Στο επίκεντρο του προβλήματος βρίσκεται μια επικίνδυνη δυναμική: με τα δισεκατομμύρια που διακυβεύονται στον ξέφρενο αγώνα για την ανάπτυξη τεχνολογίας αυτο-οδηγούμενων αυτοκινήτων, υπάρχουν τεράστια κίνητρα για τους κατασκευαστές να δημιουργήσουν την εντύπωση ότι τα οχήματα που πωλούνται σήμερα είναι «αυτόνομα». Όμως, όπως ξεκαθάρισε το NTSB, κανένα όχημα που κυκλοφορεί σήμερα στην αγορά δεν είναι σε θέση να εξασφαλίσει ασφαλή αυτόνομη οδήγηση. Όταν οι καταναλωτές λαμβάνουν τη διαφημιστική εκστρατεία υψηλής τεχνολογίας ως απόλυτα αληθινή, μπορεί να ανοίξει ένα θανατηφόρο χάσμα μεταξύ της αντίληψης της πραγματικότητας και της ίδιας της πραγματικότητας.

Η Tesla αφιέρωσε μήνες «εξυμνώντας» το σύστημα στα ΜΜΕ και δαπάνησε δισεκατομμύρια παρουσιάζοντας το Autopilot ως το πιο αυτόνομο από οποιοδήποτε άλλο προηγμένο σύστημα υποβοήθησης οδήγησης, παρόλο που προειδοποιούσε τους ιδιοκτήτες ότι πρέπει να παραμείνουν προσεκτικοί και να έχουν πάντα τον έλεγχο του οχήματος. Παρόλο που το Autopilot πράγματι είχε καλύτερες επιδόσεις από άλλα προηγμένα συστήματα υποβοήθησης οδήγησης, το κλειδί της επιτυχίας του ήταν η έλλειψη περιορισμών που προσέφερε η Tesla. Επειδή το Autopilot επιτρέπει στους ιδιοκτήτες να οδηγούν χωρίς να χρησιμοποιούν τα χέρια τους οπουδήποτε, ακόμα και σε δρόμους για τους οποίους η Tesla έχει προειδοποιήσει ότι η χρήση αυτής της λειτουργίας δεν θα ήταν ασφαλής, η εταιρεία μπόρεσε να προσφέρει στους καταναλωτές την αίσθηση ότι το σύστημά της ήταν πιο αυτόνομο από άλλα.

Όμως, το Autopilot ήταν στην πραγματικότητα σχεδιασμένο για χρήση σε προστατευμένους αυτοκινητόδρομους με καλή σήμανση, χωρίς πιθανότητες διασταυρούμενης κυκλοφορίας. Όταν λοιπόν η νταλίκα έστριψε στον αυτοκινητόδρομο 27 της Φλόριντα τον περασμένο Μάιο και το Tesla έπεσε κατευθείαν πάνω της, χωρίς να ενεργοποιήσει κανένα σύστημα ασφαλείας, το Autopilot λειτούργησε ακριβώς όπως σχεδιάστηκε για να λειτουργήσει. Το πρόβλημα ήταν ότι χρησιμοποιήθηκε σε δρόμο με συνθήκες που δεν είχε σχεδιαστεί για να αντιμετωπίσει και ο οδηγός είχε προφανώς επαναπαυθεί. Το Autopilot δεν απέτυχε, αλλά ήταν πραγματικά τόσο καλό που έκανε τον οδηγό να πιστέψει ότι ήταν πιο ικανό από ό,τι πραγματικά ήταν.

Αυτή η πολύπλοκη αποτυχία, στην οποία συνέβαλαν τόσο ο άνθρωπος όσο και η μηχανή, ηχεί μια σημαντική προειδοποίηση σχετικά με την τεχνολογία αυτό-οδηγούμενων οχημάτων: μέχρι τα συστήματα να καταστούν τόσο ικανά ώστε να μη χρειάζονται ανθρώπινη εμπλοκή, ο οδηγός πρέπει να παραμείνει στο επίκεντρο του «ημιαυτόνομου» συστήματος οδήγησης. Οι μηχανικοί πρέπει να υποθέσουν ότι αν υπάρχει ένας τρόπος για τους ανθρώπους να κάνουν κατάχρηση αυτών των συστημάτων, θα το κάνουν. Εξίσου σημαντική είναι η ανάγκη να κατανοήσουν οι εταιρείες ότι εάν υπερ-εξελίξουν τις δυνατότητες ενός ημιαυτόνομου συστήματος οδήγησης με την ελπίδα να πάρουν το προβάδισμα στον αγώνα για την πραγματική αυτονομία, διατρέχουν τον κίνδυνο να καταστήσουν αυτή την τεχνολογία λιγότερο ασφαλή από έναν απλό άνθρωπο οδηγό, χωρίς σύστημα υποβοήθησης.

Υπάρχει ένα μάθημα που μπορεί να διδάξει σε αυτό το σημείο η αεροπορία. Καθώς οι υπολογιστές και οι αισθητήρες βελτιώθηκαν τη δεκαετία του 1980, οι κατασκευαστές αεροσκαφών άρχισαν να αυτοματοποιούν όλο και περισσότερα συστήματα ελέγχου, απλώς και μόνο επειδή μπορούσαν. Μόνο αργότερα συνειδητοποίησε η βιομηχανία της αεροπορίας ότι η ενίσχυση του αυτοματισμού μόνο και μόνο για λόγους αυτοματοποίησης έκανε στην πραγματικότητα τα αεροσκάφη λιγότερο ασφαλή, έτσι ώστε να επαναπροσδιορίσει την ανάπτυξη του αυτόνομου πιλότου γύρω από την αρχή της ανθρωποκεντρικής αυτοματοποίησης. Μόνο όταν η αυτοματοποίηση αναπτύσσεται με τρόπους που έχουν σχεδιαστεί για τη βελτίωση των πιλοτικών επιδόσεων βελτιώνεται πράγματι η ασφάλεια.

Αν μη τι άλλο, αυτή η δυναμική θα γίνει πιο εμφανής με τα αυτοκίνητα, τα οποία χρησιμοποιούνται σε πολύ μεγαλύτερους αριθμούς από τα αεροπλάνα και μάλιστα από άτομα με πολύ λιγότερη εκπαίδευση. Αλλά σε αντίθεση με τις εταιρείες αεροσκαφών, οι οποίες είναι ενωμένες στο «στοίχημα» της βελτίωσης της ασφάλειας σε ολόκληρη τη βιομηχανία, οι αυτοκινητοβιομηχανίες και οι νεοσύστατες εταιρείες τεχνολογίας βρίσκονται σε έντονο ανταγωνισμό για το πραγματικό ή φαινομενικό προβάδισμα στον αγώνα για αυτονομία.

Όσο οι καταναλωτές ενδιαφέρονται περισσότερο για τη φουτουριστική, «κουλ» λειτουργία οδήγησης χωρίς να χρησιμοποιούν τα χέρια τους, παρά για τη χρήση της τεχνολογίας με στόχο να γίνουν ασφαλέστεροι οδηγοί, η πιθανότητα για το επικίνδυνο χάσμα μεταξύ της αντίληψης και της πραγματικότητας της τεχνολογίας αυτόνομης οδήγησης παραμένει. Και πόσο κρίμα θα ήταν αν αυτή η τεχνολογία, η οποία κάποτε θα έχει τη δυνατότητα να σώζει δεκάδες χιλιάδες ζωές κάθε χρόνο, έκανε πραγματικά τα αυτοκίνητα λιγότερο ασφαλή βραχυπρόθεσμα.

Πηγή: Βloomberg View