Η είδηση της σύλληψης του 44χρονου Michael Butler στο Katy του Τέξας δεν είναι απλώς άλλη μια αναφορά σε τροχαίο δυστύχημα. Είναι ένα ορόσημο στην εξελισσόμενη νομική και ηθική διαμάχη γύρω από την αυτόνομη οδήγηση. Ο Butler κατηγορείται για ανθρωποκτονία εξ αμελείας (manslaughter) αφού το Tesla Model 3 του εξετράπη της πορείας του, εισέβαλε σε μια κατοικία και σκότωσε μια γυναίκα που βρισκόταν στο εσωτερικό της. Το γεγονός ότι ο οδηγός ισχυρίστηκε πως χρησιμοποιούσε το σύστημα Full Self-Driving (FSD) της Tesla τη στιγμή της σύγκρουσης, ανοίγει έναν ασκό του Αιόλου για τις αυτοκινητοβιομηχανίες και τους ρυθμιστικούς φορείς.
Το Χάσμα Μεταξύ Μάρκετινγκ και Πραγματικότητας
Για χρόνια, η Tesla και ο Elon Musk προωθούν το FSD ως μια τεχνολογία που πλησιάζει την πλήρη αυτονομία. Ωστόσο, στην πραγματικότητα, το σύστημα παραμένει ένα «Επίπεδο 2» (Level 2) αυτοματισμού, το οποίο απαιτεί από τον οδηγό να έχει τα χέρια στο τιμόνι και την προσοχή του στον δρόμο ανά πάσα στιγμή. Η ονομασία «Full Self-Driving» έχει επικριθεί σφοδρά από ειδικούς σε θέματα οδικής ασφάλειας, καθώς δημιουργεί μια ψευδαίσθηση ασφάλειας και ενθαρρύνει την υπερβολική εμπιστοσύνη στον αυτοματισμό (automation bias).
Στην περίπτωση του Butler, οι αρχές καλούνται να αποφασίσουν αν η ευθύνη βαραίνει αποκλειστικά τον άνθρωπο που βρισκόταν πίσω από το τιμόνι ή αν η ίδια η σχεδίαση του συστήματος συνέβαλε στο δυστύχημα. Αν και η Tesla δηλώνει ρητά ότι ο οδηγός είναι υπεύθυνος, η νομική πίεση αυξάνεται. Οι εισαγγελείς υποστηρίζουν ότι η χρήση ενός τέτοιου συστήματος σε αστικό περιβάλλον με υψηλές ταχύτητες, χωρίς την δέουσα προσοχή, συνιστά εγκληματική αμέλεια.
Η «Ηθική Ζώνη Ελεγχόμενης Παραμόρφωσης»
Η κοινωνιολόγος Madeleine Clare Elish έχει εισαγάγει τον όρο «moral crumple zone» (ηθική ζώνη ελεγχόμενης παραμόρφωσης) για να περιγράψει πώς οι άνθρωποι-χειριστές συχνά επωμίζονται την πλήρη νομική και ηθική ευθύνη για την αποτυχία πολύπλοκων αλγοριθμικών συστημάτων. Όπως η ζώνη παραμόρφωσης ενός αυτοκινήτου απορροφά την ενέργεια μιας σύγκρουσης για να προστατεύσει τους επιβάτες, έτσι και ο οδηγός λειτουργεί ως ο «απορροφητήρας» της νομικής ευθύνης, προστατεύοντας την εταιρεία που κατασκεύασε το λογισμικό.
- Η πολυπλοκότητα του κώδικα καθιστά δύσκολη την απόδειξη συστημικού σφάλματος στο δικαστήριο.
- Οι όροι χρήσης της Tesla μεταθέτουν ρητά όλη την ευθύνη στον χρήστη.
- Οι ρυθμιστικές αρχές, όπως η NHTSA, καθυστερούν να επιβάλουν αυστηρά πρότυπα για την ονομασία και τη λειτουργία αυτών των συστημάτων.
Το δυστύχημα στο Τέξας είναι ιδιαίτερα σοκαριστικό γιατί το θύμα δεν βρισκόταν καν στον δρόμο. Η παραβίαση του ιδιωτικού ασύλου από ένα «έξυπνο» όχημα υπογραμμίζει τους κινδύνους που ενέχει η δοκιμή ημιτελών τεχνολογιών σε δημόσιους χώρους. Δεν πρόκειται πλέον για την ασφάλεια των οδηγών, αλλά για την ασφάλεια της κοινωνίας συνολικά.
Νομικό Προηγούμενο και Μελλοντικές Επιπτώσεις
Αυτή η υπόθεση αναμένεται να αποτελέσει δικαστικό προηγούμενο. Εάν ο Butler καταδικαστεί, θα εδραιωθεί η άποψη ότι ο οδηγός παραμένει ο μόνος υπόλογος, ανεξάρτητα από το πόσο παραπλανητικό μπορεί να είναι το μάρκετινγκ μιας εταιρείας. Αντίθετα, εάν η υπεράσπιση καταφέρει να αποδείξει ότι το FSD λειτούργησε με τρόπο που ένας λογικός άνθρωπος δεν θα μπορούσε να προβλέψει ή να διορθώσει εγκαίρως, τότε η Tesla ίσως βρεθεί αντιμέτωπη με αστικές και ποινικές ευθύνες που θα μπορούσαν να αλλάξουν το μέλλον της αυτόνομης οδήγησης.
Η ανάγκη για διαφάνεια στα δεδομένα (telemetry) είναι επιτακτική. Οι αρχές πρέπει να έχουν πρόσβαση στα δεδομένα του οχήματος χωρίς να εξαρτώνται αποκλειστικά από την ερμηνεία της κατασκευάστριας εταιρείας. Μόνο έτσι μπορεί να αποδοθεί δικαιοσύνη σε μια εποχή όπου τα όρια μεταξύ ανθρώπινης και μηχανικής δράσης γίνονται όλο και πιο δυσδιάκριτα.
