Συχνά σε μια συζήτηση για μελλοντικά γενόμενα συνηθίζουμε να λέμε “έλα μωρέ ποιος ζει, ποιος πεθαίνει, μέχρι να γίνει αυτό”. Όμως, σε κάποιες περιπτώσεις, η στάση αυτή πηγάζει από την άγνοια μας ότι το “αυτό” έχει συμβεί ήδη.

Σε δημοσίευμα του, ο Φαίδωνας Καραϊωσηφιδης, Αεροναυπηγός και εκδότης – διευθυντής του περιοδικού ΠΤΗΣΗ & Διάστημα, γράφει σχετικά με τα πρόσφατα αεροπορικά δυστυχήματα που είχαν σαν κοινό στοιχείο τον ίδιο τύπου αεροσκάφους “Οι πιλότοι της πτήσης JT610 (Lion Air – Boeing 737 MAX), δεν αντιλήφθηκαν το πρόβλημα του αισθητήρα που προκαλούσε την αναίτια ενεργοποίηση του Manoeuvring Control Augmentation System (MCAS), αλλά εξέλαβαν τη λειτουργία του τελευταίου ως βλάβη του ουραίου σταθεροποιητικού και προσπάθησαν να την αντιμετωπίσουν. Για αρκετά λεπτά στη συνέχεια το πλήρωμα αντιπάλευε το MCAS.”

Δηλαδή, μέχρι να πέσει το αεροπλάνο, με αποτέλεσμα το θάνατο 189 ατόμων, άνθρωπος και “αυτόματος πιλότος” βρίσκονταν σε μια σύγκρουση επιλογών. Μπορούμε λοιπόν να υποθέσουμε ότι αν η πρώτη κίνηση των πιλότων ήταν να απενεργοποιήσουν το αυτόματο σύστημα, είναι πιθανό το δυστύχημα να είχε αποφευχθεί. Λίγους μήνες αργότερα, ένα δεύτερο αεροσκάφος Boeing 737 MAX των Αιθιοπικών αερογραμμών, συνετρίβη, με αποτέλεσμα το θάνατο 157 ατόμων. Αρχικά, η FAA, δε ζήτησε τη διακοπή πτήσεων του συγκεκριμένου τύπου αεροπλάνου, ενώ οι αρχές όλων των άλλων χωρών είχαν δώσει τη σχετική εντολή. Τελικά όμως και η FAA προχώρησε στην ίδια απόφαση, καθώς η ανάλυση δορυφορικών δεδομένων έδειξε ότι είναι πιθανό, η μεγαλύτερη ευθύνη για τη συντριβή να μην οφείλεται σε ανθρώπινο λάθος, όπως συνέβη με την πτήση της Lion Air, αλλά η αιτία να είναι το ίδιο το MCAS.

Η σύνδεση αυτοματισμών με συστήματα δράσης είναι κάτι συνηθισμένο στη βιομηχανία και γενικά λειτουργεί αποτελεσματικά. Ένα ψηφιακό μάτι για παράδειγμα βλέπει τα ελαττωματικά μπουκάλια και δίνει εντολή σε ένα ρομποτικό βραχίονα να τα αφαιρέσει από τον ταινιόδρομο. Όταν όμως η επιλογή των αυτοματισμών είναι πιθανό να προκαλέσει απώλεια ανθρώπινων ζωών, τα πράγματα αλλάζουν. Με τη βοήθεια του Internet, ο προβληματισμός του “έξυπνου” αυτοκινήτου έχει γίνει πλέον γνωστός σε αρκετό κόσμο. Ο προβληματισμός είναι ο εξής: Ένα “έξυπνο” αυτοκίνητο βλέπει έναν πεζό να βγαίνει ξαφνικά στο δρόμο και έχει δύο επιλογές ή να τον χτυπήσει ή να κάνει έναν ελιγμό που μπορεί να βάλει σε κίνδυνο τη ζωή του ιδιοκτήτη του. Πρακτικά, τις ίδιες δύο επιλογές θα είχε και ο “έξυπνος” άνθρωπος αν βρίσκονταν σε μια τέτοια κατάσταση. Ωστόσο, υπάρχει μια σημαντική διαφορά. Αν ο άνθρωπος χτυπήσει τον πεζό, για να σώσει τον εαυτό του, υπάρχει το νομικό σύστημα της κάθε χώρας που θα κρίνει το “σωστό” και το “λάθος”. Προσωρινά όμως δεν υπάρχει κανένα νομικό σύστημα που μπορεί να κρίνει το “έξυπνο” αυτοκίνητο. Ας υποθέσουμε όμως ότι τελικά, η ανθρώπινη νόηση καταφέρνει να δημιουργήσει ένα νομικό σύστημα που δίνει λύσεις σε αυτές τις καταστάσεις. Σε ένα τέτοιο ενδεχόμενο, οι αυτοκινητοβιομηχανίες δεν θα έχουν πλέον κανέναν ενδοιασμό να παράγουν “έξυπνᔨαυτοκίνητα και να τα διαθέσουν στην αγορά, αναδεικνύοντας τα οφέλη που αυτά θα προσφέρουν.

Ας φανταστούμε ότι είμαστε στο τιμόνι ενός τέτοιου αυτοκινήτου, και καθώς κάνουμε τη βόλτα μας, βγαίνει ξαφνικά στο δρόμο ένας πεζός και το αυτοκίνητο τον χτυπάει, σκοτώνοντας τον ή αφήνοντάς τον ανάπηρο. Το αυτοκίνητο πηγαίνει στο δικαστήριο, κρίνεται αθώο ή ένοχο και αναλόγως συνεχίζει να κυκλοφορεί στο δρόμο ή καταλήγει σε έναν καταστροφέα αυτοκινήτων (ούτε καν αυτό, μόνο ο εγκέφαλος του θα χρειαστεί να αλλαχθεί). Εμείς πως νιώθουμε για αυτό που συνέβη; Θα αποδεχτούμε ότι ήταν η άτυχη στιγμή για τον πεζό; ή ότι το αυτοκίνητο έκανε λάθος επιλογή και τον έστειλε στον άλλο κόσμο; ή θα θεωρήσουμε ότι αν είχαμε κάνει εμείς την επιλογή, ίσως αυτή να ήταν διαφορετική και επίσης διαφορετικό το αποτέλεσμα;