Ποιoν θέλεις να σκοτώσει το αυτόματο αυτοκίνητό σου;

 

Tου Άρη Χατζηστεφάνου

Θα αγοράζατε ένα αυτοκίνητο που έχει προγραμματιστεί να σας σκοτώσει αν πρέπει να σώσει δύο ή περισσότερους πεζούς; Το φαινομενικά υποθετικό αυτό ερώτημα απασχολεί τα τελευταία χρόνια κυβερνήσεις, φιλοσόφους και αυτοκινητο­βιομηχανίες σε όλο τον κόσμο. Και απάντηση δεν βρίσκουν…

Τα αυτόνομα αυτοκίνητα δεν έχουν αυτογνωσία. Δουλειά τους είναι να οδηγούν, όχι να σκέφτονται

Ερικ Σμιτ – πρώην CEO της Google

Το έτος 2030 κινείστε σε έναν ορεινό επαρχιακό δρόμο με το αυτόνομο αυτοκίνητό σας -χωρίς οδηγό- όταν πετάγονται στον δρόμο τρία παιδάκια. Σε δέκατα του δευτερολέπτου το σύστημα ελέγχου του αυτοκινήτου πρέπει να αποφασίσει αν θα στρίψει απότομα οδηγώντας σας σε βέβαιο θάνατο ή θα κινηθεί ευθεία σκοτώνοντας τα παιδιά.

Η απόφασή του θα εξαρτηθεί από έναν αλγόριθμο που έχει δημιουργήσει η κατασκευάστρια εταιρεία και ο οποίος θα πρέπει να συνυπολογίσει τα οφέλη και τις απώλειες σε υλικές ζημιές και ανθρώπινες ζωές.

Το πρόβλημα που αντιμετωπίζουν οι προγραμματιστές του συγκεκριμένου αλγόριθμου απασχολεί εδώ και δεκαετίες την Ηθική. Ουσιαστικά αποτελεί μια ακόμη παραλλαγή του περίφημου «προβλήματος του τραμ» που διατυπώθηκε τη δεκαετία του ’60: ένα τραμ κινείται εκτός ελέγχου σε μια σιδηροτροχιά όπου βρίσκονται δεμένα πέντε άτομα.

Ενας εξωτερικός παρατηρητής μπορεί να αλλάξει τη σύνδεση των γραμμών σε μια διασταύρωση ώστε το τραμ να περάσει σε άλλη γραμμή. Εκεί όμως θα σκοτώσει έναν ανυποψίαστο εργάτη που πραγματοποιεί εργασίες συντήρησης.

Ερευνες απέδειξαν ότι το 90% των ερωτηθέντων υποστηρίζει ότι ο παρατηρητής πρέπει να θυσιάσει τον εργάτη προκειμένου να σώσει τα πέντε άτομα.

Σε μια πιο σύνθετη παραλλαγή του προβλήματος, που παρουσίασε η Αμερικανίδα φιλόσοφος Τζούντιθ Τζάρβις Τόμσον, ο εξωτερικός παρατηρητής μπορεί να σώσει τα πέντε άτομα μόνο αν σπρώξει στις γραμμές ένα βαρύ αντικείμενο. Και το μόνο που του βρίσκεται είναι ένας χοντρός κύριος που στέκεται δίπλα του.

Θα αναλάβει όμως να σκοτώσει έναν άνθρωπο με τα ίδια του τα χέρια για να σώσει πέντε άλλους; Και πώς θα επηρεάσει την απόφασή του το αν γνωρίζει προσωπικά τον χοντρό κύριο, αν αυτός είναι καλός άνθρωπος ή αν είναι ο δράστης που έδεσ2ε τα πέντε άτομα στις ράγες;
Η Τόμσον παρουσίασε και μια ακόμη πιο ακραία εκδοχή (χωρίς τραμ) στην οποία ένας γιατρός έχει πέντε ετοιμοθάνατους ασθενείς που χρειάζονται μεταμοσχεύσεις οργάνων.

Οταν χτυπά την πόρτα του ένας άγνωστος στην περιοχή τουρίστας (που συμπτωματικά είναι συμβατός δότης για όλους τους ασθενείς) ο γιατρός αναρωτιέται εάν θα έπρεπε να τον σκοτώσει για να σώσει τους πέντε ασθενείς του.

Οσο πιο σύνθετο είναι το «πρόβλημα του τραμ» τόσο πιο ξεκάθαρο γίνεται ότι δεν υπάρχουν προκαθορισμένες ηθικές απαντήσεις – άλλωστε η ίδια η ηθική, όπως μας δίδασκε και ο Λένιν, μεταβάλλεται από κοινωνία σε κοινωνία και από εποχή σε εποχή όταν αλλάζουν οι κοινωνικές συνθήκες και εν τέλει οι παραγωγικές σχέσεις.

Εχουν όμως αυτά κάποια σχέση με τα νέα αυτοκίνητα χωρίς οδηγό ή μήπως αποτελούν νοητικές ασκήσεις για να κρατάμε απασχολημένους τους φιλοσόφους μας;

Στην περίπτωση του αυτοκινήτου, όπως είπαμε, το ερώτημα είναι ποιος θα καθορίσει τον αλγόριθμο. Δηλαδή σε ποιον θα δώσουμε την εξουσία να αποφασίζει ποιος ζει και ποιος πεθαίνει.

Αν λόγου χάρη αποφασίζει μια ασφαλιστική εταιρεία, θα προτιμά να προκαλεί δυστυχήματα με το μικρότερο οικονομικό κόστος. Αντίθετα μια αυτοκινητοβιομηχανία θα έχει στόχο να προστατεύσει τους επιβάτες του οχήματος και όχι τους πεζούς ή τους άλλους οδηγούς.

Διαφορετικά κανείς δεν θα αγοράσει ένα αυτοκίνητο εάν γνωρίζει εκ των προτέρων ότι ενδέχεται να τον «θυσιάσει» προς όφελος του κοινωνικού συνόλου.

Σχετικές έρευνες μάλιστα έδειξαν ότι οι ίδιοι άνθρωποι που απαντούσαν ότι είναι καλύτερο να σκοτωθεί ένα άτομο αντί για πέντε δήλωναν ότι δεν θα αγόραζαν ένα αυτοκίνητο που θα λάμβανε αυτήν την απόφαση.

Είναι επίσης αφελές να πιστεύει κανείς ότι η νέα τεχνολογία θα φέρει την ισότητα σε ένα σύστημα που τρέφεται από τις ανισότητες και πως οι πλούσιοι οδηγοί δεν θα έχουν ένα τρόπο να παρακάμπτουν έναν αλγόριθμο που μπορεί να τους σκοτώσει. Αφήνοντας λοιπόν την απόφαση στις δυνάμεις της αγοράς είναι πιθανότερο να θρηνούμε περισσότερα θύματα.

Θεωρητικά τον τελικό λόγο θα πρέπει να έχει κάποια κρατική αρχή η οποία θα προτιμήσει την επιλογή με τα λιγότερα θύματα. Αυτό βέβαια προϋποθέτει ότι το κράτος αντιμετωπίζει τους πολίτες του ισότιμα και αποδίδει την ίδια αξία σε κάθε ανθρώπινη ζωή – γεγονός που όπως εμπειρικά γνωρίζουμε δεν ισχύει σχεδόν σε καμία περίπτωση.

Το σημαντικότερο βέβαια πρόβλημα, θα υποστηρίξουν ορισμένοι, είναι ότι από τη στιγμή που και το κράτος δεν είναι παρά ένα εργαλείο που διασφαλίζει την κυριαρχία της εκάστοτε οικονομικής ελίτ είναι πολύ πιθανότερο να υποκύψει στα αιτήματα των ισχυρότερων λόμπι του χώρου.

Πριν τους κατηγορήσουμε συλλήβδην για συνωμοσιολογία να θυμηθούμε ότι ο πρώην επικεφαλής στρατηγικού σχεδιασμού του Ομπάμα, Ντέιβιντ Πλουφ, μεταπήδησε στην εταιρεία Uber, όταν αυτή αντιμετώπιζε προβλήματα με τις αμερικανικές αρχές για τους κανόνες που διέπουν τις υπηρεσίες της.

Σήμερα η Uber πρωτοστατεί μαζί με την Google στις έρευνες για τα αυτοκίνητα χωρίς οδηγό και σύντομα θα χρειαστεί ανθρώπους που ξέρουν πώς να κινούν τα νήματα στους διαδρόμους της Ουάσινγκτον.

Η τεχνολογία είναι λοιπόν και πάλι εδώ για να κάνει τη ζωή μας ευκολότερη και ασφαλέστερη. Το θέμα είναι με ποιον θα μοιραζόμαστε τα κλειδιά του νέου μας «ΙΧ» αυτοκινήτου.

Επισκεφτείτε

moralmachine.mit.edu

Διαδικτυακή πλατφόρμα από το Τεχνολογικό Ινστιτούτο Μασαχουσέτης στην οποία ο χρήστης αποφασίζει ποιους πρέπει να σκοτώσει σε ένα δυστύχημα, σταθμίζοντας τον αριθμό των θυμάτων, το αν είναι γέροι ή νέοι, γυναίκες και παιδιά, εγκληματίες, ζώα κ.ο.κ.

efsyn

Σας άρεσε αυτό το άρθρο;

Γίνεται ο πρώτος που θα σχολιάσει στο άρθρο "Ποιoν θέλεις να σκοτώσει το αυτόματο αυτοκίνητό σου;"

Αφήστε ένα σχόλιο

Το email σας δεν θα δημοσιευθεί.


*


Scroll Up