Ποιον θα έπρεπε να σκοτώσει ο οδηγός-ρομπότ;

οδηγός ρομπότ

Τα ρομπότ ήδη κυριαρχούν στον κόσμο. Το ότι δεν το έχουμε συνειδητοποιήσει πλήρως ακόμα, οφείλεται στο ότι αυτό δεν συντελέστηκε με τον τρόπο που περιέγραψε το 1950 ο Ισαάκ Ασίμωφ στο γνωστό μυθιστόρημα του “Εγώ, το Ρομπότ”. Μπορεί οι δρόμοι των πόλεων να μην είναι γεμάτοι από ανθρωποειδή ρομπότ, όμως ήδη τα ρομπότ έχουν κάνει μεγάλη πρόοδο και εκτελούν πολλές εργασίες. Μια εφαρμογή που πρόκειται να υλοποιηθεί σύντομα είναι τα αυτόνομα αυτοκίνητα χωρίς οδηγό. Ακόμα κι αν δεν ελέγχεται η οδήγηση από ανθρωποειδή ρομπότ, εντούτοις θα ελέγχεται από λογισμικό, κάτι που εγείρει πολλά ηθικά ζητήματα.

Για παράδειγμα ένα από αυτά είναι το εξής: Πριν από μία αναπόφευκτη σύγκρουση, θα πρέπει το λογισμικό του αυτοκινήτου να επιλέγει να δράσει με τέτοιο τρόπο, ώστε να σκοτωθεί ο επιβάτης του αυτοκινήτου, και όχι κάποιος άλλος άνθρωπος ;

Σκεφτείτε το εξής πείραμα σκέψης: Ταξιδεύετε σ’ ένα αυτόνομο αυτοκίνητο κατά μήκος ενός επαρχιακού δρόμου μονής λωρίδας και έχετε μπει σ’ ένα στενό τούνελ. Λίγο πριν την έξοδο του τούνελ, ένα παιδί ξεκινάει να διασχίσει το δρόμο, εμποδίζοντας έτσι  την έξοδο σας από το τούνελ. Το αυτοκίνητο έχει πια μόνο δύο επιλογές: να χτυπήσει και να σκοτώσει το παιδί, ή να κάνει μια στραβοτιμονιά και να ρίξει το αυτοκίνητο στο τοίχο, σκοτώνοντας έτσι εσας και όχι το παιδί.

robot-driver-trolley-ethics

Και οι δύο ενέργειες είναι βέβαιο ότι θα οδηγήσουν σε κάτι κακό, και από ηθική σκοπιά, δεν υπάρχει σωστή” απάντηση σε αυτό το δίλημμα. Το πρόβλημα του τούνελ χρησιμεύει ως ένα καλό εργαλείο προβληματισμού, ακριβώς επειδή είναι δύσκολο να απαντηθεί. Επιπλέον, επισημαίνει όσο αφορά τον επικείμενο σχεδιασμό του λογισμικού, προκλήσεις που πρέπει να αντιμετωπιστούν, δεδομένου ότι θέτει το εξής ερώτημα: πώς θα πρέπει να προγραμματιστούν τα αυτόνομα αυτοκίνητα ώστε να αντιδρούν με τον βέλτιστο τρόπο σε δύσκολες ηθικές καταστάσεις;

Ωστόσο, ένα ακόμα πιο ενδιαφέρον ερώτημα είναι: ποιος πρέπει να αποφασίζει πώς θα αντιδράει το αυτοκίνητο σε δύσκολες ηθικές καταστάσεις;

Αυτή η δεύτερη ερώτηση στρέφεται προς τους χρήστες, προγραμματιστές αλλά και νομικούς, και θέτει τον προβληματισμό, ποιος έχει το νόμιμο ηθικό κύρος να λάβει τις σχετικές αποφάσεις.

Με μια πρώτη ματιά, αυτό το δεύτερο ερώτημα φαίνεται περίεργο. Η αυθόρμητη απάντηση είναι ότι αυτό είναι  δουλειά των σχεδιαστών λογισμικού ώστε να προγραμματίσουν το αυτοκίνητο να αντιδράει με τον ένα ή τον άλλο τρόπο. Αλλά είναι έτσι;

Όμως από την πλευρά του οδηγού, το πρόβλημα του τούνελ είναι κάτι πολύ περισσότερο από ένα πολύπλοκο θέμα σχεδιασμού του λογισμικού. Είναι ουσιαστικά μια απόφαση ζωής και θανάτου. Το πρόβλημα του τούνελ θέτει βαθιά ηθικά ζητήματα που εμπλέκουν άμεσα τον οδηγό.

ρομποτ οδηγός. Ποιος αποφασίζει ?

Αν αφεθεί η αντιμετώπιση αυτού του διλήμματος στους σχεδιαστές λογισμικού, είναι σαν να αποδεχόμαστε ότι υπάρχει μία «σωστή» απάντηση που μπορεί να επιλέγεται και να εφαρμόζεται σε κάθε παρόμοια περίπτωση. Στην πραγματικότητα δεν υπάρχει. Είναι πάντα η βέλτιστη επιλογή για το αυτοκίνητο να χτυπήσει το παιδί; Είναι μήπως πάντα η βέλτιστη επιλογή για το αυτοκίνητο να θυσιάσει τον οδηγό; Αν ψάχνουμε για μια λύση που ταιριάζει σε όλες τις περιπτώσεις, αυτή μπορεί να βρεθεί μόνο με αυθαίρετο τρόπο.

Η καλύτερη επιλογή είναι να διερευνήσουμε άλλα αντίστοιχα παραδείγματα λήψης πολύπλοκων αποφάσεων σχετικά με ηθικά προβλήματα.

Για παράδειγμα οι  γιατροί και οι νοσηλευτές έρχονται συχνά αντιμέτωποι με αποφάσεις ζωής ή θανάτου. Σύμφωνα με την ιατρική δεοντολογία, αφήνεται στο άτομο για το οποίο το ζήτημα έχει άμεσες επιπτώσεις να αποφασίσει ποια έκβαση είναι η προτιμότερη. Για παράδειγμα, όταν υπάρχει διάγνωση καρκίνου, , εναπόκειται στον ασθενή να αποφασίσει αν πρέπει ή όχι να υποβληθεί σε χημειοθεραπεία. Ο επαγγελματίες στο χώρο της υγείας εκπαιδεύονται να σέβονται την αυτονομία των ασθενών.

Η προσφυγή στην προσωπική αυτονομία είναι διαισθητική. Γιατί άραγε σε συνθήκες οδήγησης θα δεχόταν κάποιος να αφήσει κάποιον άλλο να αποφασίσει για λογαριασμό του για βαθιά προσωπικά ηθικά ζητήματα, όταν μάλιστα αισθάνεται ικανός να αποφασίσει από μόνος του; Αν τελικά επιτρέψουμε στους σχεδιαστές λογισμικού να επιλέξουν πώς ένα αυτοκίνητο θα αντιδράει σε καταστάσεις όπως στο πρόβλημα του τούνελ, τότε τα αυτοκίνητα δεν πρόκειται να σέβονται τις αυτόνομες προτιμήσεις των οδηγών.

Τα ερωτήματα είναι πολλά και καθίσταται σαφές ότι με τα αυτόνομα αυτοκίνητα θα ανακύψουν βαθιά προσωπικά ηθικά ζητήματα που όμως θα πρέπει να απαντηθούν.

Εσείς τι λέτε; Θα έπρεπε το αυτοκίνητο να αποφασίσει να σκοτωθεί το παιδί και όχι εσείς ;


______

by Αντικλείδι , http://antikleidi.com

Συναφές: 

Θα σκοτώνατε έναν άνθρωπο για να σώσετε πέντε ;

Δύο διλήμματα

Ρομπότ για δουλειά και παιχνίδι

7 CommentsLeave a comment

  • Ένας από τα σοβαρότερα είδη εξάρτησης υποδούλωσης, καταπίεσης και ανελευθερίας είναι να αποφασίζουν άλλοι για μένα χωρίς την παραμικρή δυνατότητα δικής μου παρέμβασης ή διαφωνίας. Όσο πιο σοβαρά είναι τα θέματα και όσο πιο απαρέγκλιτα συμβαίνει αυτό, τόσο μεγαλύτερη η καταπίεση κι η ανελευθερία. Προσωπικά ο καθένας μας μπορεί να αποφασίσει, έστω και διαισθητικά, αν πρέπει να κάνει αυτό ή το άλλο. Μπορεί να είναι λάθος η τελική επιλογή του, και μάλιστα να στοιχίσει ζωή συνανθρώπου. Όμως την ηθική ευθύνη την έχει ακέραια ο φταίχτης. Είναι στο χέρι του να την διαχειριστεί. Αν όμως αποφασίζει άλλος για μένα, τότε η πιθανή λάθος επιλογή κατά το δικό μου αξιακό σύστημα, με κάνει να νιώθω διπλά υπεύθυνος: μία ευθύνη για το κακό αποτέλεσμα (π.χ. θάνατος), κι άλλη μία που δέχτηκα να εκχωρίσω την ανεξαρτησία επιλογών μου σε άλλους και μάλιστα άγνωστους κι ανώνυμους “διαμορφωτές ηθικού δικαίου”. Όταν σε βλάψω, μπορώ να διαχειριστώ τη συγγνώμη μου, τη μεταμέλειά μου ακόμη και την αποκατάσταση της βλάβης, αναλόγως το ψυχοπνευματικό μου επίπεδο. Εν δυνάμει μπορώ. Όμως όταν γίνομαι ο φυσικός αυτουργός μιας πράξης της οποίας ο ηθικός αυτουργός είναι άλλος, αυτό είναι μη διαχειρίσιμο πνευματικά: τείνω α) ή να δικαιολογηθώ ότι ΔΕΝ φταίω αφού δεν αποφάσισα, τάχα, εγώ, κάνοντας χειρότερο κακό ψυχικά στους άλλους που υπέστησαν το κακό, ή β) να πέσω σε βαθιά κατάθλιψη επειδή αναγνωρίζω το ατόπημα της εκχώρησης της ελευθερίας μου, που οδήγησε σε επιλογή αντίθετη με τις αξίες μου, κάνοντας όμως έτσι μεγάλο κακό στον εαυτό μου.

  • Με το σκεπτικό αυτό, θεωρώ ότι 1) ή δεν πρέπει καθόλου να προχωρήσει αυτή η ιδέα, αλλά να σταματήσει τώρα, σε περιπτώσεις όπου δεν πρόκειται για μια απλή μηχανιστική διεκπεραίωση από το ρομπότ, αλλά εμπλέκονται και ζητήματα ελεύθερη επιλογής, ή β) να προβλεφθεί η δυνατότητα παύσης του ρομπότ όταν ο άνθρωπος κρίνει. Δεν γνωρίζω περίπτωση αεροπλάνου που να απογειώθηκε και να προσγειώθηκε με τον αυτόματο πιλότο. Και εν πτήσει, απ’ όσο ξέρω, με ένα κουμπάκι απενεργοποιείταικατά την κρίση του κυβερνήτη. Τί διαφορετικό ισχύει για τα άλλα οχήματα. Τίποτα, νομίζω. Εξάλλου, δεν θέλω καν να σκέφτομαι πόσα περισσότερα θα ήταν ίσως τα θύματα και οι παράπλευρες απώλειες από αναγκαστικές προσγειώσεις, προβληματικές απογειώσεις, κ.τ.λ. αν τις εκτελούσε ο αυτόματος πιλότος. Ο άνθρωπος έχει ανθρωπιά, σκέφτεται κι αποφασίσει συχνά με μη μετρήσιμο τρόπο, Γι’ αυτό και έχουν υπάρξει πολλοί πιλότοι που με ηρωικές επιλογές έσωσαν ζωές. Το ρομπότ τί έχει; Ρομποτιά! Το ρίχνει όπου το λογισμικό του αποφασίσει με βάση καθαρά μετρήριμα κριτήρια.

    • Επέτρεψε μου να σου πω ότι προτιμώ τη ρομποτιά από την ανθρωπιά.
      Οι άνθρωποι έχουν κάνει τα χειρότερα εγκλήματα, δεν λειτουργούν με βάση τη λογική, και τις περισσότερες φορές για να σώσουν τον εαυτό τους επιλέγουν να πουλήσουν τη ψυχή στους στο διάολο.
      Ακόμα και τώρα στην κρίση, ο καθένας κοιτάει πως θα σώσει το τομάρι του, φαντάσου πως θα σκεφτεί όταν έχει να λάβει αποφάσεις ζωής και θανάτου που αφορούν τον ίδιο.
      Στη μεγάλη πλειοψηφία των περιπτώσεων, μαθηματικά και αλγόριθμοι, θα βγάλουν πιο ορθολογική και αντικειμενικά σωστή απόφαση.

  • Αν θέλουμε να είμαστε ειλικρινείς, κανείς δεν θα επιλέξει να σκοτωθεί ο ίδιος για να σωθεί το παιδί …

    • Όμως θα πρέπει να αναλογιστούν, ότι σε μία παρόμοια κατάσταση μπορεί να βρεθεί και το δικό τους παιδί …

  • Σε ενα στενο τουνελ,πετάγεται ενα παιδι…;λιγο απιθανο.Παρολα αυτα το σωστο θα ειναι να μπει αυτοματα σε χαμηλη ταχύτητα. Οποτε υπαρχει λυση. Οσο για το αν θα πρεπει να υπαρχει αυτο το εξυπνο αυτοματο συστημα;; Ολα χαλανε και βραχυκυκλωνουν, οπως κ ο ανθρωπινος νους. Το οτι υπαρχουν ασυνειδητοι ανθρωποι ειναι αλλο θεμα και ο αυτοματισμος δεν θα αλλαξει κατι οταν οι εντολες ρυθμιζονται ανθρωπινα!