Οι αλγόριθμοι και γιατί χρειάζονται περισσότερο κοινωνικό έλεγχο

Οι αλγόριθμοι έχουν εισβάλει αθόρυβα στο λεξιλόγιο των ανθρώπων και – το κυριότερο – στις ζωές τους. Αλλά οι περισσότεροι άνθρωποι μάλλον δεν το έχουν συνειδητοποιήσει ακόμη. Και αυτό δεν είναι καλό για μια κοινωνία.

Ένας αλγόριθμος είναι μια σειρά εντολών και ενεργειών με τις οποίες ένας υπολογιστής λύνει ένα πρόβλημα ή επιτυγχάνει ένα επιθυμητό αποτέλεσμα. Και δεν εννοούμε μόνο μαθηματικά προβλήματα, καθώς το οτιδήποτε στη ζωή μπορεί να θεωρηθεί πρόβλημα.

Στην αναδυόμενη εποχή της τεχνητής νοημοσύνης, υπάρχει πλέον μια «έκρηξη» ολοένα πιο πολύπλοκων αλγόριθμων, που προσπαθούν να εξομοιώσουν όσο γίνεται περισσότερο την ανθρώπινη σκέψη – με τα καλά και τα κακά της – και, ανάμεσα στα άλλα, να κάνουν προβλέψεις. Από το τι θα θέλαμε να αγοράσουμε, έως το τι ψηφίζουμε, ποιό είναι το φύλο μας ή ο σεξουαλικός προσανατολισμός μας και ποιος είναι ο χαρακτήρας και η προσωπικότητά μας.

Αλλά αυτό, αντί για την επίλυση ενός προβλήματος, μπορεί να αποδειχθεί προβληματικό το ίδιο, επειδή ο αλγόριθμος επιχειρεί να προβλέψει τη μελλοντική συμπεριφορά μας μόνο με βάση αυτά που έχει μάθει για μας (συχνά χωρίς τη συγκατάθεσή μας), ιδίως μέσω του διαδικτύου και των διαφόρων βάσεων δεδομένων. Μέσα από αυτές τις προβλέψεις τους, οι αλγόριθμοί – που εμείς φτιάξαμε – «φτιάχνουν» εμάς και εμείς σπάνια έχουμε επίγνωση γι’ αυτή την επίδραση πάνω μας.

Πίσω από αναρίθμητα πράγματα στο σύγχρονο ψηφιακό κόσμο, από τις αναζητήσεις της Google έως τα ηλεκτρονικά ψώνια στο Amazon και τις σελίδες του Facebook, βρίσκονται κρυμμένοι άγρυπνοι αλγόριθμοι, που καταγράφουν την ανθρώπινη συμπεριφορά και την επηρεάζουν όλο και περισσότερο. Αν η διαδικτυακή αναζήτησή σας στη Google για παπούτσια ή κινηματογραφικές ταινίες φέρνει τα επιθυμητά αποτελέσματα μέσα σε κλάσματα του δευτερολέπτου και αν το Facebook «ξέρει» τι περιεχόμενο προτιμάτε να δείτε ή το Amazon τι προτιμάτε να αγοράσετε, αυτό οφείλεται στους πανταχού παρόντες αλγόριθμούς τους.

Ένα δώρο από την Περσία

Αν και ετυμολογικά η λέξη «αλγόριθμος» παραπέμπει στην άλγεβρα και στον πέρση «πατέρα» της αλ – Χουαρίζμι, στη Βαγδάτη του 9ου αιώνα, σήμερα οι αλγόριθμοι έχουν ξεφύγει πια από την επικράτεια των μαθηματικών και αποτελούν βασική ενασχόληση των ειδικών των υπολογιστών και των προγραμματιστών. Οι «εγκέφαλοι» του λογισμικού είναι αλγόριθμοι και, αφού το λογισμικό «τρυπώνει» παντού, ιδίως στην εποχή του διαδικτύου, οι αλγόριθμοι εισβάλλουν και αυτοί παντού.

Σε τομείς όπως ο χρηματοοικονομικός – τραπεζικός – χρηματιστηριακός οι αλγόριθμοι «βασιλεύουν» και παίρνουν κρίσιμες αποφάσεις μόνοι τους μέσα σε χιλιοστά του δευτερολέπτου, μετακινώντας τεράστια χρηματικά ποσά από τη μία στην άλλη άκρη του πλανήτη – με όποιες επιπτώσεις μπορεί να έχει αυτό σε οικονομίες και ανθρώπους, που εκτίθενται σε απρόβλεπτες διακυμάνσεις κερδοσκοπικού χαρακτήρα.

Οι αστυνομίες όλο και συχνότερα χρησιμοποιούν αλγόριθμους για να προβλέψουν πού θα συμβεί κάποια εγκληματική πράξη και οι μυστικές υπηρεσίες χρησιμοποιούν κατά κόρον τους αλγόριθμους για να παρακολουθούν μαζικά όποιους θεωρούν ύποπτους για τρομοκρατία ή εχθρούς του κράτους. Οι δορυφόροι και τα διαστημόπλοια πετούν χάρη στους αλγόριθμούς τους, ενώ τα ρομπότ θα ήσαν χαζές μηχανές χωρίς τους δικούς τους αλγόριθμους. Τα αυτόνομα αυτοκίνητα χωρίς οδηγό, που θα κυκλοφορούν στους δρόμους στο όχι μακρινό μέλλον, στην ουσία οδηγούνται από αλγόριθμους.

Οι ιατρικοί αλγόριθμοι έχουν αρχίσει να κάνουν διαγνώσεις ασθενειών (π.χ.του καρκίνου του δέρματος) εξίσου καλά με τους γιατρούς, αν όχι καλύτερα. Στις επιχειρήσεις οι αλγόριθμοί κρίνουν ποιος από τους υποψήφιους θα πάρει την κενή θέση εργασίας και ποιος εργαζόμενος θα πρέπει να απολυθεί. Ενώ με τη βοήθεια αλγόριθμων οι ασφαλιστικές εταιρείες αποφασίζουν αν θα ασφαλίσουν κάποιον ή κάτι και με ποιό κόστος.

Στα δικαστήρια οι δικαστές έχουν πια βοήθεια από τους αλγόριθμους για τις αποφάσεις τους και στα καλλιστεία χρησιμοποιήθηκαν οι πρώτοι αλγόριθμοι για να βαθμολογήσουν τις ωραίες. Όσο για τα μέσα ενημέρωσης, οι αλγόριθμοι έχουν αρχίσει να γράφουν άρθρα (όχι ακόμη τόσο καλό πάντως, όσο αυτό που διαβάζετε τώρα!).

Οι κίνδυνοι των αλγόριθμων

Βασική δουλειά των αλγόριθμων είναι να «φιλτράρουν» τον τεράστιο όγκο πληροφοριών, πράγμα χρήσιμο αναμφισβήτητα. Αλλά εδώ επίσης κρύβεται ένας κίνδυνος: οι άνθρωποι σταδιακά ζουν σε ψηφιακά σύμπαντα που οι αλγόριθμοι έχουν δημιουργήσει για τη διευκόλυνση της ζωής μας. Αλλά το τίμημα είναι ότι έτσι περιορίζεται η οπτική γωνία των ανθρώπων, οι πεποιθήσεις τους «στενεύουν», οι υπάρχουσες απόψεις τους απλώς αυτοτροφοδοτούνται από την ηχώ τους, που αντανακλάται στους αόρατους τοίχους της ψηφιακής «φυλακής» τους.

Συχνά οι αλγόριθμοι, όπως αυτοί του Facebook ή του Twitter, δεν μπορούν να διακρίνουν την αλήθεια από το ψέμα, καθώς κρίνουν με βάση πόσο δημοφιλής είναι μια πληροφορία (ή μάλλον παραπληροφόρηση) που διαδίδεται στα μέσα κοινωνικής δικτύωσης. Έτσι, όπως φάνηκε και στην πρόσφατη προεκλογική εκστρατεία στις ΗΠΑ, οι ψευδο – ειδήσεις εξαπλώνονται σαν πυρκαγιά και η μετα – αλήθεια σκεπάζει την αλήθεια.

Ολοένα περισσότερες φωνές ζητούν να υπάρξει μεγαλύτερη διαφάνεια και έλεγχος πάνω στους αλγόριθμους. Γίνεται αντιληπτό ότι οι αλγόριθμοι – που υποτίθεται αποτελούν ένα εργαλείο αντικειμενικότητας – στην πραγματικότητα ενσωματώνουν τις προκαταλήψεις των δημιουργών τους και άρα κάλλιστα μπορεί να αναπαράγουν τις κοινωνικές αδικίες, το ρατσισμό, το σεξισμό κ.α.

Όπως επεσήμανε μια πρόσφατη έκθεση του Λευκού Οίκου των ΗΠΑ, σύμφωνα με το Γαλλικό Πρακτορείο, «τα αλγοριθμικά συστήματα δεν είναι αλάνθαστα. Εξαρτώνται από τις ατέλειες των δεδομένων, της λογικής, των πιθανοτήτων και των ανθρώπων που σχεδιάζουν τους αλγόριθμους». Γι’ αυτό, προειδοποίησε ότι «οι αλγόριθμοι μπορεί συστηματικά να θέτουν σε μειονεκτική θέση συγκεκριμένες ομάδες».

Οι αλγόριθμοι καλούνται να απαντήσουν σε δύσκολα ερωτήματα, που δεν είναι δυνατό να έχουν μία και μοναδική αντικειμενική «λύση».Για παράδειγνμα, το ερώτημα «ποιόν πρέπει να προσλάβει η επιχείρηση;» αναπόφευκτα οδηγεί σε μια υποκειμενική, ανοικτή και αξιολογική απάντηση, ανάλογα με την ηθική και τα κριτήρια κάθε ανθρώπου. Με άλλα λόγια υπάρχουν πολλές «λύσεις». Όμως ο αλγόριθμος μπορεί να έχει «διδαχθεί» να προτιμά μια συγκεκριμένη απάντηση – λύση (π.χ. τους χριστιανούς λευκοούς άνδρες και όχι τιςω μουσουλμάνες μαύρες γυναίκες), την οποία μάλιστα «ντύνει» με τον μανδύα της αντικειμενικότητας.

Με άλλα λόγια, οι αλγόριθμοι μπορούν να πάρουν κακές αποφάσεις, που έχουν σοβαρές επιπτώσεις στις ανθρώπινες ζωές. Όμως οι δημιουργοί των αλγόριθμων – ιδίως οι μεγάλες εταιρείες τεχνολογίας – είναι πολύ μυστικοπαθείς για το πώς δουλεύουν οι αλγόριθμοί τους, προκειμένου να αποτρέψουν την αντιγραφή τους από τους ανταγωνιστές τους.

Μια Ρυθμιστική Αρχή για τους αλγόριθμους

Γι’ αυτό, όσοι συνειδητοποιούν το πρόβλημα, ζητούν πλέον να μπουν στο μικροσκόπιο των κρατών και των κοινωνιών οι αλγόριθμοι και η τεχνητή νοημοσύνη. Μια ενδιαφέρουσα ιδέα είναι να δημιουργηθεί μια ανεξάρτητη ρυθμιστική – εποπτική Αρχή, που θα προάγει τη διαφάνεια και καταπολεμήσει την εγγενή μονομέρεια ή αδικία που κρύβεται στους αλγόριθμους. Η Αρχή αυτή θα διασφαλίζει ότι δεν θα γίνονται αυτόματες αλγοριθμικές διακρίσεις σε βάρος ανθρώπων και θα δέχεται σχετικά παράπονα από πολίτες που νιώθουν θύματα τέτοιων άδικων αποφάσεων σε βάρος τους.

Παράλληλα, προτείνεται να ενισχυθούν οι υπάρχοντες νόμοι για την προστασία των καταναλωτών και των προσωπικών δεδομένων, κάτι στο οποίο πρωτοστατεί η Ευρωπαϊκή Ένωση, που θα θέσει σε εφαρμογή νέα νομοθεσία από το 2018.

Οι νέοι ευρωπαϊκοί κανονισμοί θα δίνουν στους πολίτες «το δικαίωμα στην εξήγηση», έτσι ώστε να απαιτούν να μάθουν γιατί το αυτόματο υπολογιστικό σύστημα, δηλαδή ο αλγόριθμος, αποφάσισε έτσι (π.χ.μια απόλυση) και όχι αλλιώς. Αν και υπάρχει μια πρακτική δυσκολία: ακόμη και να το ήθελαν οι δημιουργοί τους, είναι αμφίβολο κατά πόσο μπορούν και οι ίδιοι να εξηγήσουν πάντοτε πώς δουλεύουν τελικά οι εξελιγμένοι αλγόριθμοι «βαθιάς μάθησης», οι οποίοι επιτρέπουν στο μηχάνημα (υπολογιστή, ρομπότ κ.α.) να μαθαίνει και να αποφασίζει μόνο του.

Σε κάθε περίπτωση, πρέπει να ενταθεί ο δημόσιος διάλογος και η ενημέρωση της κοινής γνώμης για το τι διακυβεύεται, καθώς οι αλγόριθμοι διευρύνουν συνεχώς την επικράτειά τους – χωρίς βεβαίως να μετατραπούν σε αποδιοπομπαίο τράγο για όλα τα κακά της κοινωνίας, τα οποία σε τελευταία ανάλυση είναι ανθρώπινα.

 ~ ΑΠΕ-ΜΠΕ

by Αντικλείδι , http://antikleidi.com

Συναφές: 

Ποιον θα έπρεπε να σκοτώσει ο οδηγός-ρομπότ;

Δύο διλήμματα

Θα σκοτώνατε έναν άνθρωπο για να σώσετε πέντε ;