Οι αλγόριθμοι αποτελούν αναπόσπαστο μέρος της σύγχρονης ζωής. Οι άνθρωποι βασίζονται σε αλγοριθμικές συστάσεις για να αναζητήσουν εκτενείς καταλόγους και να βρουν τις καλύτερες ταινίες, διαδρομές, πληροφορίες, προϊόντα, ανθρώπους και επενδύσεις. Καθώς οι άνθρωποι εκπαιδεύουν αλγόριθμους για τη λήψη αποφάσεων – για παράδειγμα, αλγόριθμους που κάνουν συστάσεις για το ηλεκτρονικό εμπόριο και τους ιστότοπους μέσων κοινωνικής δικτύωσης – οι αλγόριθμοι μαθαίνουν και κωδικοποιούν τις ανθρώπινες προκαταλήψεις.
Οι αλγοριθμικές συστάσεις έχουν μια προκατάληψη προς δημοφιλείς αποφάσεις και πληροφορίες που προκαλούν οργή, όπως κομματικές ειδήσεις. Σε κοινωνικό επίπεδο, οι αλγοριθμικές προκαταλήψεις διαιωνίζουν και ενισχύουν τις δομικές φυλετικές προκαταλήψεις στο δικαστικό σύστημα, τις προκαταλήψεις των φύλων στους ανθρώπους που προσλαμβάνουν οι εταιρείες και την ανισότητα πλούτου στην αστική ανάπτυξη.
Η αλγοριθμική προκατάληψη μπορεί επίσης να χρησιμοποιηθεί για τη μείωση της ανθρώπινης μεροληψίας. Οι αλγόριθμοι μπορούν να αποκαλύψουν κρυφές δομικές προκαταλήψεις σε οργανισμούς. Σε μια εργασία που δημοσιεύτηκε στο Proceedings of the National Academy of Science, οι συνάδελφοί μου και εγώ διαπιστώσαμε ότι οι αλγοριθμικές προκαταλήψεις μπορούν να βοηθήσουν τους ανθρώπους να αναγνωρίσουν και να διορθώσουν καλύτερα τις προκαταλήψεις μέσα τους.
Η προκατάληψη στον καθρέφτη
Σε εννέα πειράματα, ο Begum Celikitutan, ο Romain Cadario και εγώ βάλαμε τους συμμετέχοντες στην έρευνα να αξιολογήσουν τους οδηγούς της Uber ή τις καταχωρίσεις της Airbnb με βάση την ικανότητα οδήγησης, την αξιοπιστία τους ή την πιθανότητα να νοικιάσουν την καταχώριση. Δώσαμε στους συμμετέχοντες σχετικές λεπτομέρειες, όπως τον αριθμό των ταξιδιών που έκαναν, μια περιγραφή του ακινήτου ή μια βαθμολογία με αστέρια. Προσθέσαμε επίσης άσχετες προκατειλημμένες πληροφορίες: μια φωτογραφία που αποκαλύπτει την ηλικία, το φύλο και την ελκυστικότητα των αναβατών ή ένα όνομα που υπονοούσε ότι οι οικοδεσπότες ήταν λευκοί ή μαύροι.
Αφού οι συμμετέχοντες υπέβαλαν τις αξιολογήσεις τους, τους δείξαμε μία από τις δύο περιλήψεις αξιολογήσεων: μία με τις δικές τους αξιολογήσεις και μία με τις αξιολογήσεις ενός αλγορίθμου που έχει εκπαιδευτεί στις αξιολογήσεις τους. Ενημερώσαμε τους συμμετέχοντες για τις προκαταλήψεις που μπορεί να επηρέασαν αυτές τις αξιολογήσεις. Για παράδειγμα, οι επισκέπτες της Airbnb είναι λιγότερο πιθανό να νοικιάσουν από οικοδεσπότες με σαφώς αφροαμερικανικά ονόματα. Στη συνέχεια τους ζητήσαμε να αξιολογήσουν τον αντίκτυπο που είχε η μεροληψία στις αξιολογήσεις στις περιλήψεις.
Ανεξάρτητα από το αν οι συμμετέχοντες έκριναν την προκατειλημμένη επιρροή της φυλής, της ηλικίας, του φύλου ή της ελκυστικότητας, είδαν μεγαλύτερη προκατάληψη στις βαθμολογίες που έκαναν οι αλγόριθμοι από ό,τι έβλεπαν αυτό το αλγοριθμικό κατοπτρικό αποτέλεσμα ανεξάρτητα από το αν οι συμμετέχοντες έκριναν τις αξιολογήσεις που έγιναν από πραγματικούς αλγόριθμους. δείξαμε στους συμμετέχοντες τις δικές τους αξιολογήσεις και τους είπαμε παραπλανητικά ότι αυτές οι αξιολογήσεις έγιναν από έναν αλγόριθμο.
Οι συμμετέχοντες είδαν μεγαλύτερη μεροληψία στις αποφάσεις των αλγορίθμων παρά στις δικές τους αποφάσεις, ακόμη και όταν δίναμε στους συμμετέχοντες ένα μπόνους μετρητών εάν οι προκατειλημμένες κρίσεις τους ταίριαζαν με τις κρίσεις ενός άλλου συμμετέχοντα που είδε τις ίδιες αποφάσεις. Το φαινόμενο του αλγοριθμικού καθρέφτη παρέμεινε ακόμη και όταν οι συμμετέχοντες ανήκαν στην περιθωριοποιημένη κατηγορία – για παράδειγμα, ταυτίζονταν ως γυναίκα ή ως Μαύροι.
Οι συμμετέχοντες στην έρευνα ήταν εξίσου ικανοί να ανιχνεύσουν προκαταλήψεις σε αλγόριθμους εκπαιδευμένους στις δικές τους αποφάσεις, όπως ήταν σε θέση να ανιχνεύσουν προκαταλήψεις στις αποφάσεις άλλων ανθρώπων. Επιπλέον, οι συμμετέχοντες είχαν περισσότερες πιθανότητες να δουν την επιρροή της φυλετικής προκατάληψης στις αποφάσεις των αλγορίθμων παρά στις δικές τους αποφάσεις, αλλά ήταν εξίσου πιθανό να δουν την επιρροή αξιόπιστων χαρακτηριστικών όπως οι αξιολογήσεις αστεριών στις αποφάσεις των αλγορίθμων και στις δικές τους αποφάσεις.
Προκατειλημμένο τυφλό σημείο
Οι άνθρωποι βλέπουν περισσότερες από τις προκαταλήψεις τους στους αλγόριθμους επειδή οι αλγόριθμοι αφαιρούν τα τυφλά σημεία μεροληψίας των ανθρώπων. Είναι πιο εύκολο να ανιχνεύσετε μεροληψία στις αποφάσεις των άλλων ανθρώπων παρά στις δικές σας, επειδή χρησιμοποιείτε διαφορετικά στοιχεία για να τις αξιολογήσετε.
Όταν εξετάζετε τις αποφάσεις σας για μεροληψία, αναζητήστε στοιχεία συνειδητής προκατάληψης—είτε λάβατε υπόψη τη φυλή, το φύλο, την ηλικία, την κατάσταση ή άλλα αδικαιολόγητα χαρακτηριστικά όταν λάβατε την απόφασή σας. Παραβλέπετε και δικαιολογείτε τη μεροληψία στις αποφάσεις σας επειδή δεν έχετε πρόσβαση στον συνειρμικό μηχανισμό που οδηγεί τις διαισθητικές σας κρίσεις, όπου η μεροληψία εμφανίζεται συχνά. Ίσως σκεφτείτε, «Όταν την προσέλαβα, δεν σκέφτηκα τη φυλή ή το φύλο της. Την προσέλαβα με βάση την απόδοσή της και μόνο».
Όταν εξετάζετε τις αποφάσεις άλλων για μεροληψία, δεν έχετε πρόσβαση στις διαδικασίες που χρησιμοποίησαν για να λάβουν τις αποφάσεις τους. Έτσι εξετάζουν τις αποφάσεις τους για μεροληψία, όπου η μεροληψία είναι προφανής και πιο δύσκολο να δικαιολογηθεί. Για παράδειγμα, μπορεί να δείτε ότι προσέλαβαν μόνο λευκούς άνδρες.
Οι αλγόριθμοι εξαλείφουν το τυφλό σημείο της προκατάληψης επειδή βλέπετε τους αλγόριθμους με τον τρόπο που βλέπετε τους άλλους ανθρώπους και όχι τον εαυτό σας.
Οι συμμετέχοντες στη μελέτη μας που ήταν πιο πιθανό να έχουν το τυφλό σημείο μεροληψίας ήταν πιο πιθανό να δουν περισσότερη προκατάληψη στις αποφάσεις των αλγορίθμων παρά στις δικές τους αποφάσεις.
Οι άνθρωποι εξωτερικεύουν επίσης την προκατάληψη στους αλγόριθμους. Είναι λιγότερο απειλητικό να βλέπεις μεροληψία στους αλγόριθμους από ό,τι να βλέπεις μεροληψία στον εαυτό σου, ακόμα κι όταν οι αλγόριθμοι είναι εκπαιδευμένοι να λαμβάνουν τις αποφάσεις σου. Οι άνθρωποι κατηγορούν τους αλγόριθμους. Οι αλγόριθμοι εκπαιδεύονται σε ανθρώπινες αποφάσεις, ωστόσο η προκατάληψη που αντανακλάται ονομάζεται “αλγοριθμική μεροληψία”.
διορθωτικό φακό
Τα πειράματά μας δείχνουν ότι οι άνθρωποι είναι επίσης πιο πιθανό να διορθώσουν τις προκαταλήψεις τους όταν αντικατοπτρίζονται σε αλγόριθμους. Σε ένα τελευταίο πείραμα, δώσαμε στους συμμετέχοντες την ευκαιρία να διορθώσουν τις αξιολογήσεις που έκαναν. Δείξαμε σε κάθε συμμετέχοντα τις δικές του αξιολογήσεις, τις οποίες αποδώσαμε είτε στον συμμετέχοντα είτε σε έναν αλγόριθμο εκπαιδευμένο στις αποφάσεις του.
Οι συμμετέχοντες ήταν πιο πιθανό να διορθώσουν τις αξιολογήσεις όταν τους ανατέθηκαν σε έναν αλγόριθμο, επειδή πίστευαν ότι οι αξιολογήσεις ήταν πιο προκατειλημμένες. Ως αποτέλεσμα, οι τελικές διορθωμένες βαθμολογίες ήταν λιγότερο προκατειλημμένες όταν ανατέθηκαν σε έναν αλγόριθμο.
Οι αλγοριθμικές προκαταλήψεις που έχουν επιβλαβείς επιπτώσεις είναι καλά τεκμηριωμένες. Τα αποτελέσματά μας δείχνουν ότι η αλγοριθμική προκατάληψη μπορεί να χρησιμοποιηθεί θετικά. Το πρώτο βήμα για τη διόρθωση της προκατάληψης είναι να αναγνωρίσουμε την επιρροή και την κατεύθυνσή της. Ως καθρέφτες που αποκαλύπτουν τις προκαταλήψεις μας, οι αλγόριθμοι μπορούν να βελτιώσουν τη λήψη αποφάσεων.
Αυτό το άρθρο αναδημοσιεύτηκε από το The Conversation, έναν μη κερδοσκοπικό, ανεξάρτητο ειδησεογραφικό οργανισμό που σας φέρνει γεγονότα και αξιόπιστες αναλύσεις για να σας βοηθήσει να κατανοήσετε τον περίπλοκο κόσμο μας. Το έγραψε: Carey K. Morewedge, Πανεπιστήμιο της Βοστώνης
Διαβάστε περισσότερα:
Η Carey K. Morewedge δεν εργάζεται, δεν συμβουλεύει, δεν κατέχει μετοχές ή δεν λαμβάνει χρηματοδότηση από οποιαδήποτε εταιρεία ή οργανισμό που θα επωφεληθεί από αυτό το άρθρο και δεν έχει αποκαλύψει σχετικές σχέσεις πέρα από την ακαδημαϊκή τους απασχόληση.