DENVER (AP) — Ενώ η τεχνητή νοημοσύνη έγινε πρωτοσέλιδο με το ChatGPT, στα παρασκήνια η τεχνολογία έχει διαποτίσει αθόρυβα την καθημερινή ζωή — εξετάζοντας βιογραφικά, αιτήσεις για ενοικιαζόμενα διαμερίσματα και, σε ορισμένες περιπτώσεις, ακόμη και καθορισμό ιατρικής περίθαλψης.
Ενώ ορισμένα συστήματα τεχνητής νοημοσύνης έχουν διαπιστωθεί ότι εισάγουν διακρίσεις, γείροντας την πλάστιγγα υπέρ ορισμένων φυλών, φύλων ή εισοδημάτων, ο κυβερνητικός έλεγχος είναι ελάχιστος.
Οι νομοθέτες σε τουλάχιστον επτά πολιτείες λαμβάνουν σημαντικά νομοθετικά μέτρα για τη ρύθμιση της μεροληψίας στην τεχνητή νοημοσύνη, καλύπτοντας ένα κενό που αφήνει η αδράνεια του Κογκρέσου. Αυτές οι προτάσεις είναι μερικά από τα πρώτα βήματα σε μια συζήτηση δεκαετιών για την εξισορρόπηση των πλεονεκτημάτων αυτής της νεφελώδους νέας τεχνολογίας με τους καλά τεκμηριωμένους κινδύνους.
«Η τεχνητή νοημοσύνη επηρεάζει στην πραγματικότητα κάθε μέρος της ζωής σας, είτε το γνωρίζετε είτε όχι», είπε ο Suresh Venkatasubramanian, καθηγητής στο Πανεπιστήμιο Brown, ο οποίος συνέταξε το προσχέδιο της Διακήρυξης για τα Δικαιώματα της Τεχνητής Νοημοσύνης του Λευκού Οίκου.
«Λοιπόν, δεν θα σε ένοιαζε αν όλα λειτουργούσαν καλά. Αλλά δεν το κάνουν».
Η επιτυχία ή η αποτυχία θα εξαρτηθεί από τους νομοθέτες που θα λύσουν σύνθετα προβλήματα κατά τη διαπραγμάτευση με έναν κλάδο που αξίζει εκατοντάδες δισεκατομμύρια δολάρια και αναπτύσσεται με ρυθμό που μετριέται καλύτερα σε έτη φωτός.
Σύμφωνα με την BSA The Software Alliance, η οποία υποστηρίζει για λογαριασμό εταιρειών λογισμικού, μόνο μια ντουζίνα από τα σχεδόν 200 νομοσχέδια που σχετίζονται με την τεχνητή νοημοσύνη που εισήχθησαν στα κρατικά κτίρια πέρυσι υπογράφηκαν σε νόμο.
Αυτά τα νομοσχέδια, μαζί με τα περισσότερα από 400 νομοσχέδια που σχετίζονται με την τεχνητή νοημοσύνη που συζητούνται φέτος, στόχευαν σε μεγάλο βαθμό στη ρύθμιση μικρότερων τμημάτων της τεχνητής νοημοσύνης. Αυτό περιλαμβάνει σχεδόν 200 στοχευμένα deepfakes, συμπεριλαμβανομένων προτάσεων για την απαγόρευση των πορνογραφικών deepfakes όπως αυτά της Taylor Swift που κατέκλυσαν τα μέσα κοινωνικής δικτύωσης. Άλλοι προσπαθούν να περιορίσουν τα chatbots όπως το ChatGPT για να διασφαλίσουν ότι δεν θα φτάσουν οδηγίες για το πώς να φτιάξουν μια βόμβα, για παράδειγμα.
Αυτά διαφέρουν από τα επτά νομοσχέδια που θα ισχύουν σε όλες τις βιομηχανίες για τη ρύθμιση των διακρίσεων στην τεχνητή νοημοσύνη – ένα από τα πιο διεστραμμένα και πολύπλοκα προβλήματα της τεχνολογίας – που συζητούνται από την Καλιφόρνια μέχρι το Κονέκτικατ.
Όσοι μελετούν την τάση της τεχνητής νοημοσύνης να κάνει διακρίσεις λένε ότι τα κράτη έχουν ήδη καθυστερήσει να θέσουν προστατευτικά κιγκλιδώματα. Η χρήση της τεχνητής νοημοσύνης για τη λήψη αποφάσεων – αυτό που το προσχέδιο νόμου αποκαλεί «αυτοματοποιημένα εργαλεία λήψης αποφάσεων» – είναι πανταχού παρούσα αλλά σε μεγάλο βαθμό κρυφή.
Υπολογίζεται ότι το 83% των εργοδοτών χρησιμοποιεί αλγόριθμους για να βοηθήσει στην πρόσληψη. Σύμφωνα με την Επιτροπή Ίσων Ευκαιριών Απασχόλησης, το ποσοστό αυτό είναι 99% για τις εταιρείες του Fortune 500.
Ωστόσο, η πλειονότητα των Αμερικανών δεν γνωρίζει ότι αυτά τα εργαλεία χρησιμοποιούνται, δείχνουν έρευνες της Pew Research, πόσο μάλλον εάν τα συστήματα είναι προκατειλημμένα.
Ένα AI μπορεί να μάθει προκατάληψη από τα δεδομένα στα οποία εκπαιδεύεται. Αυτά είναι τυπικά ιστορικά δεδομένα, τα οποία μπορεί να περιέχουν έναν δούρειο ίππο παλαιότερων διακρίσεων.
Η Amazon διέκοψε το έργο αλγορίθμου προσλήψεων αφού ανακάλυψε ότι ευνοούσε τους άνδρες αιτούντες σχεδόν πριν από μια δεκαετία. Το AI εκπαιδεύτηκε να αξιολογεί νέα βιογραφικά μαθαίνοντας από προηγούμενα βιογραφικά – κυρίως άνδρες αιτούντες. Παρόλο που ο αλγόριθμος δεν γνώριζε το φύλο των υποψηφίων, υποβάθμισε βιογραφικά που περιείχαν τη λέξη “γυναίκες” ή απαριθμούσαν γυναικεία κολέγια, εν μέρει επειδή αυτά δεν περιλαμβάνονταν στα ιστορικά δεδομένα από τα οποία έμαθε.
«Αν αφήσεις την τεχνητή νοημοσύνη να μάθει από αποφάσεις που έχουν λάβει οι υπάρχοντες μάνατζερ στο παρελθόν και αν αυτές οι αποφάσεις στο παρελθόν ευνόησαν ορισμένους ανθρώπους και μειονεκτούσαν άλλους, τότε αυτό ακριβώς θα μάθει η τεχνολογία», δήλωσε η Christine Webber, η δικηγόρος σε ομαδική αγωγή που ισχυρίζεται ότι ένα σύστημα τεχνητής νοημοσύνης που αξιολογεί τους αιτούντες ενοικίαση κάνει διακρίσεις σε βάρος εκείνων που είναι μαύροι ή Ισπανόφωνοι.
Τα δικαστικά έγγραφα περιγράφουν μια από τις ενάγουσες στην αγωγή, τη Mary Louis, μια μαύρη γυναίκα, η οποία υπέβαλε αίτηση για ενοικίαση διαμερίσματος στη Μασαχουσέτη και έλαβε μια κρυπτική απάντηση: «Ο τρίτος πάροχος που χρησιμοποιούμε για να ελέγξουμε όλους τους πιθανούς ενοικιαστές έχει την ενοικίασή σας απορρίφθηκε.”
Σύμφωνα με δικαστικά έγγραφα, όταν η Louis προσκόμισε δύο αναφορές ιδιοκτήτη για να αποδείξει ότι είχε πληρώσει νωρίς ή εγκαίρως το ενοίκιο για 16 χρόνια, έλαβε μια άλλη απάντηση: «Δυστυχώς, δεν δεχόμαστε προσφυγές και δεν μπορούμε να παρακάμψουμε τα αποτελέσματα του ελέγχου του ενοικιαστή».
Τα νομοσχέδια αντιμετωπίζουν εν μέρει αυτήν την έλλειψη διαφάνειας και λογοδοσίας, μετά την αποτυχημένη πρόταση της Καλιφόρνια πέρυσι – την πρώτη ολοκληρωμένη προσπάθεια ρύθμισης της προκατάληψης της τεχνητής νοημοσύνης στον ιδιωτικό τομέα.
Τα νομοσχέδια θα απαιτούν από τις εταιρείες που χρησιμοποιούν αυτά τα αυτοματοποιημένα εργαλεία λήψης αποφάσεων να διεξάγουν «αξιολογήσεις επιπτώσεων», συμπεριλαμβανομένων περιγραφών του τρόπου με τον οποίο η τεχνητή νοημοσύνη επηρεάζει μια απόφαση, τα δεδομένα που συλλέγονται και ανάλυση των κινδύνων διάκρισης, καθώς και επεξήγηση των μέτρων ασφαλείας της εταιρείας. Ανάλογα με το νομοσχέδιο, αυτές οι αξιολογήσεις θα παρέχονται στο κράτος ή οι ρυθμιστικές αρχές θα μπορούσαν να τις ζητήσουν.
Ορισμένα από τα νομοσχέδια θα απαιτούσαν επίσης από τις εταιρείες να πουν στους πελάτες τους ότι η τεχνητή νοημοσύνη χρησιμοποιείται στη λήψη αποφάσεων και να τους δίνουν την ευκαιρία να εξαιρεθούν, με ορισμένους περιορισμούς.
Ο Craig Albright, ανώτερος αντιπρόεδρος των κυβερνητικών σχέσεων των ΗΠΑ στην BSA, την ομάδα λόμπι του κλάδου, είπε ότι τα μέλη της ήταν γενικά υπέρ ορισμένων προτεινόμενων βημάτων, όπως οι εκτιμήσεις επιπτώσεων.
«Η τεχνολογία προχωρά γρηγορότερα από τον νόμο, αλλά υπάρχουν πραγματικά πλεονεκτήματα από το να καλύψει τη διαφορά. Επειδή τότε (οι εταιρείες) καταλαβαίνουν ποιες είναι οι ευθύνες τους, οι καταναλωτές μπορούν να έχουν μεγαλύτερη εμπιστοσύνη στην τεχνολογία», δήλωσε ο Albright.
Αλλά ήταν μια αθώα αρχή για τη νομοθεσία. Ένα νομοσχέδιο στην πολιτεία της Ουάσιγκτον έχει ήδη αποτύχει στην επιτροπή και μια πρόταση της Καλιφόρνια που εισήχθη το 2023, στην οποία βασίζονται πολλές από τις τρέχουσες προτάσεις, απέτυχε επίσης.
Η βουλευτής της Καλιφόρνια, Rebecca Bauer-Kahan, με την υποστήριξη ορισμένων εταιρειών τεχνολογίας όπως η Workday και η Microsoft, αναθεώρησε την αποτυχημένη νομοθεσία της πέρυσι, αφού αφαίρεσε την απαίτηση να υποβάλλουν οι εταιρείες τακτικά τις αξιολογήσεις επιπτώσεων τους. Άλλες πολιτείες όπου εισάγονται ή αναμένεται να εισαχθούν νομοσχέδια περιλαμβάνουν το Κολοράντο, το Ρόουντ Άιλαντ, το Ιλινόις, το Κονέκτικατ, τη Βιρτζίνια και το Βερμόντ.
Αν και αυτά τα νομοσχέδια είναι ένα βήμα προς τη σωστή κατεύθυνση, είπε ο Venkatasubramanian του Πανεπιστημίου Brown, οι εκτιμήσεις επιπτώσεων και η ικανότητά τους να ανιχνεύουν μεροληψία παραμένουν ασαφείς. Χωρίς καλύτερη πρόσβαση στις αναφορές – τις οποίες περιορίζουν πολλοί λογαριασμοί – είναι επίσης δύσκολο να προσδιοριστεί εάν ένα άτομο έχει υποστεί διακρίσεις από AI.
Ένας πιο εντατικός αλλά ακριβής τρόπος ανίχνευσης διακρίσεων θα ήταν να απαιτηθούν έλεγχοι μεροληψίας – δοκιμές για να προσδιοριστεί εάν μια τεχνητή νοημοσύνη εισάγει διακρίσεις ή όχι – και να δημοσιεύονται τα αποτελέσματα. Η βιομηχανία αμύνεται εδώ με το επιχείρημα ότι αυτό θα αποκάλυπτε εμπορικά μυστικά.
Οι περισσότερες νομοθετικές προτάσεις δεν έχουν απαιτήσεις για τη συνήθη δοκιμή ενός συστήματος τεχνητής νοημοσύνης και σχεδόν όλες έχουν ακόμη πολύ δρόμο μπροστά τους. Ωστόσο, είναι η αρχή των νομοθετών και των ψηφοφόρων που παλεύουν με μια τεχνολογία που γίνεται και θα συνεχίσει να είναι πανταχού παρούσα.
«Καλύπτει τα πάντα στη ζωή σου. Μόνο για αυτόν τον λόγο, θα πρέπει να το φροντίσετε», είπε ο Venkatasubramanian.
——-
Ο δημοσιογράφος του Associated Press Trân Nguyễn συνέβαλε στο Σακραμέντο της Καλιφόρνια.