Ένα chatbot γίνεται εχθρικό. Μια δοκιμαστική έκδοση μιας ηλεκτρικής σκούπας Roomba συλλέγει εικόνες χρηστών σε ιδιωτικές καταστάσεις. Μια μαύρη γυναίκα αναγνωρίζεται εσφαλμένα ως ύποπτη χρησιμοποιώντας λογισμικό αναγνώρισης προσώπου, το οποίο τείνει να είναι λιγότερο ακριβές όταν αναγνωρίζει γυναίκες και έγχρωμους ανθρώπους.
Αυτά τα περιστατικά δεν είναι απλώς ατυχίες, αλλά παραδείγματα πιο θεμελιωδών προβλημάτων. Καθώς τα εργαλεία τεχνητής νοημοσύνης και μηχανικής μάθησης ενσωματώνονται ολοένα και περισσότερο στην καθημερινή ζωή, αυξάνονται οι ηθικοί προβληματισμοί, από ζητήματα απορρήτου έως φυλετική και έμφυλη προκατάληψη στην κωδικοποίηση έως τη διάδοση παραπληροφόρησης.
Το ευρύ κοινό εξαρτάται από τους προγραμματιστές λογισμικού και τους επιστήμονες υπολογιστών για να διασφαλίσουν ότι αυτές οι τεχνολογίες αναπτύσσονται με ασφαλή και ηθικό τρόπο. Ως κοινωνιολόγος και μεταπτυχιακός φοιτητής που ενδιαφέρεται για την επιστήμη, την τεχνολογία, τη μηχανική και την εκπαίδευση στα μαθηματικά, αυτή τη στιγμή ερευνούμε πώς οι μηχανικοί σε πολλούς διαφορετικούς τομείς μαθαίνουν και κατανοούν τις ευθύνες τους απέναντι στο κοινό.
Αλλά η πρόσφατη έρευνά μας, όπως και άλλων επιστημόνων, επισημαίνει μια ανησυχητική πραγματικότητα: η επόμενη γενιά μηχανικών εμφανίζεται συχνά απροετοίμαστη να αντιμετωπίσει τον κοινωνικό αντίκτυπο της δουλειάς τους. Επιπλέον, ορισμένοι φαίνονται απαθείς στα ηθικά διλήμματα που μπορεί να παρουσιάσει η σταδιοδρομία τους – ακριβώς όπως οι εξελίξεις στην τεχνητή νοημοσύνη επιδεινώνουν τέτοια διλήμματα.
Ενημερωμένοι αλλά απροετοίμαστοι
Ως μέρος της συνεχιζόμενης έρευνάς μας, πήραμε συνεντεύξεις με περισσότερους από 60 μεταπτυχιακούς φοιτητές στην Ηλεκτρολογία και την Επιστήμη των Υπολογιστών σε ένα κορυφαίο πρόγραμμα μηχανικής στις Ηνωμένες Πολιτείες. Ρωτήσαμε τους μαθητές για τις εμπειρίες τους με ηθικές προκλήσεις στη μηχανική, τις γνώσεις τους για ηθικά διλήμματα στον τομέα και πώς θα ανταποκρίνονταν σε σενάρια στο μέλλον.
Πρώτον, τα καλά νέα: Οι περισσότεροι μαθητές αναγνώρισαν τους πιθανούς κινδύνους της τεχνητής νοημοσύνης και εξέφρασαν ανησυχίες για το απόρρητο και την πιθανότητα πρόκλησης βλάβης—όπως το πώς η φυλετική και έμφυλη προκατάληψη μπορεί να γραφτεί σκόπιμα ή ακούσια σε αλγόριθμους.
Για παράδειγμα, ένας μαθητής εξέφρασε απογοήτευση για τις περιβαλλοντικές επιπτώσεις της τεχνητής νοημοσύνης, λέγοντας ότι οι εταιρείες τεχνητής νοημοσύνης «καταναλώνουν όλο και περισσότερη ενέργεια θερμοκηπίου, [for] Ελάχιστα οφέλη.
Ωστόσο, όταν ρωτήθηκε, «Είστε σε θέση να απαντήσετε σε ανησυχητικές ή ανήθικες καταστάσεις;»
«Σαφώς, όχι. … Είναι κάπως τρομακτικό», απάντησε ένας μαθητής. «Ξέρεις σε ποιον να πάω;»
Ένας άλλος ανησυχούσε για την έλλειψη εκπαίδευσης: «Ι [would be] Αντιμετωπίστε το χωρίς εμπειρία. …Ποιος ξέρει πώς θα αντιδράσω».
Άλλοι ερευνητές ανακάλυψαν επίσης ότι πολλοί φοιτητές μηχανικών είναι δυσαρεστημένοι με την εκπαίδευση ηθικής που λαμβάνουν. Η γενική εκπαίδευση τείνει να επικεντρώνεται στους επαγγελματικούς κώδικες συμπεριφοράς και όχι στους περίπλοκους κοινωνικοτεχνικούς παράγοντες που διέπουν τη λήψη αποφάσεων ηθικής. Η έρευνα δείχνει ότι οι φοιτητές μηχανικών συχνά δυσκολεύονται να εντοπίσουν ηθικά διλήμματα, ακόμη και όταν αντιμετωπίζουν συγκεκριμένα σενάρια ή μελέτες περιπτώσεων.
“Ένα κουτί για έλεγχο”
Τα διαπιστευμένα προγράμματα μηχανικής πρέπει να περιλαμβάνουν κάποιο επίπεδο «θεμάτων που σχετίζονται με την επαγγελματική και ηθική ευθύνη».
Ωστόσο, η εκπαίδευση της ηθικής σπάνια δίνεται έμφαση στα επίσημα προγράμματα σπουδών. Μια μελέτη που αξιολογούσε τα προπτυχιακά προγράμματα σπουδών STEM στις Ηνωμένες Πολιτείες διαπίστωσε ότι η κάλυψη των ηθικών θεμάτων διέφερε ευρέως ως προς το περιεχόμενο, το εύρος και τη σοβαρότητα της παρουσίασης. Επιπλέον, μια ανάλυση της ακαδημαϊκής βιβλιογραφίας για την εκπαίδευση των μηχανικών διαπίστωσε ότι η ηθική συχνά θεωρείται ως μια μη βασική εκπαίδευση.
Πολλοί καθηγητές μηχανικών είναι δυσαρεστημένοι με την κατανόηση των φοιτητών, αλλά αναφέρουν επίσης ότι πιέζονται από τους συναδέλφους μηχανικούς και τους ίδιους τους φοιτητές να δώσουν προτεραιότητα στις τεχνικές δεξιότητες στον περιορισμένο χρόνο διδασκαλίας τους.
Σε μια μελέτη του 2018, οι ερευνητές ερεύνησαν πάνω από 50 μέλη ΔΕΠ μηχανικών και τεκμηρίωσαν διστακτικότητα —και μερικές φορές απόλυτη αντίσταση— στην ενσωμάτωση ανησυχιών δημοσίου συμφέροντος στις τάξεις μηχανικών τους. Περισσότεροι από το ένα τέταρτο των καθηγητών που ερωτήθηκαν πίστευαν ότι η ηθική και ο κοινωνικός αντίκτυπος βρίσκονται έξω από την «πραγματική» εργασία μηχανικής.
Περίπου το ένα τρίτο των μαθητών που ερωτηθήκαμε ως μέρος του συνεχούς ερευνητικού μας έργου μοιράζονται αυτή την φαινομενική απάθεια για την εκπαίδευση ηθικής, περιγράφοντας τα μαθήματα ηθικής ως «απλώς ένα κουτί για να το ελέγξετε».
«Ως μηχανικός, αν πληρώσω χρήματα για το μάθημα ηθικής, θυμώνω», είπε ένας.
Αυτές οι στάσεις μερικές φορές επεκτείνονται στο πώς βλέπουν οι μαθητές τον ρόλο των μηχανικών στην κοινωνία. Για παράδειγμα, ένας ερωτώμενος στην πρόσφατη μελέτη μας είπε ότι η ευθύνη ενός μηχανικού «είναι απλώς να δημιουργήσει το πράγμα, να σχεδιάσει το πράγμα και… να πει στους ανθρώπους πώς να το χρησιμοποιήσουν». [Misusage] Τα προβλήματα δεν τους απασχολούν».
Μία από εμάς, η Erin Cech, ακολούθησε μια ομάδα 326 φοιτητών μηχανικών από τέσσερα κολέγια των ΗΠΑ. Αυτή η μελέτη, που δημοσιεύθηκε το 2014, υποδηλώνει ότι καθώς οι μηχανικοί προχωρούν στο κολέγιο, στην πραγματικότητα ανησυχούν λιγότερο για τις ηθικές τους ευθύνες και κατανοούν τις δημόσιες συνέπειες της τεχνολογίας. Όταν τους ακολουθήσαμε μετά την αποφοίτησή τους από το κολέγιο, διαπιστώσαμε ότι οι ανησυχίες τους για την ηθική δεν επανεμφανίστηκαν καθώς αυτοί οι νέοι απόφοιτοι εισήλθαν στο εργατικό δυναμικό.
Είσοδος στον κόσμο της εργασίας
Όταν οι μηχανικοί λαμβάνουν εκπαίδευση ηθικής ως μέρος των σπουδών τους, φαίνεται να λειτουργεί.
Μαζί με την καθηγήτρια μηχανικού Cynthia Finelli, πραγματοποιήσαμε έρευνα σε πάνω από 500 εργαζόμενους μηχανικούς. Οι μηχανικοί που έχουν λάβει επίσημη εκπαίδευση ηθικής και δημόσιας καλής εκπαίδευσης στο σχολείο είναι πιο πιθανό να γνωρίζουν τις ευθύνες τους απέναντι στο κοινό στον επαγγελματικό τους ρόλο και να αναγνωρίσουν την ανάγκη για συλλογική επίλυση προβλημάτων. Σε σύγκριση με μηχανικούς που δεν έλαβαν καμία εκπαίδευση, είχαν 30% περισσότερες πιθανότητες να έχουν παρατηρήσει ένα ηθικό ζήτημα στο χώρο εργασίας τους και 52% περισσότερες πιθανότητες να έχουν λάβει μέτρα.
Πάνω από το ένα τέταρτο αυτών των μηχανικών ανέφεραν ότι αντιμετώπιζαν μια ανησυχητική ηθική κατάσταση στην εργασία. Ωστόσο, περίπου το ένα τρίτο είπε ότι δεν έλαβαν ποτέ εκπαίδευση στη δημόσια πρόνοια, είτε κατά τη διάρκεια της εκπαίδευσής τους είτε κατά τη διάρκεια της σταδιοδρομίας τους.
Αυτό το κενό στην εκπαίδευση ηθικής εγείρει σοβαρά ερωτήματα σχετικά με το πόσο καλά θα είναι προετοιμασμένη η επόμενη γενιά μηχανικών να περιηγηθούν στο περίπλοκο ηθικό τοπίο του κλάδου τους, ιδιαίτερα όταν πρόκειται για την τεχνητή νοημοσύνη.
Φυσικά, η ευθύνη για το κοινό καλό δεν βαρύνει αποκλειστικά τους μηχανικούς, τους σχεδιαστές και τους προγραμματιστές. Οι εταιρείες και οι νομοθέτες μοιράζονται την ευθύνη.
Αλλά οι άνθρωποι που σχεδιάζουν, δοκιμάζουν και τελειοποιούν αυτήν την τεχνολογία είναι η πρώτη γραμμή άμυνας του κοινού. Πιστεύουμε ότι τα εκπαιδευτικά προγράμματα οφείλουν σε αυτούς –και σε εμάς τους υπόλοιπους– να λάβουν αυτή την εκπαίδευση στα σοβαρά.
Αυτό το άρθρο αναδημοσιεύτηκε από το The Conversation, έναν μη κερδοσκοπικό, ανεξάρτητο ειδησεογραφικό οργανισμό που σας φέρνει γεγονότα και αξιόπιστες αναλύσεις για να σας βοηθήσει να κατανοήσετε τον περίπλοκο κόσμο μας. Το έγραψε: Elana Goldenkoff, Πανεπιστήμιο του Μισιγκαν και Erin A. Cech, Πανεπιστήμιο του Μισιγκαν
Διαβάστε περισσότερα:
Η Elana Goldenkoff λαμβάνει χρηματοδότηση από το Εθνικό Ίδρυμα Επιστημών και το Schmidt Futures.
Η Erin A. Cech λαμβάνει χρηματοδότηση από το Εθνικό Ίδρυμα Επιστημών.