Στα αρχεία των Distinctive Collections στο Τεχνολογικό Ινστιτούτο της Μασαχουσέτης (MIT), επικρατεί ησυχία ενώ η χιονοθύελλα φυσάει έξω. Με το χιόνι που πέφτει, φαίνεται να συσσωρεύεται σιωπή. Είμαι ο μόνος ερευνητής στα αρχεία, αλλά υπάρχει μια φωνή που θέλω απεγνωσμένα να ακούσω.
Ψάχνω κάποιον – ας την πούμε γραμματέα που λείπει. Έπαιξε καθοριστικό ρόλο στην ιστορία της επιστήμης των υπολογιστών, αλλά δεν αναφέρθηκε ποτέ με το όνομά της. Είμαι στο MIT ως μέρος της έρευνάς μου για την ιστορία των ομιλούντων μηχανών. Ίσως τα γνωρίζετε ως «chatbots» – προγράμματα υπολογιστών και διεπαφές που χρησιμοποιούν το διάλογο ως το κύριο μέσο αλληλεπίδρασης μεταξύ ανθρώπων και μηχανών. Ίσως μιλήσατε με την Alexa, τη Siri ή το ChatGPT.
Παρά τον σημερινό ενθουσιασμό για τη γενετική τεχνητή νοημοσύνη (AI), οι ομιλούντες μηχανές έχουν μακρά ιστορία. Το 1950, ο πρωτοπόρος των υπολογιστών Alan Turing πρότεινε ένα τεστ νοημοσύνης μηχανών. Το τεστ ρωτά εάν ένας άνθρωπος μπορεί να διακρίνει μεταξύ ενός υπολογιστή και ενός ατόμου μέσω συνομιλίας. Η δοκιμή του Turing ώθησε την έρευνα στην τεχνητή νοημοσύνη και στον αναδυόμενο τομέα της επιστήμης των υπολογιστών. Τώρα ζούμε στο μέλλον που φαντάστηκε: μιλάμε με μηχανές.
Με ενδιαφέρει γιατί οι πρώτοι πρωτοπόροι των υπολογιστών ονειρευόντουσαν να μιλούν σε υπολογιστές και τι διακυβευόταν σε αυτή την ιδέα. Τι σημαίνει αυτό για τον τρόπο που κατανοούμε την τεχνολογία των υπολογιστών και την αλληλεπίδραση ανθρώπου-μηχανής σήμερα; Βρίσκομαι στο MIT, στη μέση αυτής της χιονοθύελλας, γιατί ήταν η γενέτειρα της μητέρας όλων των bots – της Ελίζας.
Η ομιλία της Ελίζας
Το Eliza ήταν ένα πρόγραμμα υπολογιστή που αναπτύχθηκε τη δεκαετία του 1960 από τον μουστακοειδή καθηγητή ηλεκτρολόγων μηχανικών του MIT Joseph Weizenbaum. Μέσω της Eliza ήθελε να επιτρέψει τη συνομιλία μεταξύ ανθρώπων και υπολογιστών.
Η Eliza έλαβε πληκτρολογημένα μηνύματα από τον χρήστη, τα ανέλυσε για ενεργοποιήσεις λέξεων-κλειδιών και χρησιμοποίησε κανόνες μετασχηματισμού (όπου το νόημα μιας δήλωσης μπορεί να προέλθει από μία ή περισσότερες άλλες δηλώσεις) για να δημιουργήσει μια απάντηση. Στην πιο διάσημη εκδοχή της, η Ελίζα προσποιήθηκε την ψυχοθεραπεύτρια, μια ειδική που ανταποκρίνεται στις ανάγκες του χρήστη. «Πες μου σε παρακαλώ το πρόβλημά σου», ήταν το πρώτο αίτημα. Η Ελίζα όχι μόνο μπορούσε να λάβει πληροφορίες με τη μορφή φυσικής γλώσσας, αλλά παρείχε επίσης την «ψευδαίσθηση της κατανόησης».
Το όνομα του προγράμματος ήταν μια αναφορά στον πρωταγωνιστή του θεατρικού έργου Πυγμαλίων (1912) του Τζορτζ Μπέρναρντ Σο, στο οποίο ένας πωλητής λουλουδιών Κόκνεϋ διδάσκεται να μιλά “σαν κυρία”. Όπως το μιούζικαλ της Audrey Hepburn του 1964, έτσι και αυτή η Ελίζα κατατρόπωσε τον κόσμο. Οι εφημερίδες και τα περιοδικά γιόρτασαν την πραγματοποίηση του ονείρου του Τούρινγκ.
Ακόμα και το Playboy έπαιξε με αυτό. Η κληρονομιά της Ελίζας είναι σημαντική. Η Siri και η Alexa είναι οι άμεσοι απόγονοι αυτού του προγράμματος.
Οι αφηγήσεις της Ελίζας τείνουν να επικεντρώνονται σε μια ιστορία του Φρανκενστάιν σχετικά με την απόρριψη της δικής του δημιουργίας από τον εφευρέτη. Το Weizenbaum τρόμαξε που οι χρήστες μπορούσαν να «ξεγελαστούν» από απλό λογισμικό. Τις επόμενες δεκαετίες, παραιτήθηκε από την Ελίζα και ολόκληρη την «τεχνητή νοημοσύνη» – προς θλίψη των συναδέλφων του.
Αλλά δεν είμαι στα αρχεία για να ακούσω τη φωνή της Eliza ή του Weizenbaum. Σε όλες αυτές τις αναφορές για την Ελίζα, εμφανίζεται μια γυναίκα – η γραμματέας μας που λείπει.
Η γραμματέας που λείπει
Στις αναφορές του για την Eliza, ο Weizenbaum ανησυχεί επανειλημμένα για έναν συγκεκριμένο χρήστη:
Η γραμματέας μου με παρατήρησε να δουλεύω σε αυτό το πρόγραμμα για μια χρονική περίοδο. Μια μέρα ζήτησε να μιλήσει στο σύστημα. Φυσικά ήξερε ότι μιλούσε σε μηχανή. Αλλά αφού την παρακολούθησα να πληκτρολογεί μερικές προτάσεις, γύρισε προς το μέρος μου και μου είπε: “Θα σε πείραζε να φύγεις από το δωμάτιο, σε παρακαλώ;”
Η Weizenbaum θεώρησε την απάντησή της ως ανησυχητική απόδειξη ότι «η εξαιρετικά σύντομη έκθεση σε ένα σχετικά απλό πρόγραμμα υπολογιστή θα μπορούσε να δημιουργήσει ισχυρές αυταπάτες στους απλούς ανθρώπους».
Ποιος ήταν όμως αυτός ο «κανονικός» άνθρωπος; Και τι γνώμη είχε για την Ελίζα; Αν η γραμματέας που έλειπε έπαιξε τόσο σημαντικό ρόλο, γιατί δεν ακούμε νέα της; Σε αυτό το κεφάλαιο της ιστορίας των ομιλούντων μηχανών, έχουμε μόνο μια πλευρά της συζήτησης.
Πίσω στα αρχεία, θέλω να δω αν μπορώ να επαναφέρω τη φωνή της γραμματέας για να καταλάβω τι μπορεί να μάθουμε από τον χρήστη της Ελίζας. Περνάω τον δρόμο μου μέσα από τα κιτρινισμένα χαρτιά του Weizenbaum. Σίγουρα θα υπάρχουν στοιχεία ανάμεσα στις μεταγραφές, τις εκτυπώσεις κωδικών, τις επιστολές και τα σημειωματάρια; Υπάρχουν κάποιες ενδείξεις, αναφορές σε γραμματέα σε επιστολές προς και από το Weizenbaum. Αλλά όχι όνομα.
Επεκτείνω το κυνήγι μου για να συμπεριλάβω διοικητικά αρχεία. Κοιτάζω τα αρχεία του τμήματος και τις συλλογές του χώρου εργασίας του Weizenbaum, το Project MAC—το ιερό κέντρο καινοτομίας υπολογιστών στο MIT. Καμία τύχη. Επικοινωνώ με το γραφείο ανθρώπινου δυναμικού και την ομάδα αποφοίτων του MIT. Δοκιμάζω την υπομονή των πάντα γενναιόδωρων αρχειονόμων. Όταν έρθει η τελευταία μου μέρα, το μόνο που ακούω είναι ακόμα σιωπή.
Ακούστε τη σιωπή
Όμως το κυνήγι αποκάλυψε μερικά πράγματα. Πρώτον, οι οργανισμοί έδωσαν ιστορικά λίγη προσοχή στους ανθρώπους που παρήγαγαν, οργάνωσαν και αποθήκευσαν τόσο μεγάλο μέρος της γνώσης τους.
Στην ιστορία ιδρυμάτων όπως το MIT και η επιστήμη των υπολογιστών γενικά, οι συντάκτες αυτών των αρχείων -συχνά χαμηλοαμειβόμενες γυναίκες με χαμηλό επίπεδο- έχουν σε μεγάλο βαθμό διαγραφεί. Η σιωπηλή γραμματέας μας είναι η επιτομή του ανώνυμου μεταγραφέα των εγγράφων πάνω στα οποία χτίζεται η ιστορία.
Οι συνεισφορές των χρηστών ομιλούσας μηχανής – η δουλειά τους, η τεχνογνωσία τους, οι προοπτικές τους, η δημιουργικότητά τους – πολύ συχνά αγνοούνται. Εάν το μοντέλο είναι “συνομιλίες”, είναι εύκολο να σκεφτεί κανείς ότι αυτές οι συνεισφορές είναι αβίαστες ή ασήμαντες. Αλλά η δυσφήμιση αυτών των συνεισφορών έχει πραγματικές συνέπειες, όχι μόνο για την τεχνολογία ομιλούσας μηχανής που αναπτύσσουμε, αλλά και για τον τρόπο με τον οποίο εκτιμούμε την ανθρώπινη συνεισφορά σε αυτά τα συστήματα.
Με το Generative AI, μιλάμε για είσοδο χρήστη με τη μορφή “chat” και “prompts”. Αλλά ποιο νομικό καθεστώς μπορεί να διεκδικήσει ο «μιλώντας»; Για παράδειγμα, θα πρέπει να μπορούμε να διεκδικήσουμε πνευματικά δικαιώματα για αυτά τα σχόλια; Τι γίνεται με τη δουλειά στην οποία είναι εκπαιδευμένα αυτά τα συστήματα; Πώς αναγνωρίζουμε αυτές τις συνεισφορές;
Η χιονοθύελλα χειροτερεύει. Στην ανακοίνωση σημειώνεται ότι η πανεπιστημιούπολη κλείνει νωρίς λόγω καιρού. Η φωνή του αγνοούμενου γραμματέα μου διαφεύγει ακόμα. Η ιστορία των ομιλούντων μηχανών παραμένει προς το παρόν μονόπλευρη. Υπάρχει μια σιωπή που με στοιχειώνει καθώς γυρίζω στο σπίτι μέσα από τους ήσυχους, χιονισμένους δρόμους.
Ψάχνετε για κάτι καλό; Ξεχωρίστε από το πλήθος με μια επιμελημένη επιλογή από τις τελευταίες κυκλοφορίες, ζωντανές εκδηλώσεις και εκθέσεις, που παραδίδονται απευθείας στα εισερχόμενά σας κάθε Παρασκευή κάθε δύο εβδομάδες. Συνδεθείτε εδώ.
Αυτό το άρθρο αναδημοσιεύεται από το The Conversation με άδεια Creative Commons. Διαβάστε το αρχικό άρθρο.
Η έρευνα της Rebecca Roach υποστηρίχθηκε από μια ερευνητική επιχορήγηση από το Leverhulme Trust για το έργο «Machine Talk: Literature, Computing and Conversation after 1945» και διευκολύνθηκε από την τεχνογνωσία και την υπομονή του προσωπικού στις Distinctive Collections του MIT.