ARLINGTON, Va. (AP) — Πολύ πριν από τη γενετική έκρηξη της τεχνητής νοημοσύνης, μια εταιρεία της Silicon Valley που προσλήφθηκε για να συλλέξει και να αναλύσει μη ταξινομημένα δεδομένα σχετικά με το παράνομο εμπόριο φαιντανύλης στην Κίνα, ζήτησε επιτακτικά την εξαγορά από τις υπηρεσίες πληροφοριών των ΗΠΑ.
Τα αποτελέσματα της επιχείρησης ξεπέρασαν κατά πολύ αυτά μιας καθαρά ανθρώπινης ανάλυσης. Ανακαλύφθηκαν διπλάσιες εταιρείες και 400 τοις εκατό περισσότεροι άνθρωποι που εμπλέκονται σε παράνομη ή ύποπτη διακίνηση του θανατηφόρου οπιοειδούς.
Ενθουσιώδεις αξιωματούχοι των μυστικών υπηρεσιών των ΗΠΑ δημοσίευσαν τα ευρήματα – η τεχνητή νοημοσύνη έκανε συνδέσεις βασισμένες κυρίως σε δεδομένα του Διαδικτύου και του σκοτεινού ιστού – και τα μοιράστηκαν με τις αρχές του Πεκίνου, απαιτώντας καταστολή.
Μια βασική πτυχή της επιχείρησης του 2019 που ονομάζεται Sable Spear που δεν έχει αναφερθεί προηγουμένως: Η εταιρεία χρησιμοποίησε γενετική τεχνητή νοημοσύνη για να παράσχει στις αρχές των ΗΠΑ περιλήψεις αποδεικτικών στοιχείων για πιθανές ποινικές υποθέσεις – τρία χρόνια πριν από την κυκλοφορία του πρωτοποριακού προϊόντος του OpenAI ChatGPT για προμήθεια και έτσι εξοικονόμηση αμέτρητων ώρες εργασίας.
«Αυτό δεν θα ήταν δυνατό χωρίς την τεχνητή νοημοσύνη», είπε ο Brian Drake, τότε διευθυντής AI της Υπηρεσίας Πληροφοριών Άμυνας και συντονιστής έργου.
Ο ανάδοχος Rhombus Power χρησιμοποίησε αργότερα τη γενετική τεχνητή νοημοσύνη για να προβλέψει τη μεγάλης κλίμακας εισβολή της Ρωσίας στην Ουκρανία τέσσερις μήνες νωρίτερα με 80 τοις εκατό εμπιστοσύνη για έναν άλλο πελάτη της κυβέρνησης των ΗΠΑ. Η Rhombus λέει ότι προειδοποιεί επίσης τους κυβερνητικούς πελάτες, τους οποίους αρνήθηκε να κατονομάσει, για επικείμενες εκτοξεύσεις πυραύλων της Βόρειας Κορέας και κινεζικές διαστημικές επιχειρήσεις.
Η κοινότητα πληροφοριών των ΗΠΑ αγωνίζεται να επωφεληθεί από την επανάσταση της τεχνητής νοημοσύνης, φοβούμενη ότι διαφορετικά θα κατακλυζόταν από την εκθετική αύξηση των δεδομένων καθώς η τεχνολογία επιτήρησης που βασίζεται σε αισθητήρες συνεχίζει να καλύπτει τον πλανήτη.
Αλλά οι υπεύθυνοι γνωρίζουν καλά ότι η τεχνολογία είναι ακόμα νέα και εύθραυστη και ότι η γενετική τεχνητή νοημοσύνη -δηλαδή μοντέλα πρόβλεψης που εκπαιδεύονται σε τεράστια σύνολα δεδομένων για τη δημιουργία κειμένων, εικόνων, βίντεο και ανθρώπινων συνομιλιών κατά παραγγελία- είναι κάθε άλλο παρά προσαρμοσμένη κατασκευασμένο για είναι μια επικίνδυνη επιχείρηση γεμάτη εξαπάτηση.
Οι αναλυτές χρειάζονται «προηγμένα μοντέλα τεχνητής νοημοσύνης που μπορούν να επεξεργάζονται τεράστιες ποσότητες πληροφοριών ανοιχτού κώδικα και μυστικά αποκτηθείσας», έγραψε πρόσφατα ο διευθυντής της CIA Γουίλιαμ Μπερνς στο Foreign Affairs. Αλλά αυτό δεν θα είναι εύκολο.
Ο πρώτος επικεφαλής τεχνολογίας της CIA, Nand Mulchandani, πιστεύει ότι επειδή τα μοντέλα τεχνητής νοημοσύνης γενιάς “παραισθάνονται” αντιμετωπίζονται καλύτερα ως “τρελός, μεθυσμένος φίλος” – ικανός για μεγάλη διορατικότητα και δημιουργικότητα, αλλά και για προκατειλημμένες ιστορίες. Υπάρχουν επίσης ζητήματα ασφάλειας και απορρήτου: Οι επιτιθέμενοι θα μπορούσαν να τους κλέψουν και να τους δηλητηριάσουν και θα μπορούσαν να περιέχουν ευαίσθητες προσωπικές πληροφορίες που οι αξιωματούχοι δεν έχουν εξουσιοδότηση να δουν.
Αλλά αυτό δεν σταματά τα πειράματα, τα οποία σε μεγάλο βαθμό γίνονται κρυφά.
Μία εξαίρεση: Χιλιάδες αναλυτές από τις 18 μυστικές υπηρεσίες των ΗΠΑ χρησιμοποιούν τώρα μια γενετική τεχνητή νοημοσύνη που αναπτύχθηκε από τη CIA που ονομάζεται Osiris. Βασίζεται σε μη ταξινομημένα και δημόσια ή εμπορικά διαθέσιμα δεδομένα – τα λεγόμενα δεδομένα ανοιχτού κώδικα. Γράφει σχολιασμένες περιλήψεις και η δυνατότητα chatbot επιτρέπει στους αναλυτές να εμβαθύνουν σε ερωτήσεις.
Ο Mulchandani είπε ότι χρησιμοποιεί πολλά μοντέλα AI από διάφορους εμπορικούς προμηθευτές, τους οποίους αρνήθηκε να κατονομάσει. Επίσης, δεν θα έλεγε αν η CIA χρησιμοποιεί γενετική τεχνητή νοημοσύνη για σημαντικούς σκοπούς σε μυστικά δίκτυα.
«Είναι νωρίς», είπε ο Mulchandani, «και οι αναλυτές μας πρέπει να είναι σε θέση να προσδιορίσουν με απόλυτη βεβαιότητα από πού προέρχονται οι πληροφορίες Η CIA δοκιμάζει μοντέλα τεχνητής νοημοσύνης από όλες τις μεγάλες γενιές – και δεν συμβιβάζεται με καμία». εν μέρει επειδή οι AI ξεπερνούν ο ένας τον άλλο στις ικανότητές τους, είπε.
Σύμφωνα με τον Mulchandani, η γενετική τεχνητή νοημοσύνη είναι ιδιαίτερα κατάλληλη ως εικονικός βοηθός που αναζητά «τη βελόνα στη στοίβα των βελόνων». Οι αξιωματούχοι επιμένουν ότι δεν θα αντικαταστήσει ποτέ τους ανθρώπινους αναλυτές.
Η Linda Weissgold, η οποία συνταξιοδοτήθηκε πέρυσι ως αναπληρώτρια διευθύντρια ανάλυσης της CIA, πιστεύει ότι τα πολεμικά παιχνίδια θα είναι μια «δολοφονική εφαρμογή».
Κατά τη διάρκεια της θητείας της, ο οργανισμός χρησιμοποιούσε ήδη την παραδοσιακή τεχνητή νοημοσύνη – αλγόριθμους και επεξεργασία φυσικής γλώσσας – για μεταφράσεις και εργασίες όπως η ειδοποίηση αναλυτών για πιθανές σημαντικές εξελίξεις εκτός των ωρών εργασίας. Το AI δεν θα ήταν σε θέση να περιγράψει τι συνέβη – αυτό θα ήταν μυστικό – αλλά θα μπορούσε να πει, “Εδώ είναι κάτι που πρέπει να κοιτάξετε.”
Η Gen AI αναμένεται να βελτιώσει τέτοιες διαδικασίες.
Το μεγαλύτερο όφελος για τις υπηρεσίες πληροφοριών θα είναι η προγνωστική ανάλυση, πιστεύει ο Anshu Roy, Διευθύνων Σύμβουλος της Rhombus Power. «Η ικανότητα να προβλέψετε τι είναι πιθανό να κάνουν οι αντίπαλοί σας θα είναι πιθανότατα μια από τις μεγαλύτερες αλλαγές παραδείγματος σε ολόκληρο το πεδίο της εθνικής ασφάλειας».
Ο κινητήρας AI του Rhombus βασίζεται σε περισσότερες από 5.000 ροές δεδομένων σε 250 γλώσσες που συλλέγονται σε περισσότερα από 10 χρόνια, συμπεριλαμβανομένων παγκόσμιων πηγών ειδήσεων, δορυφορικών εικόνων και δεδομένων του κυβερνοχώρου. Όλα είναι ανοιχτού κώδικα. «Μπορούμε να παρακολουθούμε ανθρώπους, μπορούμε να παρακολουθούμε αντικείμενα», είπε ο Roy.
Μεταξύ των μεγάλων εταιρειών τεχνητής νοημοσύνης που συναγωνίζονται για συναλλαγές με τις υπηρεσίες πληροφοριών των ΗΠΑ είναι η Microsoft, η οποία ανακοίνωσε στις 7 Μαΐου ότι προσφέρει το GPT-4 του OpenAI για άκρως απόρρητα δίκτυα, αν και το προϊόν εξακολουθεί να είναι διαπιστευμένο για να λειτουργεί σε διαβαθμισμένα δίκτυα.
Ένας ανταγωνιστής, η Primer AI, μετράει δύο ανώνυμες υπηρεσίες πληροφοριών μεταξύ των πελατών της – οι οποίες περιλαμβάνουν στρατιωτικές υπηρεσίες, σύμφωνα με έγγραφα που δημοσιεύθηκαν στο διαδίκτυο για πρόσφατα στρατιωτικά εργαστήρια τεχνητής νοημοσύνης. Προσφέρει αναζήτηση με τεχνητή νοημοσύνη σε 100 γλώσσες για την ανίχνευση «σημάτων αναδυόμενων τρεχόντων γεγονότων» από πηγές όπως το Twitter, το Telegram, το Reddit και το Discord, βοηθώντας στον εντοπισμό «σημαντικών ατόμων, οργανισμών και τοποθεσιών». Σε μια επίδειξη σε συνέδριο του Στρατού λίγες μέρες μετά την επίθεση της Χαμάς στο Ισραήλ στις 7 Οκτωβρίου, στελέχη της εταιρείας περιέγραψαν πώς η τεχνολογία τους διαχωρίζει τα γεγονότα από τη φαντασία στον κατακλυσμό διαδικτυακών πληροφοριών από τη Μέση Ανατολή.
Τα στελέχη της Primer αρνήθηκαν συνέντευξη.
Βραχυπρόθεσμα, ο τρόπος με τον οποίο οι αξιωματούχοι των υπηρεσιών πληροφοριών των ΗΠΑ χρησιμοποιούν τη γενετική τεχνητή νοημοσύνη μπορεί να είναι λιγότερο σημαντικός από την ανταπόκριση στο πώς το χρησιμοποιούν οι αντίπαλοι: να παραβιάσουν την άμυνα των ΗΠΑ, να διαδώσουν παραπληροφόρηση και να προσπαθήσουν να υπονομεύσουν την ικανότητα της Ουάσιγκτον να κατανοεί τις προθέσεις τους και να αναγνωρίζει τις δεξιότητές τους.
Και επειδή η Silicon Valley προωθεί αυτήν την τεχνολογία, ο Λευκός Οίκος ανησυχεί επίσης ότι τυχόν μοντέλα τεχνητής νοημοσύνης νέας γενιάς που υιοθετούνται από τις αρχές των ΗΠΑ θα μπορούσαν να διεισδύσουν και να δηλητηριαστούν – μια απειλή που η έρευνα δείχνει ότι υπάρχει.
Μια άλλη ανησυχία: η διασφάλιση του απορρήτου των «ανθρώπων των ΗΠΑ» των οποίων τα δεδομένα ενδέχεται να ενσωματωθούν σε ένα μοντέλο μεγάλης γλώσσας.
“Εάν μιλήσετε με έναν ερευνητή ή προγραμματιστή που εκπαιδεύει ένα μεγάλο γλωσσικό μοντέλο και τον ρωτήσετε εάν είναι δυνατό να διαγράψετε βασικά μια πληροφορία από ένα LLM και να το κάνετε να το ξεχάσει – και εάν “Εάν υπάρχει μια σταθερή εμπειρική εγγύηση για αυτό – τότε δεν είναι δυνατό», δήλωσε σε συνέντευξή του ο John Beieler, επικεφαλής τεχνητής νοημοσύνης στο Γραφείο του Διευθυντή της Εθνικής Πληροφορίας.
Αυτός είναι ένας λόγος για τον οποίο η κοινότητα των πληροφοριών δεν βρίσκεται σε λειτουργία «κίνηση γρήγορα και σπάσιμο των πραγμάτων» όταν πρόκειται για την υιοθέτηση της γενετικής τεχνητής νοημοσύνης.
«Δεν θέλουμε να ζούμε σε έναν κόσμο όπου ενεργούμε γρήγορα και αναπτύσσουμε ένα από αυτά τα πράγματα και στη συνέχεια σε δύο ή τρία χρόνια διαπιστώνουμε ότι έχει πληροφορίες ή αντίκτυπο ή μια αναδυόμενη συμπεριφορά που δεν περιμέναμε», δήλωσε ο Beieler. είπε .
Για παράδειγμα, είναι ανησυχητικό πότε οι κυβερνητικές υπηρεσίες αποφασίζουν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για την έρευνα τεχνολογίας βιολογικών και κυβερνοόπλων.
Ο William Hartung, ανώτερος ερευνητής στο Quincy Institute for Responsible Statecraft, λέει ότι οι υπηρεσίες πληροφοριών πρέπει να ελέγχουν προσεκτικά τα AI για πιθανή κακή χρήση, ώστε να μην οδηγήσουν σε ακούσιες συνέπειες, όπως παράνομη παρακολούθηση ή αύξηση των θυμάτων αμάχων σε συγκρούσεις.
«Όλα αυτά έρχονται στο πλαίσιο επαναλαμβανόμενων περιπτώσεων στις οποίες ο στρατός και οι τομείς πληροφοριών έχουν διαφημίσει «ασημένιες σφαίρες» και επαναστατικές προσεγγίσεις – από το ηλεκτρονικό πεδίο μάχης στο Βιετνάμ μέχρι το πρόγραμμα Star Wars της δεκαετίας του 1980 έως την «επανάσταση στις στρατιωτικές υποθέσεις στο …». τις δεκαετίες του 1990 και του 2000 – μόνο για να διαπιστώσω ότι δεν ήταν αρκετά», είπε.
Κυβερνητικοί αξιωματούχοι επιμένουν ότι είναι ευαίσθητοι σε τέτοιες ανησυχίες. Λέγεται επίσης ότι οι αποστολές τεχνητής νοημοσύνης ποικίλλουν σημαντικά ανάλογα με τον εμπλεκόμενο οργανισμό. Δεν υπάρχει λύση που να ταιριάζει σε όλους.
Πάρτε την Υπηρεσία Εθνικής Ασφάλειας. Αναχαιτίζει την επικοινωνία. Ή η Εθνική Υπηρεσία Γεωχωρικών Πληροφοριών (NGA). Τα καθήκοντά του περιλαμβάνουν να βλέπει και να κατανοεί κάθε εκατοστό του πλανήτη. Στη συνέχεια, υπάρχει η ευφυΐα μέτρησης και υπογραφής, την οποία χρησιμοποιούν πολλές υπηρεσίες για να παρακολουθούν απειλές χρησιμοποιώντας φυσικούς αισθητήρες.
Η ενίσχυση τέτοιων αποστολών με τεχνητή νοημοσύνη αποτελεί σαφή προτεραιότητα.
Τον Δεκέμβριο, η NGA δημοσίευσε πρόσκληση υποβολής προτάσεων για έναν εντελώς νέο τύπο μοντέλου παραγωγής τεχνητής νοημοσύνης. Ο στόχος είναι να χρησιμοποιηθούν οι εικόνες που συλλέγει – από δορυφόρους και από το έδαφος – για την απόκτηση ακριβών γεωχωρικών πληροφοριών χρησιμοποιώντας απλές φωνητικές προτροπές ή μηνύματα κειμένου. Τα μοντέλα τεχνητής νοημοσύνης της γενιάς δεν χαρτογραφούν δρόμους και σιδηροδρόμους και «δεν καταλαβαίνουν τα βασικά στοιχεία της γεωγραφίας», δήλωσε ο διευθυντής καινοτομίας της NGA, Mark Munsell, σε συνέντευξή του.
Ο Munsell είπε σε συνέδριο τον Απρίλιο στο Άρλινγκτον της Βιρτζίνια, ότι η κυβέρνηση των ΗΠΑ έχει επί του παρόντος μοντελοποιήσει και επισημάνει μόνο περίπου το 3% του πλανήτη.
Οι εφαρμογές τεχνητής νοημοσύνης έχουν επίσης πολύ νόημα στις συγκρούσεις στον κυβερνοχώρο, καθώς επιτιθέμενοι και αμυνόμενοι βρίσκονται σε συνεχή μάχη μεταξύ τους και η αυτοματοποίηση είναι ήδη στο παιχνίδι.
Όμως, μεγάλο μέρος του σημαντικού έργου πληροφοριών δεν έχει καμία σχέση με την επιστήμη των δεδομένων, λέει ο Zachery Tyson Brown, πρώην αξιωματικός των στρατιωτικών πληροφοριών. Πιστεύει ότι οι υπηρεσίες πληροφοριών προσκαλούν την καταστροφή εάν υιοθετήσουν την τεχνητή νοημοσύνη νέας γενιάς πολύ γρήγορα ή πολύ πλήρως. Τα μοντέλα δεν σκέφτονται. Απλώς προβλέπουν. Και οι προγραμματιστές τους δεν μπορούν να εξηγήσουν πλήρως πώς λειτουργούν.
Δεν είναι λοιπόν το καλύτερο εργαλείο για τον ανταγωνισμό με αντίπαλους πλοιάρχους εξαπάτησης.
«Η ανάλυση νοημοσύνης τείνει να μοιάζει περισσότερο με τη δοκιμασμένη και αληθινή φράση της συναρμολόγησης ενός παζλ, εκτός από το ότι κάποιος άλλος προσπαθεί συνεχώς να κλέψει τα κομμάτια σου, ενώ την ίδια στιγμή προστίθενται κομμάτια από ένα εντελώς διαφορετικό παζλ στο σωρό συνεργάζεσαι», έγραψε πρόσφατα ο Μπράουν σε εσωτερικό περιοδικό της CIA. Οι αναλυτές εργάζονται με «ελλιπή, διφορούμενα, συχνά αντιφατικά τμήματα ελλιπών, αναξιόπιστων πληροφοριών».
Βασίζονται σε μεγάλο βαθμό στο ένστικτό τους, στους συναδέλφους τους και στη μνήμη του θεσμού.
«Δεν νομίζω ότι η τεχνητή νοημοσύνη πρόκειται να αντικαταστήσει τους αναλυτές σύντομα», δήλωσε ο Weissgold, πρώην αναπληρωτής διευθυντής ανάλυσης της CIA.
Μερικές φορές πρέπει να λαμβάνονται γρήγορες αποφάσεις ζωής ή θανάτου με βάση ελλιπή δεδομένα και τα μοντέλα τεχνητής νοημοσύνης τρέχουσας γενιάς εξακολουθούν να είναι πολύ αδιαφανή.
«Δεν νομίζω ότι θα είναι ποτέ αποδεκτό για έναν πρόεδρο», είπε ο Βάισγκολντ, «να μπει η κοινότητα των μυστικών υπηρεσιών και να πει: «Δεν ξέρω, μόλις μου είπε το μαύρο κουτί».