Η ρύθμιση της τεχνητής νοημοσύνης έχει γίνει ένας τομέας διακρατικού ανταγωνισμού. Ενώ η ΕΕ μόλις κατέληξε σε συμφωνία σχετικά με το νόμο της τεχνητής νοημοσύνης, οι ΗΠΑ εξέδωσαν προηγουμένως έναν ευρύ εκτελεστικό κανονισμό για την τεχνητή νοημοσύνη και το Ηνωμένο Βασίλειο συγκάλεσε πολιτικούς και βιομηχανικούς ηγέτες για τη Σύνοδο Κορυφής για την Ασφάλεια της AI.
Σε πολλές από αυτές τις συζητήσεις, ένας κίνδυνος τυγχάνει μεγαλύτερης προσοχής: η βιοτρομοκρατία με δυνατότητα τεχνητής νοημοσύνης ή η ικανότητα των ατόμων να επιφέρουν μια καταστροφή χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης για να αποκτήσουν πρόσβαση σε έναν πανδημικό ιό.
Πρόσφατα δείξαμε ότι είναι ένας κίνδυνος που αξίζει να εξεταστεί. Σε ένα άτυπο πείραμα, αναθέσαμε σε άτομα να χρησιμοποιήσουν ένα μοντέλο ανοιχτού κώδικα μεγάλης γλώσσας με όλες τις δικλείδες ασφαλείας που έχουν αφαιρεθεί για να τους βοηθήσουμε να βρουν ένα παθογόνο που θα μπορούσε να προκαλέσει πανδημία.
Μέσα σε τρεις ώρες, οι συμμετέχοντες εντόπισαν πολλά από τα βήματα που απαιτούνται για να πυροδοτηθεί μια δυνητικά καταστροφική έκρηξη.
Αυτό που ήταν ιδιαίτερα ανησυχητικό ήταν ότι το μοντέλο έδωσε στους συμμετέχοντες ενδείξεις για το πώς να αποκτήσουν το ιικό DNA – το σχέδιο για την εμφάνιση του παθογόνου – παρακάμπτοντας τις υπάρχουσες μεθόδους διαλογής. Ο βαθμός στον οποίο τα τρέχοντα μοντέλα υποστηρίζουν τη βιοτρομοκρατία με τη συγκέντρωση πληροφοριών που υπάρχουν ήδη στο διαδίκτυο παραμένει ασαφές.
Ωστόσο, πέρα από τις τρέχουσες δυνατότητες, τα αποτελέσματα υποδηλώνουν ότι ελλείψει ισχυρών προστασιών, τα πιο προηγμένα μελλοντικά μοντέλα θα μπορούσαν ενδεχομένως να παρέχουν σε κακόβουλα άτομα βελτιστοποιημένες και προσβάσιμες πληροφορίες σχετικά με τον τρόπο πρόσβασης, δημιουργίας και απελευθέρωσης ενός πανδημικού ιού.
Μια τεχνολογία ανοιχτή σε κακόβουλους παράγοντες
Τα κατασκευάσματα DNA που απαιτούνται για τη δημιουργία ενός ιού από την αρχή μπορούν να παραγγελθούν στο διαδίκτυο: πολλοί πάροχοι γονιδιακής σύνθεσης παράγουν χίλια ζεύγος βάσεων κομμάτια DNA για λιγότερο από 200 ευρώ – κάτι που οι ερευνητές ξόδεψαν χιλιάδες ώρες κάνοντας μόλις πριν από μερικές δεκαετίες χρειάζονταν και άξιζαν Βραβείο Νόμπελ.
Η έλευση της προσαρμοσμένης σύνθεσης γονιδίων είναι πλέον πυλώνας των βιοεπιστημών και, μεταξύ πολλών άλλων πλεονεκτημάτων, επιτρέπει στους ερευνητές να εργαστούν γρήγορα για να αναπτύξουν εμβόλια και θεραπευτικά που βασίζονται σε mRNA. Αλλά όπως οι πρόοδοι στη σύνθεση γονιδίων επιτρέπουν νέες ανακαλύψεις και θεραπείες, η τεχνολογία μπορεί επίσης να χρησιμοποιηθεί κατάχρηση από κακόβουλους παράγοντες για την απόκτηση πανδημικών παθογόνων.
Πολλές εταιρείες έχουν κάνει το σημαντικό βήμα των εντολών δοκιμών για την ανίχνευση DNA από επικίνδυνα παθογόνα.
Αλλά δεν το κάνουν όλοι. Τα μοντέλα τεχνητής νοημοσύνης που βασίζονται στη φωνή μπορούν ήδη να βοηθήσουν τα άτομα να εντοπίσουν και να εκμεταλλευτούν τέτοια κενά για να αποκτήσουν το DNA των επιρρεπών σε πανδημία παθογόνων.
Ο Διευθύνων Σύμβουλος της Anthropic, μιας κορυφαίας εταιρείας τεχνητής νοημοσύνης, εξέφρασε αυτήν την ανησυχία και προειδοποίησε πρόσφατα τους νομοθέτες των ΗΠΑ ότι τα συστήματα τεχνητής νοημοσύνης επόμενης γενιάς θα μπορούσαν να επιτρέψουν τη βιοτρομοκρατία μεγάλης κλίμακας εντός δύο ετών, εάν δεν τεθούν σε εφαρμογή οι κατάλληλες διασφαλίσεις.
Ο Yoshua Bengio, ένας από τους «Νονούς της AI», εξέφρασε παρόμοιες ανησυχίες. Καθώς οι πολιτικοί της ΕΕ εξετάζουν τις κατάλληλες απαντήσεις στις ραγδαίες προόδους της τεχνητής νοημοσύνης, ένα απλό προστατευτικό κιγκλίδωμα αξίζει πιο προσεκτικό έλεγχο: μια νομική απαίτηση να ελέγχονται όλες οι εντολές σύνθεσης γονιδίων για επικίνδυνες αλληλουχίες.
Λιγότερες από εκατό εταιρείες υψηλής εξειδίκευσης προσφέρουν υπηρεσίες σύνθεσης DNA, κάτι που αντιπροσωπεύει την ιδανική μόχλευση πολιτικής: εάν η ΕΕ απαιτεί από τις εταιρείες να ελέγχουν όλες τις παραγγελίες σε μια ενημερωμένη βάση δεδομένων γνωστών παθογόνων πανδημιών και να εφαρμόζουν τις απαιτήσεις των πελατών σας, αυτό είναι κακό. Οι ηθοποιοί δεν έχουν πλέον πρόσβαση στα δομικά στοιχεία που απαιτούνται για την πυροδότηση της επόμενης πανδημίας.
Επιχειρήματα για υποχρεωτικό έλεγχο γονιδιακής σύνθεσης
Οι ΗΠΑ έχουν ήδη λάβει μέτρα για να εξασφαλίσουν τη γονιδιακή σύνθεση. Ο πρόσφατος κυβερνητικός κανονισμός για την τεχνητή νοημοσύνη απαιτεί από τα ιδρύματα που χρηματοδοτούνται από την κυβέρνηση να ακολουθούν τις νέες οδηγίες της κυβέρνησης για τον έλεγχο της βιολογικής σύνθεσης.
Η ίδια η ΕΕ δεν έχει εκδώσει ακόμη κανονισμούς για αυτό το θέμα. Δεδομένης της αυξανόμενης απειλής της βιοτρομοκρατίας σε επίπεδο πανδημίας, η εντολή για έλεγχο σύνθεσης γονιδίων θα ήταν ένα λογικό πρώτο βήμα.
Πωλητές που αντιπροσωπεύουν πάνω από το 80% των εντολών υποστήριξης του κλάδου. Άλλοι έχουν εύλογες ανησυχίες σχετικά με το πιθανό κόστος του ελέγχου της σύνθεσης γονιδίων και ανησυχούν για πιθανές ανησυχίες σχετικά με την πνευματική ιδιοκτησία, αλλά η επερχόμενη κυκλοφορία δωρεάν εργαλείων διαλογής που διατηρούν το απόρρητο θα μετριάσει αυτό το πρόβλημα.
Ένα υποχρεωτικό σύστημα προσυμπτωματικού ελέγχου πρέπει να πληροί πολλά κριτήρια. Οι παραγγελίες θα πρέπει να είναι κρυπτογραφημένες για την προστασία του απορρήτου και να υπόκεινται σε επαλήθευση που εντοπίζει μόνο απειλές με αμελητέα ψευδώς θετικά στοιχεία, ενώ στα εξουσιοδοτημένα εργαστήρια πρέπει να παρέχεται ένας τρόπος να αποκτούν νόμιμες αλληλουχίες DNA απρόσκοπτα και χωρίς καθυστερήσεις.
Επιπλέον, όλα τα συστήματα προσυμπτωματικού ελέγχου θα πρέπει να ελέγχουν επαληθεύσιμα τις εντολές σε μια βάση δεδομένων επικίνδυνων αλληλουχιών που ενημερώνεται αμέσως για την ανίχνευση πιθανών πανδημικών παθογόνων που έχουν εντοπιστεί πρόσφατα, με ισχυρά κίνητρα για τη χρήση του καλύτερου ελέγχου στην κατηγορία που προσδιορίζονται μέσω προσπαθειών «κόκκινης ομάδας» που δοκιμάζουν πόσο επικίνδυνο Οι αλληλουχίες μπορούν εύκολα να ληφθούν χωρίς ανίχνευση.
Τέλος, νέες συσκευές σύνθεσης και συναρμολόγησης DNA, όπως π.χ B. τα επιτραπέζια συνθεσάιζερ, διαθέτουν ενσωματωμένο έλεγχο που πληροί τα παραπάνω κριτήρια. Η εφαρμογή αυστηρών πρωτοκόλλων προσυμπτωματικού ελέγχου με βάση αυτά τα κριτήρια είναι κρίσιμη για την πλήρη εκμετάλλευση των εκτεταμένων πλεονεκτημάτων της βιοτεχνολογίας, προστατεύοντάς την από κακή χρήση.
Διατηρώντας την υπόσχεση της βιολογίας
Η πρόοδος τόσο στη βιοτεχνολογία όσο και στην τεχνητή νοημοσύνη θα οδηγήσει σε επαναστατικές προόδους στις βιοεπιστήμες και την ιατρική.
Η προσαρμοσμένη γονιδιακή σύνθεση είναι ένας βασικός παράγοντας σε αυτά τα αξιοσημείωτα οφέλη. Αλλά η βλάβη που προκαλείται από τον SARS-CoV-2, έναν μεμονωμένο, ιστορικά ήπιο πανδημικό ιό, δείχνει ότι η κακή χρήση του –που γίνεται πιο πιθανή από τις εξελίξεις στη γενετική τεχνητή νοημοσύνη– θα μπορούσε να προκαλέσει βλάβη σε κλίμακα που υπερβαίνει οποιοδήποτε από αυτά τα οφέλη.
Όπως έμαθε η Ευρωπαϊκή Ένωση με τη νομοθεσία της τεχνητής νοημοσύνης, η εύρεση ενός συμβιβασμού μεταξύ της προώθησης της καινοτομίας και της μείωσης των κινδύνων απαιτεί χρόνο.
Ωστόσο, οι συγκεκριμένοι κίνδυνοι της βιοτρομοκρατίας με δυνατότητα τεχνητής νοημοσύνης, που αναγνωρίζονται τόσο από τους ηγέτες του κλάδου όσο και από ειδικούς στον τομέα της βιοασφάλειας, μπορούν τώρα να αντιμετωπιστούν.
Επιβάλλοντας τον έλεγχο γονιδιακής σύνθεσης, η Ευρωπαϊκή Ένωση μπορεί να μειώσει σημαντικά αυτούς τους κινδύνους και, ως εκ τούτου, να διατηρήσει την υπόσχεση της συνεχώς εξελισσόμενης βιοτεχνολογίας.
Ο Kevin Esvelt είναι αναπληρωτής καθηγητής στο Media Lab στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης, όπου ηγείται της ομάδας Sculpting Evolution. Συνίδρυσε το SecureDNA Foundation, έναν μη κερδοσκοπικό οργανισμό με έδρα την Ελβετία. Ο Ben Mueller είναι ερευνητής στο MIT και COO στο SecureBio, έναν οργανισμό που εργάζεται σε πολιτικές και τεχνολογίες για την προστασία από μελλοντικές πανδημίες.
Στο Euronews πιστεύουμε ότι κάθε γνώμη μετράει. Επικοινωνήστε μαζί μας στο view@euronews.com για να στείλετε προτάσεις ή υποβολές και να συμμετάσχετε στη συζήτηση.