Μια μητέρα και η 14χρονη κόρη της συνηγορούν υπέρ της καλύτερης προστασίας των θυμάτων μετά τη διανομή γυμνών εικόνων του εφήβου και άλλων συμμαθητών που δημιουργήθηκαν από την τεχνητή νοημοσύνη σε ένα γυμνάσιο του Νιου Τζέρσεϊ.
Εν τω μεταξύ, στην άλλη άκρη της χώρας, αξιωματούχοι ερευνούν ένα περιστατικό με έναν έφηβο που φέρεται να χρησιμοποίησε τεχνητή νοημοσύνη για να δημιουργήσει και να διανείμει παρόμοιες εικόνες άλλων μαθητών – επίσης έφηβων κοριτσιών – που φοιτούν σε ένα λύκειο σε ένα προάστιο του Σιάτλ της Ουάσιγκτον.
Οι ανησυχητικές περιπτώσεις έθεσαν για άλλη μια φορά τα φώτα της δημοσιότητας σε ρητό υλικό που δημιουργείται από την τεχνητή νοημοσύνη που βλάπτει κυρίως γυναίκες και παιδιά και αναπτύσσεται στο διαδίκτυο με πρωτοφανή ρυθμό. Περισσότερα από 143.000 νέα deepfake βίντεο δημοσιεύτηκαν στο διαδίκτυο φέτος, περισσότερα από κάθε δύο χρόνια μαζί, σύμφωνα με ανάλυση της ανεξάρτητης ερευνήτριας Genevieve Oh που παρασχέθηκε στο Associated Press.
Οι πληγείσες οικογένειες αναζητούν απελπισμένα λύσεις και προτρέπουν τους νομοθέτες να εισαγάγουν αυστηρά μέτρα προστασίας για τα θύματα των οποίων οι εικόνες χειραγωγούνται χρησιμοποιώντας νέα μοντέλα τεχνητής νοημοσύνης ή που έχουν διάφορες εφαρμογές και ιστότοπους που διαφημίζουν ανοιχτά τις υπηρεσίες τους. Οι συνήγοροι και ορισμένοι νομικοί εμπειρογνώμονες ζητούν επίσης ομοσπονδιακή ρύθμιση που να παρέχει ομοιόμορφη προστασία σε ολόκληρη τη χώρα και να στέλνει ένα ισχυρό μήνυμα στους σημερινούς και τους πιθανούς δράστες.
«Παλεύουμε για τα παιδιά μας», είπε η Dorota Mani, της οποίας η κόρη ήταν ένα από τα θύματα στο Westfield, ένα προάστιο του New Jersey έξω από την πόλη της Νέας Υόρκης. «Δεν είναι Ρεπουμπλικάνοι και δεν είναι Δημοκρατικοί. Δεν τους νοιαζει. Θέλουν απλώς να είναι αγαπημένοι και ασφαλείς».
Το πρόβλημα με τα deepfakes δεν είναι καινούργιο, αλλά οι ειδικοί λένε ότι επιδεινώνεται καθώς η τεχνολογία για να τα κάνει γίνεται πιο διαθέσιμη και πιο εύκολη στη χρήση. Οι ερευνητές κρούουν τον κώδωνα του κινδύνου φέτος για την έκρηξη υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκε από τεχνητή νοημοσύνη και χρησιμοποιεί απεικονίσεις πραγματικών θυμάτων ή εικονικών χαρακτήρων. Τον Ιούνιο, το FBI προειδοποίησε ότι συνέχιζε να λαμβάνει αναφορές από θύματα, ανήλικους και ενήλικες, των οποίων οι φωτογραφίες ή τα βίντεο χρησιμοποιήθηκαν για τη δημιουργία ακατάλληλου περιεχομένου που κοινοποιούνταν στο διαδίκτυο.
Αρκετές πολιτείες έχουν θεσπίσει τους δικούς τους νόμους όλα αυτά τα χρόνια για την καταπολέμηση του προβλήματος, αν και ποικίλλουν ως προς το πεδίο εφαρμογής τους. Το Τέξας, η Μινεσότα και η Νέα Υόρκη ψήφισαν νόμους που ποινικοποιούν το μη συναινετικό deepfake πορνό φέτος, προσχωρώντας στη Βιρτζίνια, τη Τζόρτζια και τη Χαβάη που έχουν ήδη θεσπίσει νόμους. Ορισμένες πολιτείες, όπως η Καλιφόρνια και το Ιλινόις, επέτρεψαν στα θύματα μόνο να μηνύσουν τους δράστες στο αστικό δικαστήριο για αποζημίωση, κάτι που επιτρέπεται επίσης στη Νέα Υόρκη και τη Μινεσότα.
Ορισμένες άλλες πολιτείες εξετάζουν τους δικούς τους νόμους, συμπεριλαμβανομένου του Νιου Τζέρσεϊ, όπου αυτή τη στιγμή εκπονείται νομοσχέδιο για την απαγόρευση του deepfake πορνό και την επιβολή κυρώσεων -είτε φυλάκιση, πρόστιμο ή και τα δύο- σε όσους το διαδίδουν.
Η πολιτειακή γερουσιαστής Kristin Corrado, μια Ρεπουμπλικανός που παρουσίασε το νομοσχέδιο νωρίτερα φέτος, είπε ότι αποφάσισε να εμπλακεί αφού διάβασε ένα άρθρο σχετικά με ανθρώπους που προσπαθούσαν να παρακάμψουν τους νόμους για την εκδίκηση για το πορνό χρησιμοποιώντας την εικόνα της που χρησιμοποιούσαν πρώην συνεργάτες της για να δημιουργήσουν ψεύτικο πορνό.
«Απλώς νιώσαμε ότι επρόκειτο να συμβεί ένα περιστατικό», είπε ο Corrado.
Το νομοσχέδιο βρίσκεται σε αναμονή εδώ και αρκετούς μήνες, αλλά υπάρχει μεγάλη πιθανότητα να περάσει, είπε, ειδικά δεδομένου ότι το θέμα έχει τεθεί στο επίκεντρο λόγω του Westfield.
Η εκδήλωση του Westfield έλαβε χώρα αυτό το καλοκαίρι και τέθηκε υπόψη του γυμνασίου στις 20 Οκτωβρίου, δήλωσε η εκπρόσωπος του γυμνασίου του Westfield, Mary Ann McGann, σε μια δήλωση. Η McGann δεν έδωσε λεπτομέρειες σχετικά με τον τρόπο διανομής των εικόνων που δημιουργήθηκαν από την τεχνητή νοημοσύνη, αλλά η Mani, μητέρα ενός από τα κορίτσια, είπε ότι έλαβε μια κλήση από το σχολείο που την ενημέρωσε ότι οι γυμνές εικόνες της περιελάμβαναν τα πρόσωπα ορισμένων μαθητών που δημιουργήθηκαν και στη συνέχεια διανεμήθηκε σε μια ομάδα φίλων στην εφαρμογή κοινωνικών μέσων Snapchat.
Το σχολείο δεν έχει επιβεβαιώσει καμία πειθαρχική ενέργεια, επικαλούμενη την εμπιστευτικότητα των θεμάτων που αφορούν μαθητές. Η αστυνομία του Γουέστφιλντ και η Εισαγγελία της Κομητείας της Ένωσης, και οι δύο ειδοποιήθηκαν, δεν απάντησαν στα αιτήματα για σχολιασμό.
Δεν έχουν γίνει γνωστές λεπτομέρειες για το περιστατικό στην πολιτεία της Ουάσιγκτον, το οποίο συνέβη τον Οκτώβριο και διερευνάται από την αστυνομία. Η Paula Schwan, αρχηγός του αστυνομικού τμήματος Issaquah, είπε ότι έχουν λάβει πολλαπλά εντάλματα έρευνας και σημείωσε ότι οι πληροφορίες που έχουν «μπορεί να αλλάξουν» καθώς προχωρά η έρευνα. Όταν ζητήθηκε σχόλιο, η Σχολική Περιφέρεια Issaquah είπε ότι δεν μπορούσε να συζητήσει τις λεπτομέρειες λόγω της έρευνας, αλλά είπε ότι οποιαδήποτε μορφή εκφοβισμού, παρενόχλησης ή κακομεταχείρισης μεταξύ των μαθητών είναι «εντελώς απαράδεκτη».
Εάν οι αξιωματούχοι διώξουν το περιστατικό στο Νιου Τζέρσεϊ, οι υφιστάμενοι νόμοι της πολιτείας που απαγορεύουν τη σεξουαλική εκμετάλλευση ανηλίκων θα μπορούσαν ήδη να ισχύουν, δήλωσε η Μαίρη Άννα Φρανκς, καθηγήτρια νομικής στο Πανεπιστήμιο Τζορτζ Ουάσιγκτον και διευθύντρια της Πρωτοβουλίας Πολιτικών Δικαιωμάτων Κυβερνοχίας, μιας οργάνωσης για την καταπολέμηση διαδικτυακή κατάχρηση. Αλλά αυτή η προστασία δεν επεκτείνεται σε ενήλικες που μπορεί να βρεθούν σε παρόμοιο σενάριο, είπε.
Η καλύτερη λύση, είπε ο Franks, θα ήταν ένας ομοσπονδιακός νόμος που παρέχει ομοιόμορφες προστασίες σε όλη τη χώρα και τιμωρεί αμφίβολους οργανισμούς που επωφελούνται από προϊόντα και εφαρμογές που επιτρέπουν εύκολα σε οποιονδήποτε να δημιουργεί deepfakes. Είπε ότι θα μπορούσε επίσης να στείλει ένα ισχυρό μήνυμα σε ανηλίκους που μπορεί παρορμητικά να δημιουργήσουν εικόνες άλλων παιδιών.
Ο πρόεδρος Τζο Μπάιντεν υπέγραψε εκτελεστικό διάταγμα τον Οκτώβριο που, μεταξύ άλλων, ζητούσε την απαγόρευση της χρήσης γενεσιουργού τεχνητής νοημοσύνης για την παραγωγή υλικού σεξουαλικής κακοποίησης παιδιών ή μη συναινετικών «οικείων εικόνων πραγματικών ανθρώπων». Το διάταγμα καθοδηγεί επίσης την ομοσπονδιακή κυβέρνηση να εκδώσει κατευθυντήριες γραμμές για την επισήμανση και την υδατοσήμανση περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη, ώστε να γίνει διάκριση μεταξύ αυθεντικού υλικού και υλικού που δημιουργείται από λογισμικό.
Επικαλούμενος το περιστατικό του Westfield, ο βουλευτής των ΗΠΑ Tom Kean Jr., ένας Ρεπουμπλικανός που εκπροσωπεί την πόλη, παρουσίασε ένα νομοσχέδιο τη Δευτέρα που θα απαιτούσε από τους προγραμματιστές να κάνουν αποκαλύψεις σχετικά με περιεχόμενο που δημιουργείται από AI. Μεταξύ άλλων, ένα άλλο ομοσπονδιακό νομοσχέδιο που εισήγαγε ο βουλευτής των ΗΠΑ Joe Morelle, Δημοκρατικός της Νέας Υόρκης, θα καθιστούσε παράνομη την κοινή χρήση deepfake πορνό εικόνων στο διαδίκτυο. Όμως, λόγω του αδιέξοδου στο Κογκρέσο, δεν έχει σημειωθεί πρόοδος εδώ και μήνες.
Κάποιοι προτρέπουν να είστε προσεκτικοί – συμπεριλαμβανομένης της American Civil Liberties Union, του Electronic Frontier Foundation και του The Media Coalition, μιας οργάνωσης που εργάζεται για εμπορικές ομάδες που εκπροσωπούν εκδότες, κινηματογραφικά στούντιο και άλλους – λέγοντας ότι απαιτείται προσεκτική εξέταση για να αποφευχθούν προτάσεις, οι οποίες ενδέχεται να έρχονται σε σύγκρουση με την Πρώτη τροπολογία.
«Ορισμένες ανησυχίες σχετικά με καταχρηστικά deepfakes μπορούν να αντιμετωπιστούν σύμφωνα με τους υφιστάμενους νόμους για την παρενόχληση στο διαδίκτυο», δήλωσε ο Joe Johnson, δικηγόρος του ACLU του New Jersey. «Είτε σε ομοσπονδιακό είτε σε πολιτειακό επίπεδο, πρέπει να υπάρχει εκτενής συζήτηση και η συμβολή των ενδιαφερομένων για να διασφαλιστεί ότι ένα νομοσχέδιο δεν είναι υπερβολικά ευρύ και αντιμετωπίζει το αναφερόμενο πρόβλημα».
Η Μάνη είπε ότι η κόρη της δημιούργησε έναν ιστότοπο και ίδρυσε μια φιλανθρωπική οργάνωση για να βοηθήσει τα θύματα της τεχνητής νοημοσύνης. Οι δυο τους έχουν επίσης συνομιλίες με νομοθέτες της πολιτείας που πιέζουν το νομοσχέδιο του Νιου Τζέρσεϊ και σχεδιάζουν ένα ταξίδι στην Ουάσιγκτον για να υποστηρίξουν περισσότερη προστασία.
«Δεν έχει κάθε παιδί, αγόρι ή κορίτσι, την υποστήριξη που χρειάζεται για να αντιμετωπίσει αυτό το πρόβλημα», είπε η Μάνη. «Και μπορεί να μην δουν το φως στο τέλος του τούνελ».
__
Οι δημοσιογράφοι του AP Geoff Mulvihill και Matt O’Brien συνεισέφεραν από το Cherry Hill του New Jersey και το Providence του Rhode Island.