Πορνογραφικά deepfake της Τέιλορ Σουίφτ: Το online challenge και ο ρόλος της τεχνητής νοημοσύνης

Τα πορνογραφικά deepfake της Τέιλορ Σουίφτ που πολλαπλασιάστηκαν στα social media στα τέλη του Ιανουαρίου προήλθαν από ένα online challenge για να σπάσουν οι μηχανισμοί ασφαλείας που έχουν σχεδιαστεί για να εμποδίζουν τους ανθρώπους να δημιουργούν άσεμνες εικόνες με τεχνητή νοημοσύνη, σύμφωνα με την εταιρεία ανάλυσης κοινωνικών δικτύων Graphika.

Όπως σημειώνει το Blomberg, επί εβδομάδες οι χρήστες του διαδικτυακού φόρουμ 4chan έπαιρναν μέρος σε καθημερινούς διαγωνισμούς για να βρουν λέξεις και φράσεις που θα μπορούσαν να τους βοηθήσουν να παρακάμψουν τα φίλτρα σε δημοφιλείς υπηρεσίες δημιουργίας εικόνων, στις οποίες περιλαμβάνονται το Microsoft Designer και το DALL-E της OpenAI.

Ο απώτερος στόχος ήταν να δημιουργηθούν σεξουαλικές εικόνες εξέχουσας γυναικείας προσωπικότητας, όπως τραγουδίστριες και πολιτικοί.

«Ενώ οι viral πορνογραφικές εικόνες της Τέιλορ Σουίφτ έφεραν την προσοχή στο θέμα των μη συναινετικών προσωπικών εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη, δεν είναι καθόλου το μοναδικό θύμα» ανέφερε ανώτερη αναλύτρια της Graphika.

Στην κοινότητα του 4chan, όπου προέκυψαν αυτές οι εικόνες, δεν είναι καν το πιο συχνά στοχοποιημένο δημόσιο πρόσωπο. Αυτό δείχνει ότι οποιοσδήποτε μπορεί να γίνει στόχος με αυτόν τον τρόπο, από παγκόσμιες διασημότητες μέχρι παιδιά σχολείου» συμπλήρωσε η ίδια

Εκπρόσωπος του 4chan δεν απάντησε σε αίτημα για σχολιασμό.

Σύμφωνα με την ανάλυση της Graphika, τα deepfakes προήλθαν από το εν λόγω κανάλι στις αρχές Ιανουαρίου, πριν μετακινηθούν στο Telegram και στη συνέχεια στο X (πρώην Twitter), το οποίο αναγκάστηκε να μπλοκάρει όλες τις αναζητήσεις της Τέιλορ Σουίφτ αφού οι άσεμνες εικόνες προκάλεσαν κατακραυγή. Μία από τις εικόνες παρέμεινε στο X για 17 ώρες και είχε περισσότερες από 45 εκατομμύρια προβολές, σύμφωνα με το Verge.

Πολλές εταιρείες παραγωγής κειμένου σε εικόνα (text-to-image) έχουν απαγορεύσει ορισμένες λέξεις-κλειδιά για να σταματήσουν τους χρήστες να παράγουν επιβλαβές περιεχόμενο. Ωστόσο, ορισμένοι χρήστες στο 4chan και σε άλλα διαδικτυακά φόρουμ έχουν μοιραστεί συμβουλές για το πώς να παραβιάσουν αυτά τα μέτρα ασφαλείας.

«Αυτές οι εικόνες προήλθαν από μια κοινότητα ανθρώπων που παρακινούνται από την “πρόκληση” της παράκαμψης των δικλείδων ασφαλείας των προϊόντων γεννητικής τεχνητής νοημοσύνης και οι νέοι περιορισμοί θεωρούνται απλώς ένα ακόμη εμπόδιο που πρέπει να “νικηθεί”» υποστηρίζει η αναλύτρια της Gpraphika.

«Είναι σημαντικό να κατανοήσουμε την παιχνιδοποιημένη φύση αυτής της κακόβουλης δραστηριότητας, προκειμένου να αποτρέψουμε περαιτέρω κατάχρηση στην πηγή».

Υπενθυμίζεται πως ο Λευκός Οίκος στις ΗΠΑ εξέδωσε ανακοίνωση με την οποία καταδικάζει τις εικόνες της Σουίφτ, ενώ ο βουλευτής Τζο Μορέλ, Δημοκρατικός από τη Νέα Υόρκη, δήλωσε ότι ελπίζει το περιστατικό να τραβήξει την προσοχή στις προσπάθειές του να καταστήσει την πορνογραφία deepfake ομοσπονδιακό έγκλημα που δικαιολογεί πρόστιμα και ποινή φυλάκισης.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Grammy 2024: Η Taylor Swift έγραψε ιστορία – Τα κυριότερα βραβεία
• Ομόφυλα ζευγάρια: Ξεκινά η συζήτηση του νομοσχεδίου στη Βουλή