Deepfakes αλλαγής προσώπου: Το αυξανόμενο πρόβλημα που κοστίζει εκατομμύρια στους δημιουργούς

Από την Alexandra Sternlicht

Πέρυσι, η Ashley Suarez έμαθε ότι κάποιος είχε αναδημοσιεύσει εικόνες της όπου επιδείκνυε φορέματα και διαφορετικά στυλ μαλλιών στο Instagram χωρίς άδεια, έχοντας αντικαταστήσει το πρόσωπό της. Αυτός ο απατεώνας, με την επωνυμία Elizabeth Reid, χρησιμοποίησε τις εικόνες για να προσελκύσει πολλούς ακολούθους στα μέσα κοινωνικής δικτύωσης και να κερδίσει χρήματα από δώρα θαυμαστών και από πορνογραφία.

«Μου έστελναν πολλά από αυτά τα βίντεο, επειδή οι άνθρωποι αναγνώριζαν ότι το φόντο ήταν δικό μου, επειδή έφτιαχνα τα περισσότερα από τα TikTok στο σπίτι των γονιών μου», λέει η Suarez, η οποία κερδίζει τα προς το ζην από το μόντελινγκ και την προώθηση προϊόντων στο διαδίκτυο χάρη στους σχεδόν 500.000 ακολούθους της τόσο στο Instagram όσο και στο TikTok. «Μου είπαν: ‘Αυτό μοιάζει ακριβώς με το βίντεό σου, αλλά δεν είναι το πρόσωπό σου’».

Αυτό ήταν μόνο ένα από τα πολλά παραδείγματα που η Suarez γνωρίζει ότι το περιεχόμενό της κλάπηκε, αλλοιώθηκε και στη συνέχεια αναδημοσιεύτηκε στο διαδίκτυο. Η αυξανόμενη διαθεσιμότητα και η πολυπλοκότητα της λεγόμενης τεχνολογίας deepfake αλλαγής προσώπου (faceswap) έχει καταστήσει ευκολότερο από ποτέ για τους ανθρώπους να το καταφέρουν.

Με τη βοήθεια μικρών αλλαγών, οι υπεύθυνοι καθιστούν δύσκολο τον εντοπισμό κλεμμένων εικόνων με χρήση αυτοματισμού. Εντωμεταξύ, οι νόμοι περί πνευματικών δικαιωμάτων παρέχουν στην πρακτική κάποια προστασία βάσει εξαίρεσης για έργα που έχουν ελαφρώς αλλοιωθεί από το πρωτότυπο.

Πολλές εταιρείες μέσων κοινωνικής δικτύωσης φαίνεται να ήταν απροετοίμαστες για αυτή την εισβολή των εικόνων αντικατάστασης προσώπων και έχουν δημιουργήσει μεγάλα εμπόδια στους ιδιοκτήτες εικόνων που θέλουν να τις αφαιρέσουν. Μόλις πρόσφατα άρχισαν να είναι πιο επιθετικοί στην αντιμετώπιση του προβλήματος που αναμένεται να επιδεινωθεί.

Η Suarez έπεσε για πρώτη φορά θύμα ανταλλαγής προσώπων πριν από τρία χρόνια, όταν είδε περιεχόμενο που είχε τραβήξει στο σπίτι της οικογένειάς της στη Νάπολη της Φλόριντα, επανατοποθετημένο στο Instagram με ένα πρόσωπο που δεν ήταν δικό της. Εκείνη την εποχή, το είπε στους γονείς της, κάλεσε την αστυνομία και έκανε αναφορά για το περιεχόμενο στο Instagram. Όταν καμία από τις προσπάθειές της δεν απέδωσε, η Suarez διέγραψε τους λογαριασμούς της στα social media και άρχισε ψυχοθεραπεία. Λίγες εβδομάδες αργότερα, έφτασε σε ένα σημείο καμπής: Στράφηκε στο Takesdowns.AI, το οποίο σαρώνει το Διαδίκτυο για κλεμμένες εικόνες πελατών του ή εικόνες πελατών που έχουν τροποποιηθεί χρησιμοποιώντας τεχνητή νοημοσύνη, και ζητά από τις κοινωνικές πλατφόρμες να αφαιρέσουν το περιεχόμενο του απατεώνα.

«Συνειδητοποίησα ότι δεν ήθελα να ζω με φόβο», θυμάται η Suarez.

Ο διευθύνων σύμβουλος της Takedowns.AI, Kunal Anand, λέει ότι οι περιπτώσεις deepfakes αλλαγής προσώπου έχουν αυξηθεί κατά 500% τους τελευταίους μήνες. Τέτοιες εικόνες βρίσκονται σε TikTok, Instagram, Facebook και ιστότοπους όπως το Patreon και το Fanvue, όπου επιτρέπεται η πορνογραφία.

Η Takedowns.AI επικοινώνησε με το Instagram, αλλά της είπαν σε ένα μήνυμα ηλεκτρονικού ταχυδρομείου: «Δεν είναι σαφές ότι είστε ο κάτοχος των δικαιωμάτων ή έχετε εξουσιοδοτηθεί με άλλο τρόπο να υποβάλετε αυτήν την αναφορά για λογαριασμό του κατόχου των δικαιωμάτων». Το Instagram ζήτησε από τη Suarez να υποβάλει μια νέα αναφορά από τη διεύθυνση ηλεκτρονικού ταχυδρομείου της ή να απαντήσει με τεκμηρίωση που να δείχνει ότι ήταν εξουσιοδοτημένη να το κάνει. Αλλά αφού ακολούθησε τις οδηγίες, η Takedowns.AI έλαβε το ίδιο μήνυμα από το Instagram.

Απογοητευμένη, η Takedowns.AI πήρε την κατάσταση στα χέρια της και έστειλε μηνύματα απευθείας στον λογαριασμό που υποδυόταν τη Suarez και απείλησε με νομικά μέτρα, εκτός κι αν ο λογαριασμός διαγραφόταν. Λίγες μέρες αργότερα, ο λογαριασμός ‘Elizabeth Reid’ είχε εξαφανιστεί.

Οι υπηρεσίες της Takedowns.AI δεν είναι φθηνές. Η Suarez και η οικογένειά της πλήρωναν από 2.000 έως 3.000 δολάρια μηνιαίως για τις υπηρεσίες της, προτού προσλάβουν την εταιρεία σε διετή βάση το 2023 με μειωμένο τίμημα.

Η Suarez είπε ότι τα χρήματα που δαπανήθηκαν αξίζουν τον κόπο επειδή πλατφόρμες όπως το Instagram αρνούνται να αφαιρέσουν περιεχόμενο με βάση μόνο τις καταγγελίες των δημιουργών. Πιστεύει ότι η πλατφόρμα ακούει περισσότερο εταιρείες όπως η Takedowns.AI, η οποία μερικές φορές χρησιμοποιεί δικηγόρους για να στείλει παράπονα.

Αν και η δημιουργία εικόνων αντικατάστασης προσώπων μπορεί να φαίνεται περίπλοκη, εργαλεία τεχνητής νοημοσύνης όπως το Stable Diffusion και φόρουμ ανοιχτού κώδικα όπως το GitHub καθιστούν σχετικά εύκολο για τους ανθρώπους να το κάνουν χωρίς πολλές τεχνικές δεξιότητες. Μια ανάρτηση στο GitHub που οι άνθρωποι μπορούν να χρησιμοποιήσουν για προγραμματισμό αντικατάστασης προσώπου, το λογισμικό για τη χρήση τεχνητής νοημοσύνης για την αλλαγή φωτογραφιών, έχει συγκεντρώσει σχεδόν 50.000 likes.

Τα κέρδη για τους απατεώνες του faceswap μπορούν εύκολα να δικαιολογήσουν την προσπάθεια. Ένας χρήστης που δημοσιεύει σε ένα ανώνυμο φόρουμ προγραμματιστών λέει ότι έχει κερδίσει πάνω από 100.000 δολάρια από αυτό από τον Ιανουάριο.

Αρχικά, οι πλατφόρμες μέσων κοινωνικής δικτύωσης όπως το TikTok και η μητρική Meta του Facebook αρνήθηκαν γενικά να κάνουν οτιδήποτε ως απάντηση στα παράπονα της Takedowns.AI σχετικά με την αλλαγή προσώπων, λέει ο Anand. Ο λόγος, λέει, είναι ότι θεωρούσαν τις εν λόγω εικόνες ως «μεταμορφωτικά έργα», μια νομική εξαίρεση που επιτρέπει στους ανθρώπους να χρησιμοποιούν έργα -που προστατεύονται από πνευματικά δικαιώματα- χωρίς άδεια με διαφορετικό τρόπο ή ελαφρώς αλλαγμένα από το πρωτότυπο. Πολλοί δημιουργοί «χάνουν εκατομμύρια, παρόλο που χρησιμοποιείται το δικό τους περιεχόμενο, χωρίς καν να μπορούν να έχουν έσοδα από αυτό», επισημαίνει ο Anand.

Οι αλλαγές προσώπου ενδέχεται να μην είναι νόμιμες

Η Kristin Grant, διευθύνουσα εταίρος στη Grant Attorneys at Law που ειδικεύεται στην πνευματική ιδιοκτησία, αναγνωρίζει το νομικό εμπόδιο των μεταμορφωτικών έργων όταν πρόκειται για κλεμμένες εικόνες. Ωστόσο, λέει ότι δημιουργοί όπως η Suarez θα μπορούσαν να έχουν ισχυρή νομική αξίωση βάσει ενός διαφορετικού νόμου: δικαιώματα δημοσιότητας, που προστατεύουν μεταξύ άλλων από την κατάχρηση της ομοιότητας ενός ατόμου.

Οι νόμοι για τα δικαιώματα δημοσιότητας διαφέρουν ανάλογα με την πολιτεία, επομένως η ισχύς μιας υπόθεσης που αφορά faceswap απομιμήσεις εξαρτάται από το πού ζει ο δημιουργός. «Η χρήση της εικόνας κάποιου άλλου χωρίς την άδειά του για εμπορικούς σκοπού είναι παράνομη», λέει η Grant.

Οι κοινωνικές πλατφόρμες παλεύουν να συμβαδίσουν με τις εξελίξεις της τεχνητής νοημοσύνης

Πρόσφατα, ο Anand λέει ότι το Facebook, το Instagram και το TikTok άρχισαν να κάνουν καλύτερη δουλειά στην αφαίρεση εικόνων αντικατάστασης προσώπου μετά τις αναφορές της Takedowns.AI, σημειώνοντας ότι έχουν ακόμη περιθώρια βελτίωσης. Σύμφωνα με την εμπειρία του, όταν το Instagram αντιδρά σε μια καταγγελία αυτές τις μέρες, γενικά αφαιρεί μόνο την προσβλητική ανάρτηση και όχι ολόκληρο τον λογαριασμό.

Πρόσφατα, ορισμένες υπηρεσίες κοινωνικών μέσων άρχισαν να καταπολεμούν ευρύτερα το περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη.

Η Meta λέει ότι θα χρησιμοποιεί αυτοματισμούς και καταγγελίες από δημιουργούς περιεχομένου για να αποφασίζει πότε θα εφαρμόζει ετικέτες “made with AI” σε βίντεο, εικόνες και ήχο που δημιουργούνται από τεχνητή νοημοσύνη που δημοσιεύονται στις πλατφόρμες της, ώστε οι χρήστες να γνωρίζουν ότι έχουν δημιουργηθεί από υπολογιστές. Ο αυτοματισμός, ωστόσο, απέχει πολύ από το να είναι τέλειος και ο Anand της Takedowns.AI λέει ότι απέτυχε να εντοπίσει αντικαταστάσεις προσώπων σε πολλές περιπτώσεις και η εταιρεία του έπρεπε να τις επισημάνει στη Meta.

Σύμφωνα με τις πολιτικές της, η Meta δεν απαγορεύει προληπτικά περιεχόμενο που παραβιάζει τα πνευματικά δικαιώματα ή τα δικαιώματα εμπορικών σημάτων άλλων και καταργεί περιεχόμενο μόνο αφού κάποιος αναφέρει παραβίαση — ενώ ορισμένες φορές διατηρεί τον λογαριασμό. Δεν έχει πολιτική συγκεκριμένη για εικόνες ανταλλαγής προσώπων όπως αυτές που αφορούν τη Suarez.

Η Meta αρνήθηκε να σχολιάσει το παρόν άρθρο.

Εντωμεταξύ, μέχρι τις αρχές Μαΐου, το TikTok απαιτούσε από τους δημιουργούς να επισημαίνουν τα δικά τους βίντεο που είχαν δημιουργηθεί από τεχνητή νοημοσύνη και δεν είχε πολιτικές για την αντιμετώπιση των faceswaps. Το σύστημα έκανε ελάχιστα για να εμποδίσει τους faceswappers και άλλους να περνάνε περιεχόμενο δημιουργημένο από τεχνητή νοημοσύνη ως αυθεντικό στους 1 δισεκατομμύριο ενεργούς χρήστες της πλατφόρμας.

Τον Μάιο, η TikTok άλλαξε τις πολιτικές της και δήλωσε ότι θα συμμετάσχει με τους ανταγωνιστές της, τη Meta και το YouTube της Google, στην αυτόματη εφαρμογή μιας ετικέτας “AI-generated” σε βίντεο τεχνητής νοημοσύνης που δημοσιεύονται στην υπηρεσία της. Δεν είναι σαφές πόσο αποτελεσματικό είναι αυτό το εργαλείο για το TikTok.

Το TikTok αρνήθηκε να σχολιάσει το παρόν άρθρο.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Σε ανοδική τροχιά η αγορά real estate – Πού κυμαίνεται το κατασκευαστικό κόστος
• Ξεκινούν οι εκπτώσεις – Στόχος τζίρος άνω των 7 δισ. ευρώ του 2023
• Βαρκελώνη: «Φτάνει! Ας βάλουμε όρια στον τουρισμό» λένε οι οι κάτοικοι