Ψεύτικοι influencers, πραγματικά χρήματα: Η σκοτεινή πλευρά της τεχνητής νοημοσύνης
Τον περασμένο χειμώνα, κυκλοφόρησαν μερικές ειδήσεις για το πώς η τεχνητή νοημοσύνη (AI) μπορεί να αντικαταστήσει τους ανθρώπους σε μια απροσδόκητη εργασία: αυτή του διαδικτυακού influencer. Τα άρθρα ανέφεραν ότι μια νέα γενιά influencers στο Instagram είχε αποκτήσει μεγάλο αριθμό ακολούθων και είχε εξασφαλίσει συμφωνίες με brands. Υπήρχε, όμως, μια λεπτομέρεια: οι influencers αυτοί ήταν AI.
Κάποιοι από αυτούς, όπως η Lil Miquela, αποτελούν μια καλλιτεχνική κριτική στη φύση της επιρροής ή κάτι εννοιολογικά ενδιαφέρον. Όταν, όμως, ερεύνησα έναν από τους AI influencers στο Instagram — έναν που φέρεται να είχε συνάψει συμφωνίες με brands — βρήκα μια διαφορετική ιστορία.
Ένας από τους πιο δημοφιλείς AI influencers είχε έναν σύνδεσμο στο bio του που οδηγούσε σε ένα προφίλ στο Fanvue, έναν ανταγωνιστή του OnlyFans. Στον λογαριασμό του στο Fanvue, ο influencer δημοσίευε προκλητικές φωτογραφίες — και με συνδρομή $7 το μήνα, μπορούσα να δω γυμνές φωτογραφίες του. (Αισθάνομαι περίεργα να λέω “αυτή” και “γυμνή” γιατί αυτό το άτομο δεν υπάρχει. Θυμηθείτε: Είναι AI. Αλλά αυτή είναι η πραγματικότητα του 2024, υποθέτω.)
Η επιχείρηση ήταν πάντα η πορνογραφία — το Instagram και τα άλλα μέσα κοινωνικής δικτύωσης ήταν απλώς η κορυφή του funnel για την προσέλκυση πελατών. Αυτοί οι λογαριασμοί δεν προσπαθούσαν να γίνουν “Instagram influencers” που κερδίζουν χρήματα προωθώντας σαμπουάν — χρησιμοποιούσαν το Instagram για να κατευθύνουν την κίνηση στο Fanvue, όπου μπορούσαν να πείσουν τους άντρες να πληρώσουν για να δουν γυμνές φωτογραφίες.
Όταν οι πιθανοί πελάτες έφταναν στις συνδρομητικές πλατφόρμες, έβρισκαν περισσότερες εικόνες και βίντεο που είχαν δημιουργηθεί από AI.
Η ιστοσελίδα τεχνολογικών ειδήσεων 404 Media δημοσίευσε πρόσφατα μια αναλυτική έρευνα με τίτλο “Μέσα στη Ραγδαία Αναπτυσσόμενη Βιομηχανία της ‘AI Πορνείας’”. Οι δημοσιογράφοι βρήκαν έναν εκπληκτικό αριθμό λογαριασμών που τροφοδοτούνται από AI στο OnlyFans και το Fanvue. Αυτό που ανησυχεί περισσότερο είναι ότι μερικοί από αυτούς τους λογαριασμούς χρησιμοποιούν εικόνες που δεν είναι αμιγώς δημιουργημένες από AI. Κάποιες είναι deepfakes — ψεύτικες εικόνες πραγματικών ανθρώπων — ή face swaps, όπου το πρόσωπο κάποιου τοποθετείται σε ένα σώμα δημιουργημένο από AI.
Υπάρχει επίσης μια παράλληλη οικονομία ανθρώπων που πωλούν οδηγούς και μαθήματα για το πώς άλλοι μπορούν να δημιουργήσουν τις δικές τους επιχειρήσεις με μοντέλα AI. Ένα άτομο πωλεί ένα μάθημα για $220 σχετικά με το πώς να κερδίσει χρήματα με influencers για ενήλικες που δημιουργούνται από AI.
Influencers: Επάγγελμα… σε κρίση
25/11/2024Ένας εκπρόσωπος του Fanvue δήλωσε στο Business Insider ότι η χρήση εικόνων που κλέβουν την ταυτότητα κάποιου άλλου παραβιάζει τους κανόνες της πλατφόρμας. Το Fanvue χρησιμοποιεί ένα εργαλείο τρίτης εταιρείας για moderation, καθώς και ανθρώπινους moderators. Ο εκπρόσωπος πρόσθεσε ότι τα deepfakes αποτελούν «πρόκληση για τη βιομηχανία». Οι όροι χρήσης του OnlyFans απαγορεύουν στους δημιουργούς να χρησιμοποιούν AI chatbots και επιτρέπουν περιεχόμενο AI μόνο αν οι χρήστες μπορούν να καταλάβουν ότι είναι AI και μόνο αν το περιεχόμενο απεικονίζει τον πιστοποιημένο δημιουργό — όχι κάποιον άλλο.
Πέρα από το ζήτημα των κλεμμένων εικόνων, η ύπαρξη περιεχομένου για ενήλικες από AI είναι αμφιλεγόμενη. Από τη μία, κάποιοι δημιουργοί AI ισχυρίζονται ότι αυτό δεν διαφέρει από την πορνογραφία κινουμένων σχεδίων. Από την άλλη, πραγματικοί δημιουργοί περιεχομένου για ενήλικες ανησυχούν για τον αντίκτυπο του AI στις δουλειές τους. Ορισμένοι ανέφεραν πρόσφατα στη Marta Biino του Business Insider ότι βρίσκουν χρήσιμα τα εργαλεία AI — όπως chatbots που χρησιμοποιούν για να μιλούν με τους θαυμαστές τους. Ωστόσο, ανησυχούν ότι η χρήση του AI θα μπορούσε να διαβρώσει την εμπιστοσύνη των θαυμαστών.
Δεν είμαι βέβαιος ότι οι θαυμαστές αυτών των λογαριασμών AI γνωρίζουν πάντα ότι αυτά τα “άτομα” είναι τεχνητή νοημοσύνη. Σχόλια σε έναν λογαριασμό μιας προφανώς AI δημιουργημένης γυναίκας έδειχναν ότι πολλοί νόμιζαν πως είναι άνθρωπος. Στο Fanvue της, η AI δημιουργημένη γυναίκα δημοσιεύει μερικές φορές anime εκδοχές του εαυτού της με ροζ μαλλιά.
Σε μία από αυτές τις δημοσιεύσεις, ένας πελάτης του Fanvue έγραψε ότι ήθελε να δει το ρούχο στη «πραγματική γυναίκα» — όχι στην anime εκδοχή. Δεν είμαι σίγουρος αν γνωρίζει ότι καμία από τις δύο δεν είναι πραγματική.
