OpenAI: Γιατί μπλόκαρε εκατοντάδες χιλιάδες deepfakes ενόψει των εκλογών
- 11/11/2024, 16:00
- SHARE
Σε πρόσφατη ανάρτησή της, η OpenAI ανακοίνωσε ότι απέκλεισε περισσότερα από 250.000 αιτήματα για δημιουργία εικόνων των υποψηφίων στις προεδρικές εκλογές των ΗΠΑ την περασμένη Τρίτη. Τα αιτήματα αφορούσαν εικόνες που περιλάμβαναν τον εκλεγμένο πρόεδρο Ντόναλντ Τραμπ, την αντιπρόεδρο Κάμαλα Χάρις, τον πρόεδρο Τζο Μπάιντεν, τον κυβερνήτη της Μινεσότα Τιμ Ουόλζ και τον εκλεγμένο αντιπρόεδρο Τζέι Ντι Βανς.
Η αύξηση της Τεχνητής Νοημοσύνης γενετικής παραγωγής (generative AI) έχει προκαλέσει ανησυχίες σχετικά με τον τρόπο που η τεχνολογία αυτή μπορεί να δημιουργήσει και να διαδώσει παραπληροφόρηση, ειδικά ενόψει εκλογών. Σύμφωνα με την εταιρεία μηχανικής μάθησης Clarity, ο αριθμός των deepfakes (ψεύτικων εικόνων ή βίντεο) έχει αυξηθεί κατά 900% σε σχέση με το προηγούμενο έτος. Ορισμένα από αυτά τα deepfakes, σύμφωνα με αξιωματούχους των αμερικανικών μυστικών υπηρεσιών, έχουν δημιουργηθεί ή χρηματοδοτηθεί από ξένους δρώντες, όπως οι Ρώσοι, με στόχο να διαταράξουν τις εκλογές των ΗΠΑ.
Σε μια έκθεση 54 σελίδων που δημοσίευσε τον Οκτώβριο, η OpenAI ανέφερε ότι έχει αποτρέψει περισσότερες από 20 προσπάθειες παραπλάνησης που προσπάθησαν να χρησιμοποιήσουν τα μοντέλα της για χειραγώγηση. Αυτές οι προσπάθειες περιλάμβαναν άρθρα γραμμένα από Τεχνητή Νοημοσύνη σε ιστοσελίδες, και αναρτήσεις σε κοινωνικά δίκτυα από ψεύτικους λογαριασμούς. Ωστόσο, η εταιρεία σημείωσε ότι καμία από αυτές τις προσπάθειες δεν κατάφερε να αποκτήσει σημαντική viral αναγνωρισιμότητα ή να επηρεάσει το αποτέλεσμα των εκλογών.
Παρά τις προφυλάξεις αυτές, οι νομοθέτες παραμένουν ανήσυχοι για τους κινδύνους παραπληροφόρησης στην εποχή της γενετικής Τεχνητής Νοημοσύνης, η οποία απέκτησε ευρεία διάδοση με την κυκλοφορία του ChatGPT στα τέλη του 2022. Τα μοντέλα AI, παρά την ισχύ τους, εξακολουθούν να παράγουν ανακριβείς ή παραπλανητικές πληροφορίες.
Η Αλεξάντρα Ριβ Γκίβενς, διευθύνουσα σύμβουλος του μη κερδοσκοπικού οργανισμού Center for Democracy and Technology προέτρεψε τους ψηφοφόρους να μη βασίζονται σε chatbots Τεχνητής Νοημοσύνης για πληροφορίες σχετικά με τις εκλογές, επικαλούμενη τις ανησυχίες για την ακρίβεια και την αξιοπιστία.