Το Instagram βάζει «φρένο» στον σεξουαλικό online εξαναγκασμό (sextortion) των εφήβων με τη βοήθεια της τεχνητής νοημοσύνης
Το Instagram θα αρχίσει να δοκιμάζει νέα εργαλεία εντός των επόμενων εβδομάδων για την καταπολέμηση του «sextortion», μιας μορφής σεξουαλικού online εξαναγκασμού που περιλαμβάνει προσωπικές φωτογραφίες που αποστέλλονται στο διαδίκτυο.
Τα εργαλεία περιλαμβάνουν την “προστασία γυμνού“, η οποία θολώνει τις γυμνές εικόνες στα άμεσα μηνύματα. Η λειτουργία θα είναι ενεργοποιημένη από προεπιλογή για άτομα κάτω των 18 ετών. Θα δοκιμαστούν επίσης αναδυόμενα παράθυρα που θα κατευθύνουν πιθανά θύματα σε υποστήριξη.
Οι κυβερνήσεις σε όλο τον κόσμο έχουν προειδοποιήσει για την αυξανόμενη απειλή που ονομάζεται οικονομικός εκβιασμός (sextortion), ο οποίος συχνά στοχεύει παιδιά και εφήβους. Μόλις αποσταλούν οι γυμνές φωτογραφίες, οι εκβιαστές ισχυρίζονται ότι θα τις δημοσιεύσουν στο διαδίκτυο, είτε σε δημόσιους ιστότοπους είτε σε ροές ειδήσεων όπου θα τις δουν οι φίλοι τους, εκτός αν τα θύματα στείλουν χρήματα ή δωροκάρτες.
Την Τετάρτη, δύο Νιγηριανοί άνδρες παραδέχθηκαν την ενοχή τους για σεξουαλικό εκβιασμό εφήβων και νεαρών ανδρών στις ΗΠΑ, συμπεριλαμβανομένου ενός θύματος που αυτοκτόνησε. Το αδίκημα έχει επίσης συνδεθεί πρόσφατα με την αυτοκτονία ενός εφήβου στην Αυστραλία, ενώ υπάρχουν επίσης τρομακτικές περιπτώσεις παιδεραστών που χρησιμοποιούν τον επωνομαζόμενο «sextortion» για εξαναγκασμό και κακοποίηση παιδιών.
“Φρικτικό έγκλημα”
«Πρόκειται για ένα πραγματικά φρικτό έγκλημα που εκμεταλλεύεται το γεγονός ότι κάνει τους ανθρώπους να αισθάνονται μόνοι και ντροπιασμένοι», δήλωσε στο CNN η Antigone Davis, διευθύντρια παγκόσμιας ασφάλειας της Meta. «Είναι δεδομένο πλέον ότι η εγκληματικότητα αυξάνεται και αυτός είναι ένας από τους λόγους που θέλουμε να είμαστε μπροστά και να διασφαλίσουμε ότι οι άνθρωποι γνωρίζουν τι κάνουμε καθώς εξελίσσουμε συνεχώς τα εργαλεία μας».
Τα τελευταία εργαλεία της Meta βασίζονται στα υπάρχοντα, σχετικά χαρακτηριστικά ασφαλείας για εφήβους της Meta, συμπεριλαμβανομένων αυστηρών ρυθμίσεων που αποτρέπουν την ανταλλαγή μηνυμάτων μεταξύ μη συνδεδεμένων λογαριασμών, την αύξηση των ειδοποιήσεων ασφαλείας και την επιλογή αναφοράς DM που απειλούν να μοιραστούν ή να ζητήσουν προσωπικές εικόνες. Πέρυσι, η Meta συνεργάστηκε με το National Center for Missing and Exploited Children (NCMEC) για την ανάπτυξη του Take It Down, μιας πλατφόρμας που επιτρέπει στους νέους να δημιουργούν ένα μοναδικό ψηφιακό αποτύπωμα για τις ρητές εικόνες που θέλουν να αφαιρεθούν από το διαδίκτυο.
Η Meta δήλωσε στο CNN ότι θα δοκιμάσει πρώτα τη λειτουργία προστασίας αναφορικά με τις γυμνές φωτογραφίες στα άμεσα μηνύματα του Instagram. Όταν αποστέλλεται μια εικόνα, η πλατφόρμα θα θολώνει την εικόνα και θα ενημερώνει τον παραλήπτη ότι περιέχει γυμνό. Η ειδοποίηση θα υπενθυμίζει επίσης στους χρήστες ότι δεν χρειάζεται να απαντήσουν και θα τους ρωτάει αν θέλουν να μπλοκάρουν τον αποστολέα. Μια ειδοποίηση θα εμφανίζεται επίσης όταν η πλατφόρμα ανιχνεύει ότι ένας χρήστης θέλει να στείλει μια γυμνή φωτογραφία, ωθώντας τον να το ξανασκεφτεί.
Το εργαλείο θα είναι ενεργοποιημένο από προεπιλογή για τους εφήβους κάτω των 18 ετών, αλλά και οι ενήλικες θα λαμβάνουν μια ειδοποίηση που θα τους ενθαρρύνει να ενεργοποιήσουν το εργαλείο.
Η Meta ανακοίνωσε ότι επεξεργάζεται επίσης τρόπους για τον εντοπισμό λογαριασμών που μπορεί να εμπλέκονται σε απάτες εξαναγκασμού, ανιχνεύοντας και παρακολουθώντας πιθανή συμπεριφορά εξαναγκασμού. Αυτό περιλαμβάνει τη δυσκολότερη αλληλεπίδραση με αυτούς τους λογαριασμούς, όπως το μπλοκάρισμα των εξερχόμενων μηνυμάτων, ή την ειδοποίηση των χρηστών που μπορεί να έχουν αλληλεπιδράσει με έναν λογαριασμό που έχει αφαιρεθεί για εξαναγκασμό.
Τον Νοέμβριο, η Meta προσχώρησε σε ένα πρόγραμμα που ονομάζεται Lantern, το οποίο λειτουργεί από την ομάδα του κλάδου Tech Coalition και επιτρέπει στις εταιρείες τεχνολογίας να μοιράζονται πληροφορίες σχετικά με λογαριασμούς και συμπεριφορές που παραβιάζουν την ασφάλεια των παιδιών.
