Μπορεί η τεχνητή νοημοσύνη να …δαμάσει τα τρολ του διαδικτύου;
Αντιμέτωποι με έναν χείμαρρο μίσους και επιθετικότητας, οι άνθρωποι εγκαταλείπουν τα κοινωνικά μέσα.
του Τζεφ Τζον Ρόμπερτς
Έχετε ποτέ υποστεί επίθεση από τρολ στα κοινωνικά μέσα; Εγώ έχω. Τον Δεκέμβριο, ένα σκωπτικό tweet από τον Ντέιβιντ Ντιουκ, ρατσιστή – υπέρμαχο της ανωτερότητας της λευκής φυλής, οδήγησε τους υποστηρικτές του να μετατρέψουν τον λογαριασμό μου στο Twitter σε χαβούζα ναζιστικού παραληρήματος και ενοχλητικών προσωπικών προσβολών. Όλο αυτό κράτησε για μέρες.
Η αλήθεια είναι ότι χάνουμε τον πόλεμο με τα τρολ στο διαδίκτυο. Αντιμέτωποι με έναν χείμαρρο μίσους και επιθετικότητας, οι άνθρωποι εγκαταλείπουν τα κοινωνικά μέσα και οι ιστοσελίδες αφαιρούν τη δυνατότητα υποβολής σχολίων. Ποιος θέλει να είναι μέρος μιας διαδικτυακής κοινότητας που κυβερνάται από τρελούς; Ευτυχώς, αυτή η απαισιοδοξία μπορεί να είναι πρόωρη.
Μια νέα στρατηγική υπόσχεται να δαμάσει τα trolls και αναζωογονήσει τη συζήτηση μεταξύ των πολιτών στο Διαδίκτυο. Σχεδιασμένο από τη Jigsaw, μια δεξαμενή σκέψης εντός της Alphabet, μητρικής εταιρείας της Google, το εργαλείο βασίζεται στην τεχνητή νοημοσύνη και θα μπορούσε να λύσει το πρόβλημα του ελέγχου των διαδικτυακών σχολίων.
Για να εξηγήσει τι καλείται το Jigsaw να αντιμετωπίσει, ο επικεφαλής ερευνητής Λούκας Ντίξον συγκρίνει το πρόβλημα των τρολ με το πρόβλημα των λεγόμενων «επιθέσεων άρνησης υπηρεσίας», στις οποίες οι επιτιθέμενοι κατακλύζουν μια ιστοσελίδα με κίνηση για να τη βγάλουν offline. «Αντί να πλημμυρίζουν την ιστοσελίδα σας με κίνηση, κατακλύζουν την ενότητα των σχολίων σας ή το κοινωνικό μέσο ή το hashtag σας έτσι ώστε κανένας άλλος να μην μπορεί να πει οτιδήποτε άλλο, και ουσιαστικά ελέγχουν τη συζήτηση», λέει ο Ντίξον.
Η λύση στο πρόβλημα έγκειται στον τεράστιο όγκο δεδομένων και στη βαθιά μάθηση, ένα ταχέως εξελισσόμενο υπο-πεδίο της τεχνητής νοημοσύνης που μιμείται τα νευρωνικά δίκτυα του εγκεφάλου. Η βαθιά μάθηση οδήγησε σε αξιόλογα επιτεύγματα στα μεταφραστικά εργαλεία της Google.
Στην περίπτωση των σχολίων, η Jigsaw χρησιμοποιεί εκατομμύρια σχόλια από τους New York Times και τη Wikipedia για να εκπαιδεύει τις μηχανές να αναγνωρίζουν χαρακτηριστικά όπως η επιθετικότητα και η ασυνάφεια.
Και κάπως έτσι, μια ιστοσελίδα όπως αυτή των Times, η οποία έχει τους πόρους για να ελέγχει μόνο περίπου το 10% των άρθρων της για σχόλια, θα μπορεί σύντομα να εκμεταλλευτεί αλγόριθμους για να δεκαπλασιάσει αυτή τη δυνατότητα. Παρόλο που το ύφος και το λεξιλόγιο στην ενότητα σχολίων ενός μέσου μπορούν να είναι ριζικά διαφορετικά από εκείνα ενός άλλου μέσου, η Jigsaw λέει ότι θα είναι σε θέση να προσαρμόσει τα εργαλεία της για χρήση σε ένα ευρύ φάσμα ιστοσελίδων.
Στην πράξη, αυτό σημαίνει ότι ένα μικρό blog ή ένας διαδικτυακός πωλητής λιανικής θα είναι σε θέση να «ανοίγει» την ενότητα των σχολίων χωρίς το φόβο ότι αυτή θα μετατραπεί σε …πάρτι για τα διαδικτυακά τρολ.
