Τεχνητή νοημοσύνη και τρομοκρατία: Οι καταγγελίες στην Google για τα deepfake

Η Google ενημέρωσε τις αυστραλιανές αρχές ότι έλαβε περισσότερες από 250 καταγγελίες σε παγκόσμιο επίπεδο σε διάστημα σχεδόν ενός έτους ότι το λογισμικό τεχνητής νοημοσύνης της χρησιμοποιήθηκε για την παραγωγή υλικού για την τρομοκρατία.

Ο τεχνολογικός γίγαντας που ανήκει στην Alphabet δήλωσε επίσης ότι έλαβε δεκάδες αναφορές χρηστών που προειδοποιούσαν ότι το πρόγραμμα τεχνητής νοημοσύνης της, το Gemini, χρησιμοποιήθηκε για τη δημιουργία υλικού κακοποίησης παιδιών, σύμφωνα με την αυστραλιανή Επιτροπή eSafety.

Σύμφωνα με την αυστραλιανή νομοθεσία, οι εταιρείες τεχνολογίας πρέπει να παρέχουν περιοδικά στην Επιτροπή eSafety πληροφορίες σχετικά με τις προσπάθειες ελαχιστοποίησης της βλάβης, διαφορετικά κινδυνεύουν με πρόστιμα. Η περίοδος αναφοράς κάλυψε την περίοδο από τον Απρίλιο του 2023 έως τον Φεβρουάριο του 2024.

Από τότε που το ChatGPT της OpenAI εισέβαλε στη δημόσια «σφαίρα» στα τέλη του 2022, οι ρυθμιστικές αρχές σε όλο τον κόσμο ζήτησαν καλύτερες προστατευτικές εξασφαλίσεις ώστε η τεχνητή νοημοσύνη να μην μπορεί να χρησιμοποιηθεί για να επιτρέψει την τρομοκρατία, την απάτη, την πορνογραφία και άλλες καταχρήσεις.

Η Επιτροπή eSafety της Αυστραλίας χαρακτήρισε την αποκάλυψη της Google «παγκόσμια πρώτη εικόνα» για το πώς οι χρήστες μπορεί να εκμεταλλεύονται την τεχνολογία για την παραγωγή επιβλαβούς και παράνομου περιεχομένου.

«Αυτό υπογραμμίζει πόσο κρίσιμο είναι για τις εταιρείες που αναπτύσσουν προϊόντα τεχνητής νοημοσύνης να ενσωματώνουν και να δοκιμάζουν την αποτελεσματικότητα των δικλείδων ασφαλείας για να αποτρέψουν την παραγωγή αυτού του είδους υλικού», ανέφερε σε δήλωσή της η Επίτροπος eSafety Τζούλι Ίνμαν Γκραντ.

Στην έκθεσή της, η Google ανέφερε ότι έλαβε 258 αναφορές χρηστών σχετικά με ύποπτο περιεχόμενο τρομοκρατικού ή βίαιου εξτρεμιστικού περιεχομένου που δημιουργήθηκε με τη χρήση του Gemini και άλλες 86 αναφορές χρηστών που ισχυρίζονται ότι δημιουργήθηκε υλικό εκμετάλλευσης ή κακοποίησης παιδιών με τεχνητή νοημοσύνη.

Δεν ανέφερε πόσες από τις καταγγελίες επαλήθευσε, σύμφωνα με τη ρυθμιστική αρχή.

Η Google χρησιμοποίησε το hatch-matching – ένα σύστημα αυτόματης αντιστοίχισης των εικόνων που φορτώθηκαν πρόσφατα με ήδη γνωστές εικόνες – για να εντοπίσει και να αφαιρέσει υλικό κακοποίησης παιδιών που έγινε με το Gemini.

Αλλά δεν χρησιμοποίησε το ίδιο σύστημα για να εξαλείψει τρομοκρατικό ή βίαιο εξτρεμιστικό υλικό που δημιουργήθηκε με το Gemini, πρόσθεσε η ρυθμιστική αρχή.

Η ρυθμιστική αρχή έχει επιβάλει πρόστιμα στην Telegram και στο Twitter, που αργότερα μετονομάστηκε σε X, για τις ελλείψεις που αποκάλεσε ελλείψεις στις εκθέσεις τους. Το X έχασε μία έφεση σχετικά με το πρόστιμο των 610.500 δολαρίων Αυστραλίας (382.000 δολάρια), αλλά σχεδιάζει να ασκήσει εκ νέου έφεση. Η Telegram σχεδιάζει επίσης να προσβάλει το πρόστιμό της.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Alibaba: Στροφή στην «υπερ-νοημοσύνη» και επενδύσεις δισεκατομμυρίων στην AGI
• ASML: Πώς η οικονομική αβεβαιότητα έπληξε την αγορά των ημιαγωγών το 2024;