Το Ευρωκοινοβούλιο υπερψήφισε τους πρώτους κανόνες για την τεχνητή νοημοσύνη στον κόσμο
Το Ευρωπαϊκό Κοινοβούλιο υπερψήφισε την Τετάρτη το πρώτο ολοκληρωμένο σύνολο κανόνων τεχνητής νοημοσύνης στον κόσμο.
Ο κανονισμός, που συμφωνήθηκε σε διαπραγματεύσεις με τα κράτη μέλη τον Δεκέμβριο του 2023, εγκρίθηκε από τους ευρωβουλευτές με 523 ψήφους υπέρ, 46 κατά και 49 αποχές.
Στόχος του είναι η προστασία των θεμελιωδών δικαιωμάτων, της δημοκρατίας, του κράτους δικαίου και της περιβαλλοντικής βιωσιμότητας από την ΑΙ υψηλού κινδύνου, ενώ παράλληλα ενισχύει την καινοτομία και καθιερώνει την Ευρώπη ως ηγέτη στον τομέα αυτό. Ο κανονισμός θεσπίζει υποχρεώσεις για την AI με βάση τους δυνητικούς κινδύνους και το επίπεδο των επιπτώσεών της.
Απαγορευμένες εφαρμογές
Οι νέοι κανόνες απαγορεύουν ορισμένες εφαρμογές τεχνητής νοημοσύνης που απειλούν τα δικαιώματα των πολιτών, συμπεριλαμβανομένων των συστημάτων βιομετρικής κατηγοριοποίησης με βάση ευαίσθητα χαρακτηριστικά και της μη στοχευμένης απόσπασης εικόνων προσώπου από το διαδίκτυο ή βίντεο από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου.
Απαγορεύεται επίσης η αναγνώριση συναισθημάτων στο χώρο εργασίας και στα σχολεία, η κοινωνική βαθμολόγηση, η προγνωστική αστυνόμευση (όταν βασίζεται αποκλειστικά στη δημιουργία προφίλ ενός ατόμου ή στην αξιολόγηση των χαρακτηριστικών του) και η ΤΝ που χειραγωγεί την ανθρώπινη συμπεριφορά ή εκμεταλλεύεται τα τρωτά σημεία των ανθρώπων.
Εξαιρέσεις
Η χρήση συστημάτων βιομετρικής ταυτοποίησης (RBI) από τις αρχές επιβολής του νόμου απαγορεύεται καταρχήν, εκτός από εξαντλητικά απαριθμούμενες και στενά καθορισμένες καταστάσεις.
Το RBI “πραγματικού χρόνου” μπορεί να αναπτυχθεί μόνο εάν τηρούνται αυστηρές εγγυήσεις, π.χ. η χρήση του είναι περιορισμένη χρονικά και γεωγραφικά και υπόκειται σε ειδική προηγούμενη δικαστική ή διοικητική άδεια. Τέτοιες χρήσεις μπορεί να περιλαμβάνουν, για παράδειγμα, τη στοχευμένη αναζήτηση ενός αγνοούμενου προσώπου ή την πρόληψη τρομοκρατικής επίθεσης. Η χρήση τέτοιων συστημάτων εκ των υστέρων (“post-remote RBI”) θεωρείται περίπτωση χρήσης υψηλού κινδύνου, η οποία απαιτεί δικαστική άδεια και συνδέεται με ποινικό αδίκημα.
Υποχρεώσεις για συστήματα υψηλού κινδύνου
Σαφείς υποχρεώσεις προβλέπονται επίσης για άλλα συστήματα AI υψηλού κινδύνου (λόγω της σημαντικής δυνητικής βλάβης που μπορεί να προκαλέσουν στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου).
Παραδείγματα χρήσεων AI υψηλού κινδύνου περιλαμβάνουν κρίσιμες υποδομές, εκπαίδευση και επαγγελματική κατάρτιση, απασχόληση, βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. υγειονομική περίθαλψη, τράπεζες), ορισμένα συστήματα επιβολής του νόμου, μετανάστευσης και διαχείρισης των συνόρων, δικαιοσύνης και δημοκρατικών διαδικασιών (π.χ. επηρεασμός εκλογών).
Τα εν λόγω συστήματα πρέπει να αξιολογούν και να μειώνουν τους κινδύνους, να τηρούν αρχεία καταγραφής της χρήσης, να είναι διαφανή και ακριβή και να εξασφαλίζουν την ανθρώπινη εποπτεία.
Οι πολίτες θα έχουν το δικαίωμα να υποβάλλουν καταγγελίες σχετικά με τα συστήματα AI και να λαμβάνουν εξηγήσεις σχετικά με τις αποφάσεις που βασίζονται σε συστήματα AI υψηλού κινδύνου και επηρεάζουν τα δικαιώματά τους.
Απαιτήσεις διαφάνειας
Τα συστήματα τεχνητής νοημοσύνης γενικού σκοπού (GPAI) και τα μοντέλα GPAI στα οποία βασίζονται, πρέπει να πληρούν ορισμένες απαιτήσεις διαφάνειας, συμπεριλαμβανομένης της συμμόρφωσης με τη νομοθεσία της ΕΕ περί πνευματικών δικαιωμάτων και της δημοσίευσης λεπτομερών περιλήψεων του περιεχομένου που χρησιμοποιείται για την εκπαίδευση.
Τα πιο ισχυρά μοντέλα GPAI που θα μπορούσαν να θέσουν συστημικούς κινδύνους θα αντιμετωπίσουν πρόσθετες απαιτήσεις, συμπεριλαμβανομένης της διενέργειας αξιολογήσεων μοντέλων, της εκτίμησης και του μετριασμού των συστημικών κινδύνων και της υποβολής εκθέσεων σχετικά με περιστατικά.
Επιπλέον, οι τεχνητές ή παραποιημένες εικόνες, ο ήχος ή το περιεχόμενο βίντεο (deepfakes) πρέπει να επισημαίνονται σαφώς ως τέτοια.
Στήριξη της καινοτομίας και των ΜμΜ
Θα πρέπει να δημιουργηθούν σε εθνικό επίπεδο ρυθμιστικές “θυρίδες” και δοκιμές σε πραγματικές συνθήκες, οι οποίες θα είναι προσβάσιμες σε μικρομεσαίες επχειρήσες και νεοφυείς επιχειρήσεις, για την ανάπτυξη και την εκπαίδευση καινοτόμων AI πριν από τη διάθεσή τους στην αγορά.
Δηλώσεις
Κατά τη συζήτηση στην ολομέλεια την Τρίτη, ο συνεισηγητής της Επιτροπής Εσωτερικής Αγοράς, Μπράνοτ Μπενιφέι, δήλωσε: «Έχουμε επιτέλους την πρώτη νομοθεσία στον κόσμο για την τεχνητή νοημοσύνη, για τη μείωση των κινδύνων, τη δημιουργία ευκαιριών, την καταπολέμηση των διακρίσεων και την επίτευξη διαφάνειας. Χάρη στο Κοινοβούλιο, η Ευρώπη απαγορεύει απαράδεκτες χρήσεις της τεχνητής νοημοσύνης και προστατεύει τα δικαιώματα εργαζομένων και πολιτών. Η νέα Υπηρεσία Τεχνητής Νοημοσύνης που θα συσταθεί θα υποστηρίξει τις εταιρείες προκειμένου να αρχίσουν να συμμορφώνονται με τους κανόνες πριν από την έναρξη ισχύος τους. Διασφαλίσαμε ότι οι άνθρωποι και οι ευρωπαϊκές αξίες βρίσκονται στο επίκεντρο της ανάπτυξης της τεχνητής νοημοσύνης».
Ο συνεισηγητής της Επιτροπής Πολιτικών Ελευθεριών, Ντράγκος Τουντοράτς, δήλωσε: «Η ΕΕ πέτυχε. Έχουμε συνδέσει την έννοια της τεχνητής νοημοσύνης με τις δημοκρατικές αξίες που αποτελούν το θεμέλιο των κοινωνιών μας. Ωστόσο, υπάρχει πολλή δουλειά πέρα από την νομοθεσία αυτή για την τεχνητή νοημοσύνη. Η τεχνολογία θα μας ωθήσει να επανεξετάσουμε το κοινωνικό συμβόλαιο που βρίσκεται στην καρδιά των δημοκρατιών μας, τα εκπαιδευτικά μας μοντέλα, τις αγορές εργασίας και τον τρόπο με τον οποίο διεξάγουμε πόλεμο. Η νομοθεσία για την τεχνητή νοημοσύνη αποτελεί σημείο εκκίνησης για ένα νέο μοντέλο διακυβέρνησης που βασίζεται στην τεχνολογία. Πρέπει τώρα να επικεντρωθούμε στην εφαρμογή αυτού των κανόνων στην πράξη».
Επόμενα βήματα
Ο κανονισμός θα υποβληθεί πλέον σε τελικό έλεγχο από γλωσσομαθείς νομικούς της ΕΕ και αναμένεται να εγκριθεί οριστικά πριν από το τέλος της κοινοβουλευτικής περιόδου (η λεγόμενη διαδικασία διορθωτικού κειμένου). Ο κανονισμός θα πρέπει επίσης να εγκριθεί επίσημα και από το Συμβούλιο.
Θα τεθεί σε ισχύ 20 ημέρες μετά τη δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης και θα αρχίσει να εφαρμόζεται πλήρως 24 μήνες μετά την έναρξη της ισχύος του. Εξαίρεση θα αποτελέσουν οι εξής διατάξεις του: η καθολική απαγόρευση ορισμένων πρακτικών που θα αρχίσει να εφαρμόζεται έξι μήνες μετά την έναρξη ισχύος του κανονισμού, οι κώδικες δεοντολογίας (εννέα μήνες μετά την έναρξη ισχύος), οι κανόνες για την τεχνητή νοημοσύνη γενικής χρήσης, συμπεριλαμβανομένων των κανόνων για τη διακυβέρνηση (12 μήνες μετά την έναρξη ισχύος), και οι υποχρεώσεις για συστήματα υψηλού κινδύνου (36 μήνες).
