Γιατί οι δημιουργοί της τεχνητής νοημοσύνης «φοβούνται» τις συνέπειές της

Οι κορυφαίοι επιστήμονες της τεχνητής νοημοσύνης παγκοσμίως προτρέπουν τις κυβερνήσεις να συνεργαστούν για να ρυθμίσουν την τεχνολογία πριν να είναι πολύ αργά.

Τρεις νικητές του βραβείου Turing -πρόκειται για το βραβείο Νόμπελ στην Επιστήμη των Υπολογιστών- που βοήθησαν στην έρευνα και ανάπτυξη της τεχνητής νοημοσύνης, ενώθηκαν με δώδεκα κορυφαίους επιστήμονες από όλο τον κόσμο υπογράφοντας μια ανοιχτή επιστολή που ζητά τη δημιουργία καλύτερων δικλείδων ασφαλείας για την προώθηση της τεχνητής νοημοσύνης.

Οι επιστήμονες ισχυρίστηκαν ότι καθώς η τεχνολογία τεχνητής νοημοσύνης εξελίσσεται γρήγορα, οποιοδήποτε λάθος ή κακή χρήση θα μπορούσε να έχει σοβαρές συνέπειες για την ανθρωπότητα.

«Η απώλεια του ανθρώπινου ελέγχου ή η κακόβουλη χρήση αυτών των συστημάτων τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει σε καταστροφικά αποτελέσματα για όλη την ανθρωπότητα», αναφέρουν οι επιστήμονες στην επιστολή. Και προειδοποιούν επίσης ότι με τον γρήγορο ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, αυτά τα «καταστροφικά αποτελέσματα» θα μπορούσαν να έρθουν οποιαδήποτε μέρα.

Οι επιστήμονες περιγράφουν τα ακόλουθα βήματα για να αρχίσουμε να αντιμετωπίζουμε άμεσα τον κίνδυνο κακόβουλης χρήσης της τεχνητής νοημοσύνης:

Κυβερνητικά όργανα ασφάλειας τεχνητής νοημοσύνης

Οι κυβερνήσεις πρέπει να συνεργαστούν όσον αφορά την ασφάλεια της τεχνητής νοημοσύνης. Ορισμένες από τις ιδέες των επιστημόνων περιλαμβάνουν την ενθάρρυνση των χωρών να αναπτύξουν συγκεκριμένες αρχές που να ανταποκρίνονται σε «συμβάντα» και κινδύνους τεχνητής νοημοσύνης εντός των συνόρων τους. Αυτές οι αρχές ιδανικά θα συνεργάζονται μεταξύ τους και μακροπρόθεσμα, θα πρέπει να δημιουργηθεί ένας νέος διεθνής οργανισμός για να αποτρέψει την ανάπτυξη μοντέλων τεχνητής νοημοσύνης που ενέχουν κινδύνους για τον κόσμο.

«Αυτό το όργανο θα διασφαλίζει ότι τα κράτη υιοθετούν και εφαρμόζουν ένα ελάχιστο σύνολο αποτελεσματικών μέτρων ετοιμότητας για την ασφάλεια, συμπεριλαμβανομένης της καταχώρισης και αποκάλυψης μοντέλων», ανέφερε η επιστολή.

Δεσμεύσεις προγραμματιστών για την ασφάλεια της τεχνητής νοημοσύνης

Μια άλλη ιδέα είναι να απαιτηθεί από τους προγραμματιστές να είναι ξεκάθαροι όσον αφορά την εγγύηση της ασφάλειας των μοντέλων τους, δεσμευόμενοι ότι δεν θα περάσουν τις κόκκινες γραμμές. Οι προγραμματιστές θα δεσμευτούν να μην δημιουργήσουν τεχνητή νοημοσύνη «που μπορεί αυτόνομα να αναπαράγει, να βελτιώνει ή να αναζητά ισχύ ή να εξαπατά τους δημιουργούς της, ή να επιτρέπει την κατασκευή όπλων μαζικής καταστροφής και τη διεξαγωγή κυβερνοεπιθέσεων», όπως αναφέρθηκε σε δήλωση κορυφαίων επιστημόνων κατά τη διάρκεια συνάντησης στο Πεκίνο πέρυσι.

Ανεξάρτητοι έλεγχοι έρευνας και τεχνολογίας στην τεχνητή νοημοσύνη

Μια άλλη πρόταση είναι η δημιουργία μιας σειράς παγκόσμιων funds για την ασφάλεια και την επαλήθευση της τεχνητής νοημοσύνης, που θα χρηματοδοτούνται από κυβερνήσεις, φιλάνθρωπους και εταιρείες. Τα funds θα υποστηρίζουν την ανεξάρτητη έρευνα για να βοηθήσουν στην ανάπτυξη καλύτερων τεχνολογικών ελέγχων για την τεχνητή νοημοσύνη.

Μεταξύ των ειδικών που παρακάλεσαν τις κυβερνήσεις να δράσουν για την ασφάλεια της τεχνητής νοημοσύνης βρίσκονται τρεις νικητές του βραβείου Turing: ο Andrew Yao, μέντορας μερικών από τους πιο επιτυχημένους επιχειρηματίες τεχνολογίας της Κίνας, ο Yoshua Bengio, ένας από τους πιο δημοφιλείς επιστήμονες υπολογιστών στον κόσμο, και ο Geoffrey Hinton, ο οποίος δίδαξε τον συνιδρυτή και πρώην επικεφαλής επιστήμονα του OpenAI, Ilya Sutskever, και ο οποίος πέρασε μια δεκαετία δουλεύοντας πάνω στη μηχανική μάθηση στην Google.

Συνεργασία και δεοντολογία τεχνητής νοημοσύνης

Στην επιστολή, οι επιστήμονες επαίνεσαν την ήδη υπάρχουσα διεθνή συνεργασία για την τεχνητή νοημοσύνη, όπως μια συνάντηση τον Μάιο μεταξύ ηγετών από τις ΗΠΑ και την Κίνα στη Γενεύη για να συζητήσουν τους κινδύνους της τεχνητής νοημοσύνης. Ωστόσο, είπαν ότι χρειάζεται περισσότερη συνεργασία.

Η ανάπτυξη της τεχνητής νοημοσύνης θα πρέπει να συνοδεύεται από κανόνες δεοντολογίας για τους μηχανικούς, παρόμοιους με αυτούς που ισχύουν για τους γιατρούς ή τους δικηγόρους, υποστηρίζουν οι επιστήμονες. Οι κυβερνήσεις θα πρέπει να θεωρούν την τεχνητή νοημοσύνη λιγότερο ως μια συναρπαστική νέα τεχνολογία και περισσότερο ως ένα παγκόσμιο δημόσιο αγαθό.

«Συλλογικά, πρέπει να προετοιμαστούμε για να αποτρέψουμε τους συνακόλουθους καταστροφικούς κινδύνους που θα μπορούσαν να προκύψουν ανά πάσα στιγμή», καταλήγει η επιστολή.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Ο Bill Gates εξηγεί τα κλειδιά της επιτυχίας του κατά τα πρώτα χρόνια της Microsoft
• Η συμβουλή του Γουόρεν Μπάφετ στον Μπιλ Γκέιτς: «Δεν χρειάζεται να γεμίζεις κάθε λεπτό του προγράμματός σου»