Τι σημαίνει η αποστροφή του ανθρώπου προς τις μηχανές και πότε αυτό θα αλλάξει;

του Cesan Hidalgo

Η αποστροφή των ανθρώπων για τις μηχανές δεν είναι κάτι καινούργιο. Πριν από περίπου 500 χρόνια, η τυπογραφία είχε δαιμονοποιηθεί ως προϊόν του διαβόλου. Το σημερινό ισοδύναμό της- η τεχνητή νοημοσύνη- συστηματικά επικρίνεται ως πηγή ανεργίας και προκατάληψης.

Αλλά δικαιολογείται άραγε όλος αυτός ο θυμός;

Οι μελετητές που μελετούν τις αντιδράσεις των ανθρώπων στις μηχανές αρχίζουν να μαθαίνουν πότε και γιατί κρίνουμε τους ανθρώπους και τις μηχανές διαφορετικά. Φανταστείτε ένα αυτοκίνητο που αλλάζει πορεία για να αποφύγει ένα δέντρο που πέφτει, και με αυτόν τον τρόπο παρασύρει έναν πεζό. Κρίνουν οι άνθρωποι αυτή τη δράση διαφορετικά αν πιστεύουν ότι ήταν η ενέργεια ενός αυτο-οδηγούμενου αυτοκινήτου σε αντίθεση με την ενέργεια ενός ανθρώπου;

Στο τελευταίο μου βιβλίο, How Humans Judge Machines, οι συν-συγγραφείς μου και εγώ ζητήσαμε από περισσότερους από 6.000 Αμερικανούς να αντιδράσουν σε σενάρια όπως αυτό, χρησιμοποιώντας το περιβάλλον μιας κλινικής δοκιμής.

Οι μισοί από τους συμμετέχοντες είδαν μόνο σενάρια που αφορούσαν ανθρώπινες ενέργειες, ενώ οι άλλοι μισοί αξιολόγησαν μόνο σενάρια που αφορούσαν τις ενέργειες των μηχανών. Αυτό μας επέτρεψε να διερευνήσουμε πότε και γιατί οι άνθρωποι κρίνουν διαφορετικά τους ανθρώπους και τις μηχανές. Στο προαναφερθέν αυτοκινητιστικό δυστύχημα, οι άνθρωποι έκριναν ότι η δράση του αυτο-οδηγούμενου αυτοκινήτου ήταν πιο επιβλαβής και ανήθικη, παρόλο που η δράση του ανθρώπου ήταν ακριβώς η ίδια. Σε ένα άλλο σενάριο αξιολογούμε ένα σύστημα αντιμετώπισης έκτακτης ανάγκης που αντιδρά σε ένα τσουνάμι. Σε μερικούς ανθρώπους ειπώθηκε ότι η πόλη εκκενώθηκε με επιτυχία. Άλλοι άκουσαν ότι η προσπάθεια εκκένωσης απέτυχε.

Τα αποτελέσματά μας έδειξαν ότι σε αυτήν την περίπτωση οι μηχανές βρέθηκαν επίσης στο επίκεντρο της κριτικής. Εκεί όπου η προσπάθεια διάσωσης απέτυχε, οι άνθρωποι αξιολόγησαν αρνητικά τη δράση της μηχανής και θετικά τη δράση των ατόμων.

Τα δεδομένα έδειξαν ότι οι άνθρωποι αξιολόγησαν τη δράση της μηχανής ως σημαντικά πιο επιβλαβή και λιγότερο ηθική, και ανέφεραν επίσης ότι θέλουν να προσλάβουν τον άνθρωπο, αλλά όχι να υιοθετήσουν τη μηχανή.

Εδώ και καιρό, οι μελετητές γνωρίζουν ότι οι άνθρωποι έχουν αποστροφή στους αλγόριθμους. Ακόμα και όταν οι αλγόριθμοι είναι καλύτεροι στην πρόβλεψη απ’ ό,τι οι άνθρωποι, εκείνοι τείνουν να επιλέγουν ανθρώπους ως προγνώστες. Αυτό το φαινόμενο είναι γνωστό ως αποστροφή αλγορίθμων και μπορεί να είναι δαπανηρό σε έναν κόσμο στον οποίο οι μικρές διαφορές στην προγνωστική ακρίβεια έχουν σημασία.

Σε μια πρόσφατη εργασία τους, οι Berkeley Dietvorst, Joseph Simmons και Cade Massey διερεύνησαν την αποστροφή αλγορίθμων χρησιμοποιώντας πέντε πειράματα με τα οποία τα άτομα μπορούσαν να συνδέσουν μια χρηματική επιβράβευση με τις προβλέψεις που έκαναν οι ίδιοι, ένα άλλο άτομο ή ένα μοντέλο. Σε ορισμένα πειράματα, οι άνθρωποι γνώριζαν τη συνολική απόδοση των προβλέψεων και αυτές έτειναν να ευνοούν τις μηχανές. Σε άλλα, οι άνθρωποι μπορούσαν επίσης να παρατηρήσουν τις πραγματικές προβλέψεις. Το αποτέλεσμα; Οι άνθρωποι έτειναν να αποφεύγουν τους αλγόριθμους περισσότερο όταν τους έβλεπαν να κάνουν λάθος. Δηλαδή, η προτίμηση των ατόμων για μηχανές μειωνόταν όταν έβλεπαν και τα σφάλματα εκτός από το συνολικό αποτέλεσμα.

Αυτό το εύρημα είναι ενδιαφέρον σε έναν κόσμο στον οποίο οι άνθρωποι απαιτούν συχνά τη διαφάνεια ως θεμελιώδη πυλώνα της ηθικής τεχνητής νοημοσύνης.

Ενώ υπάρχει ανάγκη οι μηχανές να είναι διαφανείς, αυτό πρέπει να συνοδεύεται από την κατανόηση ότι η διαφάνεια μπορεί τελικά να ενισχύσει τη μεροληψία στους ανθρώπους έναντι των μηχανών. Εάν αποτύχουμε να λάβουμε υπόψη αυτή τη λεπτομέρεια, η διαφάνεια μπορεί να μας ωθήσει να απορρίψουμε τις μηχανές, όταν στην πραγματικότητα αυτές είναι μια πηγή βελτίωσης.