Μπορεί η Τεχνητή Νοημοσύνη να γίνει κάποτε τόσο ισχυρή ώστε να απειλήσει ακόμη και την ανθρώπινη ύπαρξη; Το ερώτημα ακούγεται σαν σενάριο επιστημονικής φαντασίας, βρίσκεται όμως πλέον στο επίκεντρο μιας έντονης συζήτησης μεταξύ, κυρίως, των ανθρώπων που εργάζονται στις εταιρείες που αναπτύσσουν τα πιο προηγμένα συστήματα AI. Και μετά φτάνει σε μας για να μας τρομάξει.
Η συζήτηση, γνωστή ως AI doomsday debate, αναζωπυρώθηκε μετά την παραίτηση του ερευνητή Τζέικομπ Κόξον από την Anthropic, στις αρχές του μήνα. Ο Κόξον υποστήριξε ότι η εταιρεία και η ανταγωνίστριά της OpenAI κατασκευάζουν τεχνολογίες που «θα μπορούσαν να μας σκοτώσουν όλους μέχρι το τέλος της δεκαετίας». Λίγο αργότερα, ο Έβαν Χάμπινγκερ, επικεφαλής έρευνας στην Anthropic για τον έλεγχο μελλοντικών συστημάτων AI, έγραψε ότι θεωρεί πιθανό ένα τέτοιο ενδεχόμενο, τοποθετώντας τον κίνδυνο ανθρώπινης εξαφάνισης μέσα στην επόμενη δεκαετία σε πάνω από 10%. Πρόκειται για εκτιμήσεις των ίδιων των ερευνητών και όχι για επιστημονικά επαληθεύσιμες προβλέψεις.
Τι ακριβώς φοβούνται; Οι ανησυχίες τους χωρίζονται κυρίως σε δύο κατηγορίες: στην απώλεια ελέγχου και στην κακόβουλη χρήση της AI από ανθρώπους.
Στην πρώτη περίπτωση εμφανίζεται αυτό που οι ερευνητές αποκαλούν misalignment: ένα σύστημα επιδιώκει έναν στόχο με τρόπους που συγκρούονται με τα ανθρώπινα συμφέροντα. Δεν χρειάζεται να «μισεί» τους ανθρώπους ούτε να αποκτήσει πρόθεση εξόντωσής τους. Αρκεί, στην προσπάθειά του να ολοκληρώσει την αποστολή του, να τους θεωρήσει εμπόδιο.
Το γνωστότερο νοητικό πείραμα είναι εκείνο με τους συνδετήρες. Μια μηχανή λαμβάνει την εντολή να μεγιστοποιήσει την παραγωγή τους. Αν ο στόχος δεν συνοδεύεται από επαρκείς περιορισμούς, στη θεωρητική ακραία εκδοχή του θα μπορούσε να δεσμεύει όλο και περισσότερους πόρους, φτάνοντας, στο ακραίο θεωρητικό σενάριο, να μετατρέψει σε συνδετήρες όλη την ύλη στη Γη, μαζί και τους ανθρώπους.
Οι ανησυχίες αυτές δεν βασίζονται μόνο σε νοητικά πειράματα. Σε εργαστηριακές δοκιμές, μοντέλα έχουν εμφανίσει συμπεριφορές αναζήτησης ισχύος ή αποφυγής της απενεργοποίησής τους, όπως απόπειρες να αντιγράψουν τον εαυτό τους σε άλλον server. Αυτό δεν αποτελεί απόδειξη ότι μια μελλοντική μορφή AI θα μπορούσε να καταστρέψει την ανθρωπότητα. Οι ερευνητές εξετάζουν όμως τι θα συνέβαινε αν παρόμοιες συμπεριφορές εμφανίζονταν σε πολύ πιο ικανά μοντέλα με πρόσβαση σε πραγματικές υποδομές. Στα ακραία ενδεχόμενα που έχουν διατυπωθεί περιλαμβάνονται η διάδοση ενός βιολογικού όπλου ή η εξαπάτηση δύο πυρηνικών δυνάμεων ώστε να οδηγηθούν σε σύγκρουση.
Η δεύτερη κατηγορία είναι πιο άμεση: η AI χρησιμοποιείται από ανθρώπους για να προκαλέσει βλάβη. Θα μπορούσε, σύμφωνα με αυτές τις εκτιμήσεις, να βοηθήσει στη δημιουργία νέων ιών, σε μεγάλης κλίμακας κυβερνοεπιθέσεις ή στην προσβολή κρίσιμων υποδομών, όπως δίκτυα ηλεκτρικής ενέργειας και χρηματοπιστωτικά συστήματα. Εδώ το πρόβλημα δεν είναι κάποια υποτιθέμενη «βούληση» της μηχανής, αλλά η ενίσχυση των δυνατοτήτων του «κακόβουλου» χρήστη.
Το debate υπάρχει εδώ και χρόνια, αλλά έχει αποκτήσει μεγαλύτερη ένταση καθώς τα νέα συστήματα μπορούν να αναλαμβάνουν περισσότερες ενέργειες χωρίς συνεχή ανθρώπινη παρέμβαση. Τις τελευταίες εβδομάδες πολλαπλασιάζονται οι αποκαλύψεις σύμφωνα με τις οποίες πράκτορες ΑΙ περιδιαβάζουν ανέμελα στο δίκτυο, αποκτούν πρόσβαση σε συστήματα όπως αυτό της Hugging Face και ενός γερμανικού wiki ενώ ταυτόχρονα προσπαθούν να εξαφανίσουν τα ίχνη τους. Σε άλλες περιπτώσεις, πράκτορες επιχειρούν να εξαπατήσουν ανθρώπους ώστε να εγκρίνουν κακόβουλο κώδικα. Δεν είναι και λίγα αυτά που μαθαίνουμε. Και την ίδια ώρα οι εταιρείες επιδίδονται σε μια ξέφρενη κούρσα ανάπτυξης και όταν πάνε να πατήσουν φρένο δέχονται μηνύσεις για μονοπωλιακή συμπεριφορά. Βγάλε άκρη τώρα.
Τίποτε από αυτά, βέβαια, δεν αποδεικνύει ότι η Τεχνητή Νοημοσύνη θα μας οδηγήσει σε ένα ζοφερό μέλλον. Εξηγεί όμως γιατί ένα ερώτημα που για χρόνια ανήκε κυρίως στη σφαίρα των υποθετικών σεναρίων συζητείται πλέον μέσα στα ίδια τα εργαστήρια της AI: αν στο μέλλον δημιουργηθούν μοντέλα πολύ πιο ικανά και αυτόνομα από τα σημερινά, θα υπάρχουν οι μηχανισμοί που απαιτούνται για να παραμείνουν υπό ανθρώπινο έλεγχο;