Μέχρι πριν από λίγο καιρό, η συζήτηση γύρω από την Τεχνητή Νοημοσύνη αφορούσε κυρίως τις δυνατότητές της. Πόσο θα αλλάξει την εργασία μας, πόσο θα διευκολύνει την καθημερινότητά μας, πόσο θα επιταχύνει την επιστημονική έρευνα. Σήμερα, χωρίς να έχουν πάψει να μας απασχολούν όλα αυτά, ένα διαφορετικό ερώτημα αρχίζει να αποκτά μεγαλύτερο βάρος: Πόσο ασφαλής είναι τελικά αυτή η τεχνολογία;
Δύο ειδήσεις που δημοσιεύθηκαν την ίδια ημέρα, στις 11 Οκτωβρίου, δίνουν τροφή για σκέψη. Ο επικεφαλής της Microsoft, Σάτια Ναντέλα, υποστηρίζει ότι πρέπει να αντιμετωπίζουμε εξαρχής κάθε μοντέλο AI σαν να έχει παραβιαστεί. Την ίδια στιγμή, μια διεθνής επιστημονική επιτροπή περιλαμβάνει την κακόβουλη χρήση της Τεχνητής Νοημοσύνης μεταξύ των κινδύνων που θα μπορούσαν, υπό ακραίες συνθήκες, να οδηγήσουν ακόμη και στην εξαφάνιση της ανθρωπότητας μέχρι το 2100.
Η πρώτη προειδοποίηση έχει μια ιδιαιτερότητα. Προέρχεται από τον επικεφαλής μιας εταιρείας που συμμετέχει ενεργά στην ανάπτυξη και διάδοση της AI. Σε εκτενή ανάρτησή του στο X, ο Ναντέλα υποστηρίζει ότι δεν μπορούμε πλέον να αποδεχόμαστε έναν κόσμο στον οποίο τα συστήματα Τεχνητής Νοημοσύνης λειτουργούν ως διαδοχικά «μαύρα κουτιά», των οποίων τις συμβουλές και τις ενέργειες απλώς αποδεχόμαστε ή απορρίπτουμε.
Προτείνει συστήματα που θα μπορούν να περιορίζονται, να παρακολουθούνται και να αφήνουν αποδεικτικά στοιχεία κατανοητά από τον άνθρωπο, τα οποία δεν θα μπορούν να αλλοιωθούν. Ζητά ανεξάρτητους ελέγχους, έγκαιρη δημοσιοποίηση περιστατικών και, κυρίως, ένα «φρένο έκτακτης ανάγκης». Ένα εξουσιοδοτημένο άτομο θα πρέπει να μπορεί ανά πάσα στιγμή να διακόπτει τη λειτουργία ενός μοντέλου, ακόμη και στη μέση μιας εργασίας.
Δεν ισχυρίζεται ότι όλα τα μοντέλα έχουν πράγματι παραβιαστεί. Προτείνει, λοιπόν, τα μοντέλα AI να σχεδιάζονται εξαρχής με την παραδοχή ότι κάποιος μπορεί να παραβιάσει την ασφάλειά τους. Αντί να θεωρούμε ότι είναι ασφαλή μέχρι να παρουσιαστεί κάποιο πρόβλημα, πρέπει να έχουμε προβλέψει από την αρχή τι θα κάνουμε αν κάτι πάει στραβά.
Η δεύτερη προειδοποίηση μεταφέρει τη συζήτηση σε διαφορετική κλίμακα. Μια επιτροπή 35 ειδικών, η οποία συγκροτήθηκε στο πλαίσιο του The Lancet, ενός από τα σημαντικότερα διεθνή επιστημονικά περιοδικά στον χώρο της ιατρικής, εξέτασε 17 μεγάλες απειλές για την ανθρώπινη υγεία κατά τα επόμενα 75 χρόνια. Ανάμεσά τους βρίσκονται η κλιματική αλλαγή, οι πανδημίες, ο υποσιτισμός, η αντοχή στα αντιβιοτικά, οι ένοπλες συγκρούσεις και η μείωση της διεθνούς αναπτυξιακής βοήθειας.
Η επιτροπή εργάστηκε επί τρία χρόνια για την κατάρτιση αυτής της αξιολόγησης, τα ευρήματα της οποίας παρουσιάζονται στην Παγκόσμια Σύνοδο Κορυφής για την Υγεία, στο Βερολίνο. Η αξιολόγηση θα επικαιροποιείται κάθε χρόνο, με βάση νέα δεδομένα και ενδεχόμενες νέες απειλές.
Στην κατηγορία των δυνητικά υπαρξιακών απειλών τοποθετούνται ο πυρηνικός πόλεμος και η κακόβουλη χρήση της AI, ιδιαίτερα η δυνατότητα αξιοποίησής της για τη δημιουργία βιολογικών όπλων. Οι επιστήμονες διευκρινίζουν ότι η πιθανότητα τέτοιων καταστροφικών σεναρίων παραμένει χαμηλή. Οι συνέπειές τους, ωστόσο, θα μπορούσαν να είναι ανυπολόγιστες.
Δεν μιλάμε, επομένως, για μηχανές που αποκτούν ξαφνικά δική τους βούληση και αποφασίζουν να στραφούν εναντίον των δημιουργών τους. Τουλάχιστον όχι στην περίπτωση της μελέτης του Lancet. Μιλάμε για ανθρώπους που θα μπορούσαν να χρησιμοποιήσουν τις δυνατότητες της AI για να προκαλέσουν καταστροφές πρωτοφανούς κλίμακας.
Η διαφορά ανάμεσα στις δύο προειδοποιήσεις είναι ουσιαστική. Ο Ναντέλα ενδιαφέρεται για τον έλεγχο των ίδιων των συστημάτων, ενώ το Lancet εξετάζει τις συνέπειες της κακόβουλης χρήσης τους. Και στις δύο περιπτώσεις, όμως, προκύπτει ένα ερώτημα: Μήπως η ανάπτυξη της τεχνολογίας προχωρά γρηγορότερα από την ικανότητά μας να αντιμετωπίσουμε τους κινδύνους που τη συνοδεύουν;
Η αναγνώριση ενός κινδύνου δεν σημαίνει ότι αυτός πρόκειται να πραγματοποιηθεί. Ούτε η απαίτηση για αυστηρότερα μέτρα ασφαλείας αποτελεί απόδειξη ότι η τεχνολογία έχει ήδη ξεφύγει από τον έλεγχό μας. Άλλωστε, οι επιστήμονες του Lancet δεν περιορίζονται στην καταγραφή καταστροφικών σεναρίων. Επιμένουν ότι για καθεμία από τις 17 απειλές υπάρχει ρεαλιστική δυνατότητα παρέμβασης, πρόληψης ή περιορισμού των συνεπειών της.
Ίσως, τελικά, οι δύο αυτές προειδοποιήσεις να μην αποτελούν μόνο λόγο ανησυχίας. Μπορούν εξίσου να αποτελούν ένδειξη ότι αρχίζουμε να αναγνωρίζουμε εγκαίρως τους κινδύνους και να αναζητούμε τρόπους αντιμετώπισής τους.