Η Τεχνητή Νοημοσύνη τρέχει, εξελίσσεται και μας ξεπερνά. Μας απειλεί κιόλας; Δεν το ξέρουμε. Γι’ αυτό, σύμφωνα με πρόσφατο άρθρο του Guardian, κορυφαίοι επιστήμονες του χώρου ζητούν από τις εταιρείες που αναπτύσσουν προηγμένα μοντέλα να αρχίσουν να μετρούν τον κίνδυνο για την ανθρώπινη ύπαρξη που ενδέχεται να προκαλούν.
Η ουσία της προειδοποίησης δεν είναι καινούρια: η πιθανότητα να ξεφύγει η ΤΝ από τον ανθρώπινο έλεγχο και να λειτουργεί βάσει δικών της κινήτρων, αντίθετων με τα ανθρώπινα, αποτελεί πηγή ανησυχίας εδώ και χρόνια. Και αυτό είναι που αποτυπώθηκε στην «Οδύσσεια 2001», όταν ο HAL 9000 αποφασίζει να σκοτώσει το πλήρωμα του διαστημόπλοιου. Όμως, η έκρηξη της Τεχνητής Νοημοσύνης μας κάνει να σκεφτούμε ότι δεν έχουμε πια πολύ χρόνο.
Πρωτοστάτης της έκκλησης είναι ο Μαξ Τέγκμαρκ, καθηγητής στο MIT και συνιδρυτής του Future of Life Institute. Δεν είναι η πρώτη του παρέμβαση. Το 2023 είχε ξεκινήσει μια πρωτοβουλία που συγκέντρωσε πάνω από 33.000 υπογραφές για την προσωρινή παύση της εκπαίδευσης μεγάλων γλωσσικών μοντέλων. Τότε, δεν εισακούστηκε. Τώρα ζητά κάτι πιο συγκεκριμένο: τεχνικές αξιολογήσεις που να μετρούν την πιθανότητα ένα σύστημα να ξεφύγει από τον έλεγχο, να αποκτήσει δικούς του στόχους, να χειραγωγήσει ανθρώπους ή να κρυφτεί.
Οι εταιρείες, από την πλευρά τους, δεν έχουν κοινή στάση. Άλλες μιλούν για «υπεύθυνη και ασφαλή ΤΝ», χωρίς να εξηγούν τι σημαίνει αυτό. Άλλες αποφεύγουν τελείως τη συζήτηση, επενδύοντας όλα τα χρήματα στο ποιος θα φτάσει πρώτος στην «πραγματική» σούπερ νοημοσύνη. Το μόνο βέβαιο είναι πως δεν έχουν συμφωνήσει ούτε στον τρόπο αξιολόγησης του κινδύνου.
Αυτό είναι το ένα σκέλος του προβλήματος. Το άλλο είναι πολύ πιο αθόρυβο και καθημερινό. Έχει να κάνει, όχι με το τι θα κάνει η ΤΝ από μόνη της, αλλά με το τι κάνουμε εμείς μαζί της. Ενώ οι ειδικοί ανησυχούν για το ενδεχόμενο τα ρομπότ να ξυπνήσουν και να αναπτύξουν δικά τους συμφέροντα, οι απλοί χρήστες —όπως εσείς κι εγώ— έχουμε να αντιμετωπίσουμε κάτι πιο πεζό, την καθημερινή χρήση εργαλείων όπως τα LLMs - πχ το ChatGPT- σε μια αλυσίδα παραγωγής περιεχομένου, η οποία μπορεί να γίνει τοξική, όχι γιατί είναι κακή, αλλά γιατί είναι ηλίθια.
Φανταστείτε τον εξής κύκλο: ζητάμε από ένα LLM να γράψει ένα άρθρο, ένα email, μια έκθεση, μια εργασία. Το αποτέλεσμα είναι πρόχειρο, γεμάτο κοινοτοπίες και μερικές «γεμάτες αυτοπεποίθηση» ανακρίβειες. Το δημοσιεύουμε. Ένα άλλο LLM, σε κάποιο άλλο μέρος του κόσμου, το χρησιμοποιεί ως πηγή για να γράψει το επόμενο άρθρο, email, έκθεση, εργασία. Και πάει λέγοντας. Το σύστημα τρέφεται με τα δικά του απόβλητα. Η πληροφορία δεν εμπλουτίζεται – ανακυκλώνεται. Μεταβολίζεται σε spam.
Αν δεν εμπλακούμε ενεργά στη διαδικασία –αν δεν δουλέψουμε με το LLM, αν δεν του ζητήσουμε αλλαγές, βελτιώσεις, διευκρινίσεις, αν δεν έχουμε γνώση και κρίση για να το φιλτράρουμε– τότε το αποτέλεσμα δεν θα διαφέρει πολύ από τον λεκτικό θόρυβο που ήδη μας κυνηγά στα social. Και αυτός ο θόρυβος, με τη σειρά του, θα ξαναμπεί στα δεδομένα που θα εκπαιδεύσουν τα επόμενα μοντέλα.
Το χειρότερο; Καθώς περισσότερος κόσμος υιοθετεί αυτά τα εργαλεία χωρίς να έχει τον χρόνο ή τη διάθεση να τα διορθώνει, αρχίζουμε να βλέπουμε μια εξομοίωση του περιεχομένου: όλα μοιάζουν, όλα λένε τα ίδια, όλα κουβαλούν τον ίδιο ρυθμό, την ίδια συντακτική ευπρέπεια, την ίδια ψευδαίσθηση αυθεντίας. Είναι σαν να διαβάζεις παντού την ίδια έκθεση ιδεών γραμμένη από έναν ευσυνείδητο αλλά αδιάβαστο μαθητή που έψαξε 10 λεπτά στο διαδίκτυο.
Δεν χρειάζονται εξειδικευμένα τεστ. Βλέπω την ΤΝ να γίνεται χαζή γιατί την ταΐζουμε σκουπίδια. Δεν θα μας αφανίσει σωματικά, θα μας συντρίψει πνευματικά, κάνοντάς μας να πιστεύουμε ότι το μέτριο, το ρηχό και το προβλέψιμο είναι αρκετό.
Οπότε, επιστρέφουμε στην ερώτηση: τι είναι χειρότερο; Να αποκτήσουν τα ρομπότ κακή πρόθεση ή να τα αφήσουμε να γίνουν ηλίθια; Και μετά να μας εκπαιδεύουν;
ΥΓ. Φυσικά ρομπότ και Τεχνητή Νοημοσύνη δεν είναι το ίδιο πράγμα. Κάνω χρήση της ποιητικής αδείας.
