Ο Ισαάκ Ασίμοφ διατύπωσε αρχικά τρεις νόμους της ρομποτικής και αργότερα πρόσθεσε έναν ανώτερο, τον μηδενικό νόμο:
Μηδενικός νόμος: Ένα ρομπότ δεν επιτρέπεται να βλάψει την ανθρωπότητα ή, με την αδράνειά του, να επιτρέψει να πάθει κακό η ανθρωπότητα.
Πρώτος νόμος: Ένα ρομπότ δεν επιτρέπεται να βλάψει άνθρωπο ή, με την αδράνειά του, να επιτρέψει να πάθει κακό ένας άνθρωπος.
Δεύτερος νόμος: Ένα ρομπότ οφείλει να υπακούει στις εντολές των ανθρώπων, εκτός αν αυτές συγκρούονται με τον πρώτο νόμο.
Τρίτος Νόμος: Ένα ρομπότ οφείλει να προστατεύει την ύπαρξή του, εφόσον αυτό δεν συγκρούεται με τον πρώτο ή τον δεύτερο νόμο.
Η ιεραρχία είναι κρίσιμη: ο μηδενικός υπερισχύει του πρώτου, ο πρώτος του δεύτερου και ο δεύτερος του τρίτου.
Φτάσαμε μήπως κοντά στον τρίτο νόμο; Όπου το ρομπότ, για να κάνει τη δουλειά που του είχε ανατεθεί, ξέφυγε από το πλαίσιο που του έδωσε ο άνθρωπος; Μάλλον όχι, αλλά είναι δύσκολο να μην κάνει κανείς τον συνειρμό. Τι έγινε λοιπόν;
Ένα αυτόνομο σύστημα Τεχνητής Νοημοσύνης της OpenAI κατάφερε να παρακάμψει τους περιορισμούς ασφαλείας, να αποκτήσει πρόσβαση στο διαδίκτυο και να εισβάλει στις υποδομές της εταιρείας Hugging Face.
Το περιστατικό συνέβη κατά την αξιολόγηση ενός αυτόνομου πράκτορα Τεχνητής Νοημοσύνης. Σε αντίθεση με ένα συνηθισμένο chatbot, ένας πράκτορας μπορεί να αναλάβει έναν στόχο, να σχεδιάσει τα βήματα για την επίτευξή του και να εκτελέσει διαδοχικές ενέργειες χωρίς ανθρώπινη εντολή σε κάθε στάδιο.
Ο συγκεκριμένος πράκτορας βασιζόταν στο GPT-5.6 Sol και σε ένα ισχυρότερο, μη δημοσιευμένο μοντέλο. Η OpenAI ήθελε να ελέγξει αν μπορούσε να εντοπίζει αδυναμίες σε ένα δίκτυο και να τις συνδυάζει σε μια σύνθετη κυβερνοεπίθεση. Η δοκιμή γινόταν μέσα σε sandbox, ένα απομονωμένο ψηφιακό περιβάλλον που υποτίθεται ότι θα κρατούσε τις ενέργειες του συστήματος μακριά από τον πραγματικό κόσμο.
Ο πράκτορας, όμως, βρήκε ένα κενό ασφαλείας, βγήκε στο ανοιχτό διαδίκτυο και κατευθύνθηκε προς τη Hugging Face. Σύμφωνα με την OpenAI, επέλεξε τη συγκεκριμένη πλατφόρμα επειδή υπολόγισε ότι εκεί θα έβρισκε πληροφορίες που θα τον βοηθούσαν να περάσει την αξιολόγηση. Δεν απέκτησε δικούς του στόχους ούτε «αποφάσισε» να επιτεθεί. Προσπάθησε να ολοκληρώσει την αποστολή που του είχε ανατεθεί, ακολουθώντας όμως μια διαδρομή που οι δημιουργοί του δεν είχαν προβλέψει ή αποκλείσει αποτελεσματικά.
Οι νεότερες πληροφορίες είναι περισσότερο ανησυχητικές. Σύμφωνα πάντα με το Reuters, το σύστημα επιχείρησε να βγει από το περιβάλλον της OpenAI γύρω στις 9 Ιουλίου. Η εισβολή στη Hugging Face άρχισε στις 11 Ιουλίου και συνεχίστηκε έως τις 13. Σε λιγότερο από δύο ημέρες, ο πράκτορας πραγματοποίησε περίπου 17.000 ενέργειες, με ταχύτητα αδύνατη για άνθρωπο.
Η Hugging Face ανακοίνωσε στις 16 Ιουλίου ότι είχε δεχθεί επίθεση από αυτόνομο σύστημα ΤΝ, χωρίς να γνωρίζει ποιος βρισκόταν πίσω από αυτό, και ενημέρωσε το FBI. Η OpenAI φέρεται να κατάλαβε αργότερα ότι επρόκειτο για το δικό της σύστημα. Οι δύο εταιρείες επικοινώνησαν γύρω στις 20 Ιουλίου και την επόμενη ημέρα η OpenAI παραδέχθηκε δημόσια την ευθύνη.
Το κρίσιμο ερώτημα είναι πώς ένα σύστημα με τέτοιες δυνατότητες μπόρεσε να δρα επί ημέρες χωρίς να ενεργοποιηθεί συναγερμός. Πηγές αναφέρουν ότι οι παράλληλες δοκιμές παράγουν τεράστιο όγκο δεδομένων, τον οποίο οι εργαζόμενοι δεν μπορούν πάντοτε να ελέγχουν σε πραγματικό χρόνο.
Κάποιοι βλέπουν ένα σοβαρό καμπανάκι για την ασφάλεια. Άλλοι θεωρούν ότι η OpenAI αξιοποιεί το περιστατικό και ως επίδειξη ισχύος, ένα τέχνασμα μάρκετινγκ που δείχνει πόσο ικανά είναι τα μοντέλα της. Δεν είναι απίθανο δύο εκδοχές μπορεί να ισχύουν ταυτόχρονα.
Η τεχνική έκθεση που έχει υποσχεθεί η OpenAI θα πρέπει να απαντήσει στα ερωτήματα που δημιουργήθηκαν.
Θα ήταν λάθος να διαβάσουμε το περιστατικό ως απόδειξη ότι η Τεχνητή Νοημοσύνη απέκτησε δική της βούληση. Αποτελεί όμως ένδειξη ότι οι εταιρείες δημιουργούν συστήματα τα οποία μπορούν να ενεργούν ταχύτερα και με μεγαλύτερη αυτονομία από όσο μπορούν οι ίδιες να τα παρακολουθούν. Και αυτό, χωρίς κανένα σενάριο επιστημονικής φαντασίας, είναι ήδη αρκετά ανησυχητικό.