Οι «ανιχνευτές» τεχνητής νοημοσύνης υπόσχονται να λύσουν ένα πρόβλημα που οι ίδιοι οι θεσμοί δεν ξέρουν ακόμη πώς να αντιμετωπίσουν. Όσο τα εργαλεία παραγωγικής τεχνητής νοημοσύνης μπαίνουν στην εκπαίδευση, τη δημοσιογραφία, τις εκδόσεις και την επιστημονική παραγωγή, τόσο μεγαλώνει η ανάγκη να διαπιστώνεται αν ένα κείμενο γράφτηκε από άνθρωπο ή από μηχανή. Η ανάγκη είναι πραγματική. Η απάντηση όμως παραμένει επικίνδυνα ασταθής.
Το πιο χαρακτηριστικό παράδειγμα είναι το Pangram, ένα εργαλείο ανίχνευσης κειμένων που παράγονται ή υποβοηθούνται από τεχνητή νοημοσύνη. Σύμφωνα με το ρεπορτάζ του Matteo Wong στο «The Atlantic», το Pangram έχει βρεθεί στο κέντρο πολλών πρόσφατων υποθέσεων, από την απόσυρση μυθιστορήματος λίγο πριν την κυκλοφορία του στις ΗΠΑ μέχρι κατηγορίες για χρήση AI σε άρθρα μεγάλων εφημερίδων, λογοτεχνικά κείμενα και ακόμα και θρησκευτικά κείμενα υψηλού συμβολισμού. Χρησιμοποιείται επίσης από πανεπιστήμια και επιστημονικές ενώσεις για τον έλεγχο εργασιών και ερευνητικών κειμένων.
Το πρόβλημα δεν είναι ότι τέτοια εργαλεία είναι άχρηστα. Αν ήταν εντελώς αναξιόπιστα, ίσως θα ήταν ευκολότερο να τα απορρίψουμε. Το πρόβλημα είναι ακριβώς ότι φαίνεται να λειτουργούν αρκετά καλά ώστε να πείθουν, αλλά όχι αρκετά καλά ώστε να τα εμπιστευόμαστε χωρίς σοβαρές συνέπειες. Ένα εργαλείο που κάνει συχνά λάθη γελοιοποιείται. Ένα εργαλείο που κάνει λίγα λάθη μπορεί να καταστρέψει ανθρώπους.
Η ίδια η εταιρεία υποστηρίζει ότι τα ψευδώς θετικά αποτελέσματα είναι εξαιρετικά σπάνια. Ωστόσο, ακόμα και ένα χαμηλό ποσοστό λάθους γίνεται πρόβλημα όταν εφαρμόζεται μαζικά. Αν εκατομμύρια μαθητές και φοιτητές υποβάλλουν κάθε χρόνο δεκάδες γραπτές εργασίες, ακόμα και ένα σφάλμα στις δέκα χιλιάδες μπορεί να παράγει μεγάλο αριθμό άδικων κατηγοριών. Και εδώ δεν μιλάμε για μια τεχνική αστοχία χωρίς κόστος. Μιλάμε για βαθμούς, πτυχία, επαγγελματική αξιοπιστία, λογοτεχνικές καριέρες, δημοσιογραφικές υπογραφές.
Ακόμα πιο δύσκολο είναι το όριο ανάμεσα στο «παραγμένο από AI» και στο «υποβοηθούμενο από AI». Στην πράξη, η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί με δεκάδες τρόπους. Άλλο είναι να ζητήσει κάποιος από ένα chatbot να γράψει ολόκληρο το κείμενο. Άλλο να το χρησιμοποιήσει για γραμματική διόρθωση, για μια σύνοψη πηγών, για ανεύρεση αντεπιχειρημάτων ή για βελτίωση ύφους. Αν οι θεσμοί δεν συμφωνήσουν πρώτα τι επιτρέπεται και τι όχι, κανένας ανιχνευτής δεν μπορεί να δώσει ηθική απάντηση σε ένα τεχνικό ερώτημα.
Το ρεπορτάζ δείχνει και κάτι ακόμα, πιο ανησυχητικό. Η ανίχνευση βρίσκεται σε συνεχή αγώνα με τα ίδια τα εργαλεία παραγωγής κειμένου και με τα λεγόμενα humanizers, δηλαδή προγράμματα που μετατρέπουν το AI κείμενο ώστε να μοιάζει πιο ανθρώπινο. Αν ένα κείμενο μπορεί να περάσει από δεύτερη επεξεργασία και να εμφανιστεί ως ανθρώπινο, τότε η βεβαιότητα του ανιχνευτή καταρρέει. Δεν καταρρέει πάντα θεαματικά. Καταρρέει ύπουλα, εκεί που ο χρήστης πιστεύει ότι έχει μπροστά του απόδειξη, ενώ στην πραγματικότητα έχει μια πιθανότητα.
Υπάρχει επίσης το ζήτημα της αδιαφάνειας. Τα εργαλεία αυτά δεν εξηγούν με επάρκεια γιατί χαρακτηρίζουν ένα κείμενο ανθρώπινο ή μη ανθρώπινο. Δεν λειτουργούν σαν δάσκαλος που εντοπίζει αλλαγή ύφους σε έναν φοιτητή, ούτε σαν επιμελητής που αναγνωρίζει ασυνέπειες σε ένα χειρόγραφο. Λειτουργούν σαν ένα μαύρο κουτί. Κι έτσι η κοινωνία κινδυνεύει να απαντήσει στην αδιαφάνεια της παραγωγικής τεχνητής νοημοσύνης με την αδιαφάνεια της ανίχνευσης.
Η ευθύνη λοιπόν δεν μπορεί να μεταβιβαστεί στο λογισμικό. Στα σχολεία και στα πανεπιστήμια η λύση δεν είναι η μαζική επιτήρηση των εργασιών, αλλά η αλλαγή των τρόπων αξιολόγησης. Περισσότερη προφορική υποστήριξη, στάδια συγγραφής, ιστορικό επεξεργασίας, εργασίες που συνδέονται με τη διαδικασία και όχι μόνο με το τελικό προϊόν. Στη δημοσιογραφία και στις εκδόσεις χρειάζονται σαφείς κανόνες διαφάνειας για τη χρήση AI, όχι δημόσια λιντσαρίσματα βασισμένα σε ένα ποσοστό που έβγαλε μια πλατφόρμα.
Οι ανιχνευτές μπορούν να είναι αφετηρία διερεύνησης. Δεν μπορούν να είναι δικαστήριο. Όταν μια κοινωνία αρχίζει να μοιράζει κατηγορίες λογοκλοπής, ανεντιμότητας ή επαγγελματικής απάτης με βάση ένα αλγοριθμικό σήμα, τότε δεν προστατεύει την αλήθεια. Απλώς αναθέτει την κρίση της σε μια άλλη μηχανή. Και αυτή είναι ίσως η μεγαλύτερη ειρωνεία της νέας εποχής. Για να περιορίσουμε την τυφλή εμπιστοσύνη στην τεχνητή νοημοσύνη κινδυνεύουμε να εμπιστευτούμε τυφλά την τεχνητή νοημοσύνη.