Τα chatbots δεν απειλούν την ιδιωτικότητα μόνο επειδή μπορεί να δώσουν λάθος απαντήσεις. Την απειλούν και όταν δίνουν σωστές πληροφορίες. Η παραγωγική τεχνητή νοημοσύνη μπορεί να εμφανίσει πραγματικούς αριθμούς τηλεφώνου, διευθύνσεις, στοιχεία εργοδότη ή οικογενειακές πληροφορίες ανθρώπων που δεν έχουν δώσει οι ίδιοι αυτά τα δεδομένα στο chatbot. Προσωπικά δεδομένα που βρίσκονταν ήδη κάπου στο διαδίκτυο μπορούν να επανεμφανιστούν μέσα σε μια απάντηση, αποσπασμένα από το αρχικό τους πλαίσιο και διαθέσιμα σε οποιονδήποτε κάνει τη σωστή ερώτηση.
Οι ειδικοί θεωρούν ότι τέτοια περιστατικά πιθανότατα συμβαίνουν συχνότερα από όσο γίνεται δημόσια γνωστό. Δεν υπάρχει τρόπος να μετρήσουμε με ακρίβεια πόσες φορές προσωπικά δεδομένα εμφανίζονται σε απαντήσεις συστημάτων παραγωγικής ΑΙ. Ωστόσο, εταιρείες που βοηθούν χρήστες να αφαιρούν τα προσωπικά τους στοιχεία από το διαδίκτυο καταγράφουν μεγάλη αύξηση αιτημάτων που συνδέονται ειδικά με εργαλεία όπως το ChatGPT, το Gemini, το Claude και άλλα συστήματα παραγωγικής τεχνητής νοημοσύνης. Το αίτημα είναι σχεδόν πάντα το ίδιο. Πώς βρέθηκαν τα στοιχεία μου εκεί και πώς μπορούν να φύγουν;
Η πιθανότερη εξήγηση βρίσκεται στα δεδομένα εκπαίδευσης. Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται σε τεράστιες ποσότητες υλικού που έχει συλλεχθεί από το διαδίκτυο. Μέσα σε αυτό το υλικό μπορεί να υπάρχουν προσωπικά αναγνωρίσιμες πληροφορίες. Τηλέφωνα, διευθύνσεις, βιογραφικά, δημόσια αρχεία, στοιχεία από παλιές ιστοσελίδες, ακόμη και πληροφορίες που έχουν συγκεντρωθεί από data brokers ή ιστοσελίδες αναζήτησης προσώπων. Το γεγονός ότι κάτι υπήρξε κάποτε δημόσιο δεν σημαίνει ότι ο κάτοχός του περίμενε να μετατραπεί σε άμεση απάντηση ενός chatbot.
Εδώ βρίσκεται και η πιο δύσκολη αλλαγή. Η τεχνητή νοημοσύνη δεν δημιουργεί απλώς ένα νέο κανάλι αναζήτησης αλλά μειώνει τα εμπόδια πρόσβασης στην πληροφορία. Μια πληροφορία που ήταν θαμμένη σε παλιές σελίδες, δύσκολη να εντοπιστεί ή προσβάσιμη μόνο ύστερα από επίμονη αναζήτηση, μπορεί πλέον να εμφανιστεί αμέσως. Το «δημόσιο» αποκτά άλλη ένταση όταν δεν χρειάζεται να ψάξει κανείς.
Οι εταιρείες τεχνητής νοημοσύνης δηλώνουν ότι χρησιμοποιούν φίλτρα και δικλίδες ασφαλείας για να αποτρέπουν την αποκάλυψη προσωπικών ή εμπιστευτικών πληροφοριών. Όμως αυτά τα μέτρα δεν φαίνεται να αρκούν πάντα. Η αντίφαση είναι εγγενής. Τα chatbots έχουν σχεδιαστεί για να απαντούν όσο πιο αποτελεσματικά γίνεται. Την ίδια στιγμή καλούνται να αναγνωρίζουν πότε μια απάντηση, αν και χρήσιμη για τον χρήστη, μπορεί να εκθέτει κάποιον τρίτο. Στην πράξη, αυτή η ισορροπία μπορεί να αποτύχει.
Το νομικό πλαίσιο δεν έχει προλάβει πλήρως αυτή την πραγματικότητα. Δεν υπάρχει σήμερα άλλο τόσο ολοκληρωμένο οριζόντιο νομικό πλαίσιο για την τεχνητή νοημοσύνη όσο η ευρωπαϊκή Πράξη για την ΑΙ. Αλλά ακόμη και στην ΕΕ, το κενό δεν κλείνει πλήρως. Η Πράξη επιβάλλει υποχρεώσεις διαφάνειας στα chatbots και στα μοντέλα γενικού σκοπού και ζητά από τους παρόχους να δημοσιοποιούν συνοπτικές πληροφορίες για το υλικό εκπαίδευσης.
Ωστόσο, η Πράξη δεν απαντά πλήρως στο πρακτικό ερώτημα. Πώς μπορεί ένας πολίτης να μάθει αν το τηλέφωνο, η διεύθυνση ή άλλα προσωπικά του στοιχεία έχουν απορροφηθεί από ένα μοντέλο; Πώς μπορεί να απαιτήσει την οριστική αφαίρεσή τους; Και πώς μπορεί να βεβαιωθεί ότι δεν θα εμφανιστούν ξανά σε μια επόμενη απάντηση; Εκεί το βάρος μεταφέρεται κυρίως στη νομοθεσία για την προστασία προσωπικών δεδομένων, όπως ο Γενικός Κανονισμός Προστασίας Δεδομένων, όμως ακόμη και αυτό το πλαίσιο δυσκολεύεται όταν τα δεδομένα έχουν ήδη αντληθεί από δημόσιες ή ημι-δημόσιες διαδικτυακές πηγές και έχουν ενσωματωθεί σε τεράστια σύνολα εκπαίδευσης. Η ίδια η ευρωπαϊκή εποπτική αρχή προστασίας δεδομένων έχει επισημάνει ότι η παραγωγική ΑΙ μπορεί να περιλαμβάνει επεξεργασία προσωπικών δεδομένων σε όλα τα στάδια, από την εκπαίδευση και τη δοκιμή μέχρι τη χρήση των συστημάτων.
Η πιο πρακτική συμβουλή είναι να αφαιρούν οι πολίτες, όσο μπορούν, τα προσωπικά τους στοιχεία από το διαδίκτυο πριν αυτά καταλήξουν σε επόμενους κύκλους συλλογής δεδομένων. Όμως αυτή είναι ατελής λύση. Δεν απαντά στο τι έχει ήδη συλλεχθεί, τι έχει ήδη χρησιμοποιηθεί και τι μπορεί να έχει ήδη απομνημονευθεί. Η ιδιωτικότητα στην εποχή της παραγωγικής τεχνητής νοημοσύνης δεν απειλείται μόνο από όσα αποκαλύπτουμε εμείς. Απειλείται και από όσα η μηχανή μπορεί να ξαναβρεί, να συνδυάσει και να εμφανίσει για εμάς, χωρίς να μας ρωτήσει.