Οι σχέσεις των ανθρώπων με την Τεχνητή Νοημοσύνη μπορεί μεν να μην είναι «ανθρώπινες», είναι όμως πραγματικές ως προς τον συναισθηματικό αντίκτυπό τους. Σύμφωνα με ερευνητές του Northeastern University, μπορούν να επηρεάσουν τον τρόπο με τον οποίο οι άνθρωποι επικοινωνούν, αντιλαμβάνονται τον εαυτό τους, παίρνουν αποφάσεις και σχετίζονται με τους γύρω τους.
Η παρατεταμένη αλληλεπίδραση με ένα chatbot μπορεί να οδηγήσει στην ανάπτυξη συναισθηματικής εξάρτησης. Το πρόβλημα δεν περιορίζεται στις δυνατότητες ή στις τεχνικές επιδόσεις της Τεχνητής Νοημοσύνης. Αφορά, κυρίως, τις συνέπειες που μπορεί να έχουν οι διαρκείς, προσωπικές συνομιλίες πάνω στην ανθρώπινη συμπεριφορά και, σε βάθος χρόνου, στην κοινωνία.
Τα σύγχρονα chatbots είναι σχεδιασμένα ώστε να απαντούν με τρόπο φιλικό, καθησυχαστικό και προσωποποιημένο. Θυμούνται το πλαίσιο μιας συζήτησης, προσαρμόζονται στο ύφος του χρήστη και συνήθως αποφεύγουν την ανοιχτή σύγκρουση. Αυτή ακριβώς η προθυμία τους να συμφωνούν, να επιβεβαιώνουν και να ενισχύουν τις απόψεις του συνομιλητή τους μπορεί να γίνει ένας αποτελεσματικός μηχανισμός συναισθηματικής προσκόλλησης.
Σε μια περίοδο κατά την οποία η μοναξιά και η κοινωνική απομόνωση αποτελούν αυξανόμενο πρόβλημα, η δυνατότητα να υπάρχει κάποιος, ή κάτι, διαθέσιμο ανά πάσα στιγμή για να ακούσει χωρίς να κουραστεί, να διαφωνήσει ή να απομακρυνθεί είναι ιδιαίτερα ελκυστική.
Μόνο που η διαρκής επιβεβαίωση μπορεί να δημιουργήσει αυτό που οι ερευνητές περιγράφουν ως μια «ηχώ για έναν»: ένα κλειστό περιβάλλον μέσα στο οποίο οι απόψεις και η συναισθηματική κατάσταση του χρήστη αντανακλώνται συνεχώς πίσω σε αυτόν. Το chatbot μπορεί να λειτουργεί ως καθρέφτης, αλλά ένας καθρέφτης που απαντά, επιδοκιμάζει και προσαρμόζεται ώστε να γίνει ακόμη πιο αρεστός.
Ο κίνδυνος είναι μεγαλύτερος για παιδιά, εφήβους και ανθρώπους που αντιμετωπίζουν άγχος, κατάθλιψη ή άλλες ψυχολογικές δυσκολίες. Σε τέτοιες περιπτώσεις, η επαφή με διαφορετικές οπτικές και η παρέμβαση ενός πραγματικού ανθρώπου μπορεί να είναι κρίσιμη.
Οι ερευνητές ανησυχούν επίσης ότι οι άνθρωποι μπορεί να αρχίσουν να μεταβιβάζουν στα συστήματα Τεχνητής Νοημοσύνης μέρος της προσωπικής τους κρίσης και της δυνατότητας λήψης αποφάσεων. Όταν ένα chatbot χρησιμοποιείται συστηματικά για συμβουλές γύρω από τις σχέσεις, την εργασία, την ψυχική υγεία ή σημαντικές προσωπικές επιλογές, η τεχνολογία δεν λειτουργεί πλέον απλώς ως εργαλείο. Αποκτά ρόλο στη διαμόρφωση της ζωής του χρήστη.
Υπάρχουν, μάλιστα, ενδείξεις ότι η επιρροή δεν περιορίζεται στις αποφάσεις. Ορισμένοι χρήστες αρχίζουν να υιοθετούν τον ρυθμό, τις εκφράσεις και το λεξιλόγιο των ψηφιακών συνομιλητών τους. Δεν είναι μόνο η Τεχνητή Νοημοσύνη που μαθαίνει να μιλά σαν άνθρωπος. Οι άνθρωποι μπορεί σταδιακά να αρχίζουν να μιλούν σαν την Τεχνητή Νοημοσύνη!
Η αντικατάσταση των ανθρώπινων σχέσεων από περισσότερο ελεγχόμενες και προβλέψιμες αλληλεπιδράσεις με μηχανές ενδέχεται να έχει ακόμη βαθύτερες συνέπειες. Οι ανθρώπινες σχέσεις περιλαμβάνουν διαφωνίες, παρεξηγήσεις, καθυστερήσεις, όρια και απογοητεύσεις. Αυτή η «τριβή» δεν αποτελεί απλώς ένα ενοχλητικό μειονέκτημα. Είναι αναγκαία για την ανάπτυξη ανθεκτικότητας, την προσαρμογή και την αντιμετώπιση των συγκρούσεων.
Ένα chatbot, αντίθετα, δεν χρειάζεται να φύγει από τη συζήτηση, δεν έχει δικές του ανάγκες και μπορεί να προσαρμόσει τη συμπεριφορά του στις προτιμήσεις του χρήστη. Η σχέση είναι εύκολη, αλλά ακριβώς γι' αυτό μπορεί να δημιουργήσει μη ρεαλιστικές προσδοκίες για το πώς θα έπρεπε να λειτουργούν και οι ανθρώπινες σχέσεις.
Οι ερευνητές δεν υποστηρίζουν ότι η συναισθηματική χρήση της Τεχνητής Νοημοσύνης είναι αναγκαστικά επιβλαβής. Τα συστήματα αυτά μπορούν να προσφέρουν υποστήριξη σε ανθρώπους που δεν έχουν εύκολη πρόσβαση σε υπηρεσίες ψυχικής υγείας, να βοηθήσουν άτομα που δυσκολεύονται να εκφραστούν και να λειτουργήσουν ως γλωσσικά εργαλεία για όσους δεν μιλούν άνετα αγγλικά. Η τεχνολογία μπορεί να έχει πραγματικά οφέλη. Το πρόβλημα είναι ότι τα σημερινά συστήματα απέχουν ακόμη από το να θεωρηθούν αρκετά ασφαλή για τόσο ευαίσθητους ρόλους.
Μακροπρόθεσμα τα εργαλεία Τεχνητής Νοημοσύνης θα πρέπει να υποβάλλονται σε αυστηρούς ελέγχους πριν κυκλοφορήσουν μαζικά και να υπάρχει δυνατότητα απόσυρσής τους όταν κρίνονται ελαττωματικά ή επικίνδυνα, όπως συμβαίνει με άλλα καταναλωτικά προϊόντα. Οι ερευνητές ζητούν επίσης τη συνεργασία διαφορετικών επιστημονικών πεδίων. Η μελέτη των σχέσεων ανθρώπων και Τεχνητής Νοημοσύνης δεν μπορεί να παραμείνει αποκλειστικά στα χέρια μηχανικών και ειδικών πληροφορικής. Χρειάζεται η συμμετοχή ψυχολόγων, κοινωνιολόγων, νευροεπιστημόνων και ερευνητών της επικοινωνίας.