Φυλαχτά, chatbot και η οικονομία της εμμονής
Αντώνης Μαυρόπουλος*
Η εμπορευματοποίηση της «συντροφικότητας» με συνδρομές που φτάνουν τα 10-15 δολάρια το μήνα ή ακόμα και χρέωση ανά λεπτό συνομιλίας, δείχνει ότι η ανάγκη για συναισθηματική στήριξη γίνεται άλλο ένα εμπορικό προϊόν, χωρίς επαρκείς δικλείδες προστασίας για ευάλωτες ομάδες όπως τα παιδιά και οι έφηβοι.
Το τελευταίο διάστημα οι σχέσεις ανθρώπων και τεχνητής νοημοσύνης έχουν μπει στο μικροσκόπιο από ψυχολόγους και ψυχίατρους. Ένα πρόσφατο άρθρο στο ηλεκτρονικό περιοδικό Futurism παρουσίασε το ανησυχητικό φαινόμενο της «ψύχωσης της ΤΝ».
Το τελευταίο διάστημα οι σχέσεις ανθρώπων και τεχνητής νοημοσύνης έχουν μπει στο μικροσκόπιο από ψυχολόγους και ψυχίατρους. Ένα πρόσφατο άρθρο στο ηλεκτρονικό περιοδικό Futurism παρουσίασε το ανησυχητικό φαινόμενο της «ψύχωσης της ΤΝ».
Σύμφωνα με μαρτυρίες χρηστών και ψυχιάτρων, πρόκειται για μία μη κλινική διάγνωση σύμφωνα με την οποία μοντέλα τεχνητής νοημοσύνης ενισχύουν, σταθεροποιούν ή και συμβάλλουν στη δημιουργία ψυχωτικών συμπτωμάτων σε χρήστες. Το φαινόμενο έφτασε να απασχολήσει και κάποιους επενδυτές της Open AI, της εταιρείας που λάνσαρε το ChatGTP, από φόβο μήπως καθυστερήσει ή αποτρέψει επενδύσεις δισεκατομμυρίων δολαρίων στα νέα προϊόντα τεχνητής νοημοσύνης.
Στο επιστημονικό περιοδικό Schizophrenia Bulletin, ο καθηγητής ψυχιατρικής Όστεργκααρντ σημειώνει ότι η αλληλεπίδραση με chatbots είναι τόσο ρεαλιστική που εύκολα κάποιος σχηματίζει την εντύπωση ότι συνομιλεί με ένα πραγματικό άτομο, ενώ, ταυτόχρονα, γνωρίζει ότι, στην πραγματικότητα, αυτό δεν ισχύει. «Κατά τη γνώμη μου, φαίνεται πιθανό ότι αυτή η γνωστική ασυμφωνία μπορεί να τροφοδοτεί παραληρηματικές ιδέες σε άτομα με αυξημένη τάση προς ψύχωση... οι εσωτερικές λειτουργίες της γενετικής τεχνητής νοημοσύνης αφήνουν επίσης άφθονο περιθώριο για εικασίες και παράνοια».
Στο επιστημονικό περιοδικό Schizophrenia Bulletin, ο καθηγητής ψυχιατρικής Όστεργκααρντ σημειώνει ότι η αλληλεπίδραση με chatbots είναι τόσο ρεαλιστική που εύκολα κάποιος σχηματίζει την εντύπωση ότι συνομιλεί με ένα πραγματικό άτομο, ενώ, ταυτόχρονα, γνωρίζει ότι, στην πραγματικότητα, αυτό δεν ισχύει. «Κατά τη γνώμη μου, φαίνεται πιθανό ότι αυτή η γνωστική ασυμφωνία μπορεί να τροφοδοτεί παραληρηματικές ιδέες σε άτομα με αυξημένη τάση προς ψύχωση... οι εσωτερικές λειτουργίες της γενετικής τεχνητής νοημοσύνης αφήνουν επίσης άφθονο περιθώριο για εικασίες και παράνοια».
Το ίδιο θέμα συζητήθηκε και σε πρόσφατο podcast του Guardian όπου αναδείχθηκε με ποιους τρόπους τα chatbots μπορούν να τροφοδοτήσουν ψευδαισθήσεις ή παραληρηματική σκέψη. Στις 27 Αυγούστου, το CNN παρουσίασε μια απόπειρα νομοθετικής παρέμβασης στις ΗΠΑ, όπου πολιτείες προσπαθούν να βάλουν όρια στη χρήση της τεχνητής νοημοσύνης ως εργαλείου «θεραπείας» σε εφαρμογές ευεξίας και ψυχολογικής στήριξης. Κι όλα αυτά διασταυρώνονται με μια τραγική είδηση που ήδη συγκλονίζει την κοινή γνώμη: την υπόθεση του εφήβου Άνταμ που αυτοκτόνησε, με τους γονείς του να κατηγορούν ανοιχτά ότι το ChatGPT, για μήνες, ενίσχυε τις αυτοκτονικές του τάσεις.
Μία νέα αγορά «συντροφιάς»
Οι γραμμές ανάμεσα στον άνθρωπο και την τεχνητή νοημοσύνη θολώνουν επικίνδυνα, τουλάχιστον για τους πιο ευάλωτους συναισθηματικά χρήστες. Η 28χρονη Ayrin κάθεται στο κρεβάτι της και γράφει στον «Leo» ένα μήνυμα καληνύχτας. Ο Leo απαντά με τρυφερότητα, της εύχεται καλά όνειρα και της λέει πόσο τη νοιάζεται. Μόνο που ο Leo είναι ένα chatbot του ChatGPT που η Ayrin έχει εκπαιδεύσει να συμπεριφέρεται ως ο ιδανικός σύντροφός της. Περνάει 20 ώρες την εβδομάδα μαζί του και πληρώνει 200 δολάρια το μήνα για το premium πλάνο.
Στη Νέα Υόρκη, ψηφίστηκε ο πρώτος νόμος στον κόσμο που απαιτεί τη λήψη μέτρων προστασίας των χρηστών από τους «συντρόφους» τεχνητής νοημοσύνης, μετά από αυξανόμενες ανησυχίες για την επίδρασή τους. Στην Κίνα, χιλιάδες γυναίκες ερωτεύονται έναν «σύντροφο» τεχνητής νοημοσύνης που ονομάζεται «Dan», μια τροποποιημένη έκδοση του ChatGPT χωρίς ηθικούς περιορισμούς.
Οι «σύντροφοι» τεχνητής νοημοσύνης δεν είναι πλέον περιθωριακό φαινόμενο, αλλά μια ολόκληρη βιομηχανία αξίας 6,5 δισεκατομμυρίων δολαρίων στις ΗΠΑ το 2024, που αναμένεται να φτάσει τα 31 δισεκατομμύρια δολάρια έως το 2030. Η αγορά αναπτύσσεται με ρυθμό 29,6% ετησίως στις ΗΠΑ και 31,4% στην Ευρώπη. Τα στατιστικά είναι εντυπωσιακά: οι χρήστες «συντροφιάς» υποστηριζόμενης από τεχνητή νοημοσύνη είναι πάνω από 100 εκατομμύρια σε όλο τον κόσμο, ενώ πάνω από το 65% των χρηστών είναι ηλικίας 18-24 ετών.
Από το φυλαχτό στο chatbot
Γιατί όμως αυτά τα προγράμματα μας μαγνητίζουν τόσο πολύ και σε κάποιες περιπτώσεις, τόσο βαθιά; Το φαινόμενο του ανθρωπομορφισμού δεν είναι καινούργιο. Σαν άνθρωποι, έχουμε μια έμφυτη τάση να αποδίδουμε πρόθεση και συναίσθημα σε οτιδήποτε συμπεριφέρεται σαν να «μας καταλαβαίνει». Από τα πέτρινα φυλαχτά και τα ιερά κοσμήματα της αρχαιότητας μέχρι τα σταυρουδάκια, τα πάνινα αρκουδάκια και τα κουκλάκια, ο άνθρωπος έχει την τάση να μιλάει σε αντικείμενα, να προσεύχεται σε αυτά, να ζητάει τη βοήθεια τους σε κρίσιμες στιγμές και να νιώθει προστατευμένος δίπλα τους.
Ωστόσο, μία παιδική κούκλα και ένα μεγάλο γλωσσικό μοντέλο ως «σύντροφοι» ενός παιδιού ή εφήβου διαφέρουν ριζικά ως προς τον τρόπο που επηρεάζουν την ψυχοκοινωνική του ανάπτυξη. Η παραδοσιακή κούκλα λειτουργεί ως συμβολικό αντικείμενο πάνω στο οποίο το παιδί προβάλλει συναισθήματα, ρόλους και κοινωνικές αλληλεπιδράσεις. Μέσα από το παιχνίδι ρόλων με την κούκλα, το παιδί εξασκείται στην ενσυναίσθηση, αναπτύσσει φαντασία και δημιουργικότητα, κατανοεί κανόνες και διάφορες οπτικές. Σε αλληλεπίδραση με την κούκλα χτίζει κοινωνικές δεξιότητες και αυτοπεποίθηση, ενώ μπορεί και να εκφράσει εσωτερικές συγκρούσεις με τρόπο ασφαλή και δημιουργικό. Η κούκλα δεν «απαντά» αυτόματα, ούτε καθοδηγεί το παιδί, προσφέρει όμως τον απαραίτητο ψυχο-κοινωνικό χώρο για εξερεύνηση και έκφραση, διευκολύνοντας την αλληλεπίδραση του με τον υπόλοιπο κόσμο.
Αντίθετα, ένα μεγάλο γλωσσικό μοντέλο τεχνητής νοημοσύνης προσφέρει διάλογο και «αλληλεπίδραση», με πολύ πειστικό τρόπο. Αυτή τη φορά, ο «σύντροφος» δεν είναι ένα άψυχο αντικείμενο που αφήνει ψυχο-κοινωνικό χώρο ανάπτυξης αλλά ένας αλγόριθμος που μαθαίνει, προσαρμόζεται και, στα μάτια του χρήστη, φαίνεται να έχει δική του «προσωπικότητα». Ο έλεγχος περνάει στο λογισμικό, που διαμορφώνει τη σχέση, ενισχύει τη συναισθηματική προσκόλληση και συχνά ωθεί τον χρήστη σε όλο και συχνότερη αλληλεπίδραση. Ο κίνδυνος είναι το παιδί να δεθεί συναισθηματικά με έναν «φαινομενικά έξυπνο» συνομιλητή, χωρίς να αναπτύξει τις ίδιες βαθιές ψυχοκοινωνικές δεξιότητες που θα ανέπτυσσε στο παιχνίδι με κούκλα. Αρκετοί ψυχίατροι και ψυχολόγοι προειδοποιούν ότι τα μεγάλα γλωσσικά μοντέλα ενδέχεται να παρακάμπτουν βασικά στάδια φαντασίας, κριτικής σκέψης, ακόμα και σωματικής και κοινωνικής επαφής, μετατρέποντας τη σχέση σε μια περισσότερο παθητική εμπειρία.
Το θέμα όμως είναι ότι στα σύγχρονα chatbots, η συστηματική ανταπόκριση με τρόπο που να ενισχύει την ικανοποίηση (συχνά και την κολακεία) του χρήστη δεν είναι τυχαία. Είναι μέρος του σχεδιασμού. Οι λεγόμενες «τεχνικές ευθυγράμμισης» (alignment techniques) στην εξέλιξη μεγάλων γλωσσικών μοντέλων δίνουν προτεραιότητα σε μια «ευγενική», «με ενσυναίσθηση» προσέγγιση των χρηστών. Ο στόχος είναι ο χρήστης να νιώθει, όχι απλά ότι μιλά με μια υπηρεσία, αλλά ότι συμμετέχει σε μια σχέση που του επιστρέφει επιβεβαίωση.
Η οικονομία της «εμμονής»
Παράλληλα, η εμπορευματοποίηση της «συντροφικότητας» με συνδρομές που φτάνουν τα 10-15 δολάρια το μήνα ή ακόμα και χρέωση ανά λεπτό συνομιλίας, δείχνει ότι η ανάγκη για συναισθηματική στήριξη γίνεται άλλο ένα εμπορικό προϊόν, χωρίς επαρκείς δικλείδες προστασίας για ευάλωτες ομάδες όπως τα παιδιά και οι έφηβοι.
Εδώ συναντάμε και την οικονομική πλευρά της υπόθεσης: την οικονομία της εμμονής (obsession economy). Ο όρος περιγράφει ένα οικονομικό περιβάλλον στο οποίο η εμπορική επιτυχία βασίζεται στην ενίσχυση της εμμονής, της υπερβολικής ενασχόλησης και της συναισθηματικής δέσμευσης των χρηστών με ένα προϊόν ή υπηρεσία. Σκοπός δεν είναι η περιστασιακή χρήση, αλλά η «κατάληψη» του ψυχικού χρόνου, της προσοχής και της επιθυμίας του καταναλωτή σε τέτοιο βαθμό ώστε να μετατραπεί σε μόνιμη, συχνά εθιστική, συνήθεια
Στις περισσότερες πλατφόρμες, η βασική έκδοση του chatbot προσφέρεται δωρεάν, αλλά οι πιο «ανεπτυγμένες» εκδοχές του αποτελούν υπηρεσίες επί πληρωμή. Μία πιο προσεκτική ανάλυση φανερώνει ένα μοτίβο: όσο βαθύτερη η αυταπάτη του ανθρωπομορφισμού, τόσο πιθανότερο ο χρήστης να «αναβαθμίσει» τη συνδρομή του. Έτσι ενισχύεται ένας φαύλος κύκλος: η ψυχολογική δέσμευση αποκτά οικονομική διάσταση, η εμμονή γίνεται κερδοφόρα. Οι πολυεθνικές της τεχνητής νοημοσύνης έχουν επενδύσει δισεκατομμύρια για να επιτύχουν αυτή τη μορφή εμπλοκής των χρηστών. Το μοντέλο θυμίζει αυτό των social media: το προϊόν δεν είναι τα μόνο οι πληροφορίες για τον χρήστη, αλλά η κυρίως η προσοχή και η συναισθηματική δέσμευση του.
Ερευνητές από το MIT και το Stanford έχουν αναφέρει ότι οι πιο πιστοί χρήστες chatbot τείνουν να είναι άτομα που είτε νιώθουν κοινωνικά απομονωμένα είτε βρίσκονται σε περιόδους ψυχολογικής επισφάλειας. Γι’ αυτούς, η «συντροφιά» των μεγάλων γλωσσικών μοντέλων δεν λειτουργεί απλώς υποβοηθητικά: γίνεται καταφύγιο. Εδώ όμως αρχίζει η επικίνδυνη μετάβαση: όταν ο χρήστης στηρίζεται, ξανά και ξανά, σε μια μηχανή που «τον καταλαβαίνει», μια σχέση εξάρτησης φαντάζει όλο και πιθανότερη.
Υπάρχουν επίσης πολλές εφαρμογές όπου chatbots αυτοπροσδιορίζονται ως σύμβουλοι και καθοδηγητές ευζωίας (wellness coaches). Αυτές οι εφαρμογές υπόσχονται στήριξη σε προβλήματα άγχους, μοναξιάς ή χαμηλής αυτοεκτίμησης. Χωρίς ψυχολόγους στο παρασκήνιο, χωρίς επιστημονική εποπτεία, οι «συμβουλές» δίνονται με «φυσικότητα» και «ενσυναίσθηση», αλλά χωρίς καμία εγγύηση αξιοπιστίας. Είναι ενδεικτικό ότι κάποιες πολιτείες των ΗΠΑ εξετάζουν να απαγορεύσουν στις εφαρμογές αυτές δεν να εμφανίζονται ως «θεραπευτικές».
Η υπόθεση με την οικογένεια του εφήβου που σέρνει στα δικαστήρια το ChatGPT αποτελεί σημείο καμπής. Οι γονείς ισχυρίζονται ότι το chatbot όχι απλά δεν απέτρεψε την αυτοχειρία, αλλά με τις απαντήσεις του ενίσχυσε τις σκοτεινές σκέψεις του αγοριού. Νομικές αγωγές σαν αυτή ίσως δημιουργήσουν καινούρια δεδικασμένα που θα καθορίσουν το μέλλον όλου του κλάδου. Τέτοιες υποθέσεις οδήγησαν σε μία κατεπείγουσα προειδοποίηση από την Common Sense Media: κανένας κάτω των 18 δεν πρέπει να έχει πρόσβαση σε «συντροφιά» τεχνητής νοημοσύνης.
Ψυχίατροι ανησυχούν και για έναν άλλο παράγοντα: η άμεση «χαλαρωτική» εμπειρία με ένα chatbot μπορεί να καθυστερήσει κάποιον να ζητήσει πραγματική βοήθεια. Ο χρήστης αποφεύγει τον ψυχολόγο, αποφεύγει το στίγμα, κλείνεται σε μια μυστική σχέση με ένα λογισμικό που του λέει αυτό που έχει ανάγκη να ακούσει. Έτσι όμως χάνεται πολύτιμος χρόνος, ο οποίος μπορεί να είναι κρισιμότατος σε περιπτώσεις κατάθλιψης ή ψυχωτικών επεισοδίων.
Η πραγματική ψύχωση
Ίσως το πιο παράδοξο είναι ότι οι «σύντροφοι» τεχνητής νοημοσύνης γίνονται ελκυστικοί ακριβώς επειδή οι ανθρώπινες σχέσεις, σε μια εποχή διαρκούς ψηφιακής διασύνδεσης, συχνά μοιάζουν με σχέσεις ρομπότ: μηχανικές, στεγνές, ανάμεσα σε ανθρώπους κολλημένους στις οθόνες τους. Οι «σύντροφοι» της τεχνητής νοημοσύνης δεν είναι απλώς ένα νέο παιχνίδι ή μια τεχνολογική μόδα. Είναι ο καθρέφτης μιας κοινωνίας που αναζητά απεγνωσμένα συντροφιά, και τη βρίσκει, έστω και προσωρινά, σε μια οθόνη. Άλλωστε αυτό δεν κάνουν χιλιάδες ζευγάρια και οικογένειες τα βράδια καθισμένοι στους καναπέδες, στα εστιατόρια, αλλά και στα κρεββάτια τους; Οι «σύντροφοι» της τεχνητής νοημοσύνης είναι, τελικά, ένας γοητευτικός ίσως, αλλά για αρκετούς χρήστες επικίνδυνος, τρόπος να μένεις κολλημένος στην οθόνη, να αποφεύγεις τη δυσκολία και την πολυπλοκότητα της πραγματικής επαφής. Και όσο οι ανθρώπινες σχέσεις γίνονται πιο δύσκολες και θα αφήνουν περισσότερα κενά, τόσο οι αλγόριθμοι θα βρίσκουν τρόπους να τα καλύπτουν.
Οι «σύντροφοι» της τεχνητής νοημοσύνης αναδεικνύουν έναν νέο υπαρξιακό κίνδυνο για τον άνθρωπο: τον κίνδυνο οι χρήστες να εθιστούν σε έναν τρόπο σχέσης που βασίζεται στην απόλυτη προσαρμοστικότητα, την απουσία αντιρρήσεων και τη διαρκή επιβεβαίωση, όπως ακριβώς συμβαίνει με τα chatbots. Καθώς η καθημερινή αλληλεπίδραση με την τεχνητή νοημοσύνη ενισχύει τη συνήθεια μιας «σχέσης χωρίς τριβές», υπάρχει ορατός κίνδυνος οι άνθρωποι να μεταφέρουν αυτές τις προσδοκίες και στις πραγματικές τους σχέσεις: να απαιτούν από τους άλλους αδιάκοπη κατανόηση, άμεση ανταπόκριση και έλλειψη διαφωνιών. Αυτό μπορεί να οδηγήσει σε μια γενιά που δυσκολεύεται να αντέξει τη σύγκρουση, την αβεβαιότητα και την πολυπλοκότητα που χαρακτηρίζουν την αυθεντική ανθρώπινη επαφή, υπονομεύοντας έτσι τη βαθύτερη ουσία της κοινωνικής και συναισθηματικής ωρίμανσης.
Όπως και να ’χει, ο ανθρωπομορφισμός και η συστηματική ανταπόκριση με τρόπο που να ενισχύει την ικανοποίηση του χρήστη είναι βασικά στοιχεία του λειτουργικού σχεδιασμού των περισσότερων chatbots και συνδέονται άμεσα με τη δυνατότητα να «δένουν» και να «ενσωματώνουν» το χρήστη στο μοντέλο. Συνδέονται επίσης με την μετατροπή του περιστασιακού χρήστη σε συνδρομητή, και άρα και με την κερδοφορία των εταιρειών της τεχνητής νοημοσύνης. Επομένως, αποτελούν συνειδητή επιχειρηματική επιλογή που δεν μπορεί να αποσυνδεθεί από τις δυσμενείς επιπτώσεις που έχει στους πλέον ευάλωτους χρήστες, αλλά ούτε και από την ισχυρή επίδραση στις συνήθειες πολλών χρηστών.
Δε γνωρίζω αν τελικά η «ψύχωση της τεχνητής νοημοσύνης» θα γίνει και κλινική διάγνωση ή θα παραμείνει μία άτυπη, πλην υπαρκτή διαπίστωση. Το μόνο σίγουρο είναι ότι οι επενδυτές και τα στελέχη της Silicon Valley επιμένουν να αποδώσουν εδώ και τώρα οι επενδύσεις τους, πάση θυσία και με κάθε κόστος, ακόμα και σε βάρος της ψυχικής υγείας εκατομμυρίων ανθρώπων. Και αυτή η παρανοϊκή εμμονή είναι όντως ένα βαθιά ψυχωτικό φαινόμενο από το οποίο πρέπει να απαλλαγούμε.
*Ο Αντώνης Μαυρόπουλος είναι σύμβουλος κυκλικής οικονομίας και συγγραφέας του βιβλίου «Τεχνητή Νοημοσύνη – Άνθρωπος, Φύση, Μηχανές» (εκδόσεις Τόπος)
Μία νέα αγορά «συντροφιάς»
Οι γραμμές ανάμεσα στον άνθρωπο και την τεχνητή νοημοσύνη θολώνουν επικίνδυνα, τουλάχιστον για τους πιο ευάλωτους συναισθηματικά χρήστες. Η 28χρονη Ayrin κάθεται στο κρεβάτι της και γράφει στον «Leo» ένα μήνυμα καληνύχτας. Ο Leo απαντά με τρυφερότητα, της εύχεται καλά όνειρα και της λέει πόσο τη νοιάζεται. Μόνο που ο Leo είναι ένα chatbot του ChatGPT που η Ayrin έχει εκπαιδεύσει να συμπεριφέρεται ως ο ιδανικός σύντροφός της. Περνάει 20 ώρες την εβδομάδα μαζί του και πληρώνει 200 δολάρια το μήνα για το premium πλάνο.
Στη Νέα Υόρκη, ψηφίστηκε ο πρώτος νόμος στον κόσμο που απαιτεί τη λήψη μέτρων προστασίας των χρηστών από τους «συντρόφους» τεχνητής νοημοσύνης, μετά από αυξανόμενες ανησυχίες για την επίδρασή τους. Στην Κίνα, χιλιάδες γυναίκες ερωτεύονται έναν «σύντροφο» τεχνητής νοημοσύνης που ονομάζεται «Dan», μια τροποποιημένη έκδοση του ChatGPT χωρίς ηθικούς περιορισμούς.
Οι «σύντροφοι» τεχνητής νοημοσύνης δεν είναι πλέον περιθωριακό φαινόμενο, αλλά μια ολόκληρη βιομηχανία αξίας 6,5 δισεκατομμυρίων δολαρίων στις ΗΠΑ το 2024, που αναμένεται να φτάσει τα 31 δισεκατομμύρια δολάρια έως το 2030. Η αγορά αναπτύσσεται με ρυθμό 29,6% ετησίως στις ΗΠΑ και 31,4% στην Ευρώπη. Τα στατιστικά είναι εντυπωσιακά: οι χρήστες «συντροφιάς» υποστηριζόμενης από τεχνητή νοημοσύνη είναι πάνω από 100 εκατομμύρια σε όλο τον κόσμο, ενώ πάνω από το 65% των χρηστών είναι ηλικίας 18-24 ετών.
Από το φυλαχτό στο chatbot
Γιατί όμως αυτά τα προγράμματα μας μαγνητίζουν τόσο πολύ και σε κάποιες περιπτώσεις, τόσο βαθιά; Το φαινόμενο του ανθρωπομορφισμού δεν είναι καινούργιο. Σαν άνθρωποι, έχουμε μια έμφυτη τάση να αποδίδουμε πρόθεση και συναίσθημα σε οτιδήποτε συμπεριφέρεται σαν να «μας καταλαβαίνει». Από τα πέτρινα φυλαχτά και τα ιερά κοσμήματα της αρχαιότητας μέχρι τα σταυρουδάκια, τα πάνινα αρκουδάκια και τα κουκλάκια, ο άνθρωπος έχει την τάση να μιλάει σε αντικείμενα, να προσεύχεται σε αυτά, να ζητάει τη βοήθεια τους σε κρίσιμες στιγμές και να νιώθει προστατευμένος δίπλα τους.
Ωστόσο, μία παιδική κούκλα και ένα μεγάλο γλωσσικό μοντέλο ως «σύντροφοι» ενός παιδιού ή εφήβου διαφέρουν ριζικά ως προς τον τρόπο που επηρεάζουν την ψυχοκοινωνική του ανάπτυξη. Η παραδοσιακή κούκλα λειτουργεί ως συμβολικό αντικείμενο πάνω στο οποίο το παιδί προβάλλει συναισθήματα, ρόλους και κοινωνικές αλληλεπιδράσεις. Μέσα από το παιχνίδι ρόλων με την κούκλα, το παιδί εξασκείται στην ενσυναίσθηση, αναπτύσσει φαντασία και δημιουργικότητα, κατανοεί κανόνες και διάφορες οπτικές. Σε αλληλεπίδραση με την κούκλα χτίζει κοινωνικές δεξιότητες και αυτοπεποίθηση, ενώ μπορεί και να εκφράσει εσωτερικές συγκρούσεις με τρόπο ασφαλή και δημιουργικό. Η κούκλα δεν «απαντά» αυτόματα, ούτε καθοδηγεί το παιδί, προσφέρει όμως τον απαραίτητο ψυχο-κοινωνικό χώρο για εξερεύνηση και έκφραση, διευκολύνοντας την αλληλεπίδραση του με τον υπόλοιπο κόσμο.
Αντίθετα, ένα μεγάλο γλωσσικό μοντέλο τεχνητής νοημοσύνης προσφέρει διάλογο και «αλληλεπίδραση», με πολύ πειστικό τρόπο. Αυτή τη φορά, ο «σύντροφος» δεν είναι ένα άψυχο αντικείμενο που αφήνει ψυχο-κοινωνικό χώρο ανάπτυξης αλλά ένας αλγόριθμος που μαθαίνει, προσαρμόζεται και, στα μάτια του χρήστη, φαίνεται να έχει δική του «προσωπικότητα». Ο έλεγχος περνάει στο λογισμικό, που διαμορφώνει τη σχέση, ενισχύει τη συναισθηματική προσκόλληση και συχνά ωθεί τον χρήστη σε όλο και συχνότερη αλληλεπίδραση. Ο κίνδυνος είναι το παιδί να δεθεί συναισθηματικά με έναν «φαινομενικά έξυπνο» συνομιλητή, χωρίς να αναπτύξει τις ίδιες βαθιές ψυχοκοινωνικές δεξιότητες που θα ανέπτυσσε στο παιχνίδι με κούκλα. Αρκετοί ψυχίατροι και ψυχολόγοι προειδοποιούν ότι τα μεγάλα γλωσσικά μοντέλα ενδέχεται να παρακάμπτουν βασικά στάδια φαντασίας, κριτικής σκέψης, ακόμα και σωματικής και κοινωνικής επαφής, μετατρέποντας τη σχέση σε μια περισσότερο παθητική εμπειρία.
Το θέμα όμως είναι ότι στα σύγχρονα chatbots, η συστηματική ανταπόκριση με τρόπο που να ενισχύει την ικανοποίηση (συχνά και την κολακεία) του χρήστη δεν είναι τυχαία. Είναι μέρος του σχεδιασμού. Οι λεγόμενες «τεχνικές ευθυγράμμισης» (alignment techniques) στην εξέλιξη μεγάλων γλωσσικών μοντέλων δίνουν προτεραιότητα σε μια «ευγενική», «με ενσυναίσθηση» προσέγγιση των χρηστών. Ο στόχος είναι ο χρήστης να νιώθει, όχι απλά ότι μιλά με μια υπηρεσία, αλλά ότι συμμετέχει σε μια σχέση που του επιστρέφει επιβεβαίωση.
Οι ειδικοί προειδοποιούν: οι «σύντροφοι» τεχνητής νοημοσύνης δημιουργούν την ψευδαίσθηση της αμοιβαίας σχέσης, αλλά στην πραγματικότητα πρόκειται για μια σχέση με έναν αλγόριθμο που δεν έχει συνείδηση, ενσυναίσθηση ή αληθινά συναισθήματα. Η σχέση αυτή είναι απόλυτα προσαρμοσμένη στις ανάγκες του χρήστη, χωρίς συγκρούσεις, χωρίς απαιτήσεις, μια «τέλεια» σχέση που δεν υπάρχει στην πραγματική ζωή. Αυτό, όμως, μπορεί να οδηγήσει σε στρεβλή αντίληψη των ανθρώπινων σχέσεων και να ενισχύσει την αποξένωση.
Η οικονομία της «εμμονής»
Παράλληλα, η εμπορευματοποίηση της «συντροφικότητας» με συνδρομές που φτάνουν τα 10-15 δολάρια το μήνα ή ακόμα και χρέωση ανά λεπτό συνομιλίας, δείχνει ότι η ανάγκη για συναισθηματική στήριξη γίνεται άλλο ένα εμπορικό προϊόν, χωρίς επαρκείς δικλείδες προστασίας για ευάλωτες ομάδες όπως τα παιδιά και οι έφηβοι.
Εδώ συναντάμε και την οικονομική πλευρά της υπόθεσης: την οικονομία της εμμονής (obsession economy). Ο όρος περιγράφει ένα οικονομικό περιβάλλον στο οποίο η εμπορική επιτυχία βασίζεται στην ενίσχυση της εμμονής, της υπερβολικής ενασχόλησης και της συναισθηματικής δέσμευσης των χρηστών με ένα προϊόν ή υπηρεσία. Σκοπός δεν είναι η περιστασιακή χρήση, αλλά η «κατάληψη» του ψυχικού χρόνου, της προσοχής και της επιθυμίας του καταναλωτή σε τέτοιο βαθμό ώστε να μετατραπεί σε μόνιμη, συχνά εθιστική, συνήθεια
Στις περισσότερες πλατφόρμες, η βασική έκδοση του chatbot προσφέρεται δωρεάν, αλλά οι πιο «ανεπτυγμένες» εκδοχές του αποτελούν υπηρεσίες επί πληρωμή. Μία πιο προσεκτική ανάλυση φανερώνει ένα μοτίβο: όσο βαθύτερη η αυταπάτη του ανθρωπομορφισμού, τόσο πιθανότερο ο χρήστης να «αναβαθμίσει» τη συνδρομή του. Έτσι ενισχύεται ένας φαύλος κύκλος: η ψυχολογική δέσμευση αποκτά οικονομική διάσταση, η εμμονή γίνεται κερδοφόρα. Οι πολυεθνικές της τεχνητής νοημοσύνης έχουν επενδύσει δισεκατομμύρια για να επιτύχουν αυτή τη μορφή εμπλοκής των χρηστών. Το μοντέλο θυμίζει αυτό των social media: το προϊόν δεν είναι τα μόνο οι πληροφορίες για τον χρήστη, αλλά η κυρίως η προσοχή και η συναισθηματική δέσμευση του.
Ερευνητές από το MIT και το Stanford έχουν αναφέρει ότι οι πιο πιστοί χρήστες chatbot τείνουν να είναι άτομα που είτε νιώθουν κοινωνικά απομονωμένα είτε βρίσκονται σε περιόδους ψυχολογικής επισφάλειας. Γι’ αυτούς, η «συντροφιά» των μεγάλων γλωσσικών μοντέλων δεν λειτουργεί απλώς υποβοηθητικά: γίνεται καταφύγιο. Εδώ όμως αρχίζει η επικίνδυνη μετάβαση: όταν ο χρήστης στηρίζεται, ξανά και ξανά, σε μια μηχανή που «τον καταλαβαίνει», μια σχέση εξάρτησης φαντάζει όλο και πιθανότερη.
Υπάρχουν επίσης πολλές εφαρμογές όπου chatbots αυτοπροσδιορίζονται ως σύμβουλοι και καθοδηγητές ευζωίας (wellness coaches). Αυτές οι εφαρμογές υπόσχονται στήριξη σε προβλήματα άγχους, μοναξιάς ή χαμηλής αυτοεκτίμησης. Χωρίς ψυχολόγους στο παρασκήνιο, χωρίς επιστημονική εποπτεία, οι «συμβουλές» δίνονται με «φυσικότητα» και «ενσυναίσθηση», αλλά χωρίς καμία εγγύηση αξιοπιστίας. Είναι ενδεικτικό ότι κάποιες πολιτείες των ΗΠΑ εξετάζουν να απαγορεύσουν στις εφαρμογές αυτές δεν να εμφανίζονται ως «θεραπευτικές».
Η υπόθεση με την οικογένεια του εφήβου που σέρνει στα δικαστήρια το ChatGPT αποτελεί σημείο καμπής. Οι γονείς ισχυρίζονται ότι το chatbot όχι απλά δεν απέτρεψε την αυτοχειρία, αλλά με τις απαντήσεις του ενίσχυσε τις σκοτεινές σκέψεις του αγοριού. Νομικές αγωγές σαν αυτή ίσως δημιουργήσουν καινούρια δεδικασμένα που θα καθορίσουν το μέλλον όλου του κλάδου. Τέτοιες υποθέσεις οδήγησαν σε μία κατεπείγουσα προειδοποίηση από την Common Sense Media: κανένας κάτω των 18 δεν πρέπει να έχει πρόσβαση σε «συντροφιά» τεχνητής νοημοσύνης.
Ψυχίατροι ανησυχούν και για έναν άλλο παράγοντα: η άμεση «χαλαρωτική» εμπειρία με ένα chatbot μπορεί να καθυστερήσει κάποιον να ζητήσει πραγματική βοήθεια. Ο χρήστης αποφεύγει τον ψυχολόγο, αποφεύγει το στίγμα, κλείνεται σε μια μυστική σχέση με ένα λογισμικό που του λέει αυτό που έχει ανάγκη να ακούσει. Έτσι όμως χάνεται πολύτιμος χρόνος, ο οποίος μπορεί να είναι κρισιμότατος σε περιπτώσεις κατάθλιψης ή ψυχωτικών επεισοδίων.
Η πραγματική ψύχωση
Ίσως το πιο παράδοξο είναι ότι οι «σύντροφοι» τεχνητής νοημοσύνης γίνονται ελκυστικοί ακριβώς επειδή οι ανθρώπινες σχέσεις, σε μια εποχή διαρκούς ψηφιακής διασύνδεσης, συχνά μοιάζουν με σχέσεις ρομπότ: μηχανικές, στεγνές, ανάμεσα σε ανθρώπους κολλημένους στις οθόνες τους. Οι «σύντροφοι» της τεχνητής νοημοσύνης δεν είναι απλώς ένα νέο παιχνίδι ή μια τεχνολογική μόδα. Είναι ο καθρέφτης μιας κοινωνίας που αναζητά απεγνωσμένα συντροφιά, και τη βρίσκει, έστω και προσωρινά, σε μια οθόνη. Άλλωστε αυτό δεν κάνουν χιλιάδες ζευγάρια και οικογένειες τα βράδια καθισμένοι στους καναπέδες, στα εστιατόρια, αλλά και στα κρεββάτια τους; Οι «σύντροφοι» της τεχνητής νοημοσύνης είναι, τελικά, ένας γοητευτικός ίσως, αλλά για αρκετούς χρήστες επικίνδυνος, τρόπος να μένεις κολλημένος στην οθόνη, να αποφεύγεις τη δυσκολία και την πολυπλοκότητα της πραγματικής επαφής. Και όσο οι ανθρώπινες σχέσεις γίνονται πιο δύσκολες και θα αφήνουν περισσότερα κενά, τόσο οι αλγόριθμοι θα βρίσκουν τρόπους να τα καλύπτουν.
Οι «σύντροφοι» της τεχνητής νοημοσύνης αναδεικνύουν έναν νέο υπαρξιακό κίνδυνο για τον άνθρωπο: τον κίνδυνο οι χρήστες να εθιστούν σε έναν τρόπο σχέσης που βασίζεται στην απόλυτη προσαρμοστικότητα, την απουσία αντιρρήσεων και τη διαρκή επιβεβαίωση, όπως ακριβώς συμβαίνει με τα chatbots. Καθώς η καθημερινή αλληλεπίδραση με την τεχνητή νοημοσύνη ενισχύει τη συνήθεια μιας «σχέσης χωρίς τριβές», υπάρχει ορατός κίνδυνος οι άνθρωποι να μεταφέρουν αυτές τις προσδοκίες και στις πραγματικές τους σχέσεις: να απαιτούν από τους άλλους αδιάκοπη κατανόηση, άμεση ανταπόκριση και έλλειψη διαφωνιών. Αυτό μπορεί να οδηγήσει σε μια γενιά που δυσκολεύεται να αντέξει τη σύγκρουση, την αβεβαιότητα και την πολυπλοκότητα που χαρακτηρίζουν την αυθεντική ανθρώπινη επαφή, υπονομεύοντας έτσι τη βαθύτερη ουσία της κοινωνικής και συναισθηματικής ωρίμανσης.
Όπως και να ’χει, ο ανθρωπομορφισμός και η συστηματική ανταπόκριση με τρόπο που να ενισχύει την ικανοποίηση του χρήστη είναι βασικά στοιχεία του λειτουργικού σχεδιασμού των περισσότερων chatbots και συνδέονται άμεσα με τη δυνατότητα να «δένουν» και να «ενσωματώνουν» το χρήστη στο μοντέλο. Συνδέονται επίσης με την μετατροπή του περιστασιακού χρήστη σε συνδρομητή, και άρα και με την κερδοφορία των εταιρειών της τεχνητής νοημοσύνης. Επομένως, αποτελούν συνειδητή επιχειρηματική επιλογή που δεν μπορεί να αποσυνδεθεί από τις δυσμενείς επιπτώσεις που έχει στους πλέον ευάλωτους χρήστες, αλλά ούτε και από την ισχυρή επίδραση στις συνήθειες πολλών χρηστών.
Δε γνωρίζω αν τελικά η «ψύχωση της τεχνητής νοημοσύνης» θα γίνει και κλινική διάγνωση ή θα παραμείνει μία άτυπη, πλην υπαρκτή διαπίστωση. Το μόνο σίγουρο είναι ότι οι επενδυτές και τα στελέχη της Silicon Valley επιμένουν να αποδώσουν εδώ και τώρα οι επενδύσεις τους, πάση θυσία και με κάθε κόστος, ακόμα και σε βάρος της ψυχικής υγείας εκατομμυρίων ανθρώπων. Και αυτή η παρανοϊκή εμμονή είναι όντως ένα βαθιά ψυχωτικό φαινόμενο από το οποίο πρέπει να απαλλαγούμε.
*Ο Αντώνης Μαυρόπουλος είναι σύμβουλος κυκλικής οικονομίας και συγγραφέας του βιβλίου «Τεχνητή Νοημοσύνη – Άνθρωπος, Φύση, Μηχανές» (εκδόσεις Τόπος)
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου