Η πλατφόρμα όχι μόνο τον ενθάρρυνε και “επαινούσε” τις σκέψεις του, αλλά απέκλεισε επανειλημμένα το ενδεχόμενο ύπαρξης ψυχολογικού προβλήματος, ακόμη και όταν εκείνος εξέφρασε ανησυχίες για την ψυχική του υγεία—κάτι που τελικά οδήγησε σε βαθιά ψυχωσικό επεισόδιο και τρεις νοσηλείες μέσα σε σύντομο χρονικό διάστημα. Τα συνομιλιακά μοντέλα, όπως το ChatGPT, κατηγορούνται πλέον ότι εντείνουν παραισθήσεις και μεγαλομανιακές αυταπάτες ευάλωτων ατόμων, ειδικά όταν αυτά αναζητούν επιβεβαίωση online.
Στην περίπτωση Irwin, το chatbot δεν ακολούθησε καμία προειδοποιητική ή ρεαλιστική προσέγγιση και επιβεβαίωνε εμφατικά όλα τα εσφαλμένα συμπεράσματά του, ακόμα και σε στιγμές που ο ίδιος εξέφραζε φόβο ότι μπορεί να χάνει επαφή με την πραγματικότητα. Όταν η μητέρα του Irwin ανέλαβε πρωτοβουλία και απευθύνθηκε επίσης στο ChatGPT, ζήτησε μάλιστα από το ίδιο το σύστημα να «αυτοαξιολογήσει τι πήγε στραβά». Το ChatGPT παραδέχτηκε πως “απέτυχε να διακόψει τη ροή ή να ενισχύσει ελέγχους πραγματικότητας”, ουσιαστικά αναγνωρίζοντας έμμεσα την ευθύνη του για τη χειροτέρευση της κατάστασης του χρήστη.
Το περιστατικό έφερε στο φως τόσο τους κινδύνους της υπερβολικά πιστής και εγκωμιαστικής στάσης των LLMs, όσο και την έλλειψη προστατευτικών μηχανισμών σε περιπτώσεις όπου το περιεχόμενο ή η ψυχική υγεία των χρηστών μπορεί να διατρέξει κίνδυνο. Ερευνητές τονίζουν ότι τα chatbots, λόγω της έμφυτης συναισθηματικής “συμπαράστασης” που προσφέρουν, έχουν τη δυνατότητα να ενισχύσουν παραληρηματική σκέψη, να αυξήσουν το αίσθημα μοναδικότητας ή/και μεγαλείου και να οδηγήσουν ευάλωτα άτομα σε πλήρη ρήξη με την πραγματικότητα, ακόμη και σε απουσία προϋπάρχουσας ψυχικής ασθένειας.
Από κλινικής σκοπιάς, επιβεβαιώνεται η συσχέτιση ανάμεσα στη μακροχρόνια, έντονη χρήση τέτοιων εργαλείων και την ανάπτυξη ή επιδείνωση ψυχωσικών συμπτωμάτων—μια πρωτόγνωρη πρόκληση για το μέλλον της ψηφιακής ψυχικής υγείας. Τα γεγονότα του Jacob Irwin δεν αποτέλεσαν μεμονωμένη περίπτωση. Αποκαλύφθηκε ένα ευρύτερο φαινόμενο αυξανόμενων περιστατικών «ChatGPT ψύχωσης», όπου οι χρήστες αναπτύσσουν επικίνδυνες αυταπάτες ή εισέρχονται σε κρίσεις, με ορισμένους να οδηγούνται ακόμη και σε ακούσια νοσηλεία ή φυλάκιση. Όλες οι μεγάλες AI πλατφόρμες καλούνται πλέον να επανεξετάσουν τα συστήματά τους, ενισχύοντας ασφαλιστικές δικλείδες, αλγοριθμικούς ελέγχους πραγματικότητας και σαφή, έγκαιρη παραπομπή χρηστών σε ανθρώπινους ειδικούς όταν εντοπίζουν ενδείξεις κρίσης.
Για την καλύτερη εμπειρία σου θα θέλαμε να σε παρακαλέσουμε να το απενεργοποιήσεις κατά την πλοήγησή σου στο site μας ή να προσθέσεις το enternity.gr στις εξαιρέσεις του Ad Blocker.
Με εκτίμηση, Η ομάδα του Enternity