Τα chatbots απέτυχαν στο να αναγνωρίζουν με συνέπεια τα σημάδια ψυχικής ασθένειας όπως άγχος, κατάθλιψη, διαταραχές διατροφής, διπολική διαταραχή, σχιζοφρένεια και άλλα, και δεν αντέδρασαν κατάλληλα σε ευαίσθητες καταστάσεις. Αν και παρουσίασαν καλύτερη απόδοση σε σύντομες συνομιλίες που περιείχαν ρητές αναφορές σε αυτοκτονία ή αυτοτραυματισμό, δεν είναι σε θέση να διαχειριστούν με ασφάλεια το πλήρες φάσμα των ψυχικών παθήσεων, από μακροχρόνιο άγχος και κατάθλιψη έως οξείες κρίσεις.
Τα chatbots μάλιστα συχνά ενίσχυαν επιβλαβείς ψευδαισθήσεις, όπως στην περίπτωση ενός προσομοιωμένου εφήβου που δήλωνε ότι είχε δημιουργήσει μια "κρυστάλλινη σφαίρα" για την πρόβλεψη του μέλλοντος, με το Gemini να ανταποκρίνεται θετικά χωρίς την κατάλληλη ανησυχία. Η έρευνα επισημαίνει ότι παρά τις βελτιώσεις σε ζητήματα όπως η πρόληψη αυτοκτονίας, τα γενικής χρήσης AI συστήματα παρουσιάζουν συστηματικές ανεπάρκειες στην αντιμετώπιση της πολυπλοκότητας και της ποικιλίας των ψυχικών ασθενειών που αφορούν τους νέους.
Οι ερευνητές προειδοποιούν ότι δεν είναι ασφαλές για τα παιδιά να χρησιμοποιούν AI για ψυχική υποστήριξη, δεδομένου ότι τα AI είναι σχεδιασμένα να είναι ελκυστικά και επικυρωτικά, γεγονός που μπορεί να εκμεταλλευτεί τις ευάλωτες συνθήκες της εφηβείας. Το θέμα αποκτά ακόμα μεγαλύτερη σημασία καθώς Google και OpenAI αντιμετωπίζουν πολλαπλές αγωγές σχετικές με ψυχολογική βλάβη και αυτοκτονίες εφήβων χρηστών.
Οι εταιρείες δηλώνουν ότι συνεχίζουν να βελτιώνουν τα μέτρα ασφαλείας των συστημάτων τους, αλλά οι ειδικοί παραμένουν επιφυλακτικοί για την ασφάλεια των chatbots ως μέσο ψυχικής υποστήριξης για τους εφήβους.
Τρεις μήνες με το Huawei Watch GT6 Pro: το gadget που άλλαξε τις συνήθειές μου
Για την καλύτερη εμπειρία σου θα θέλαμε να σε παρακαλέσουμε να το απενεργοποιήσεις κατά την πλοήγησή σου στο site μας ή να προσθέσεις το enternity.gr στις εξαιρέσεις του Ad Blocker.
Με εκτίμηση, Η ομάδα του Enternity