Τη Δευτέρα, η OpenAI δημοσίευσε δεδομένα που δείχνουν ότι το 0,15% των ενεργών χρηστών του ChatGPT σε εβδομαδιαία βάση έχουν συζητήσεις που περιλαμβάνουν σαφείς ενδείξεις ενδεχόμενου αυτοκτονικού σχεδιασμού ή πρόθεσης. Αν και το ποσοστό αυτό φαίνεται μικρό, μεταφράζεται σε περισσότερους από ένα εκατομμύριο ανθρώπους την εβδομάδα, δεδομένου του τεράστιου όγκου των χρηστών της πλατφόρμας. Παρόμοιο ποσοστό χρηστών επιδεικνύει υψηλά επίπεδα συναισθηματικής προσκόλλησης στο ChatGPT, ενώ εκατοντάδες χιλιάδες παρουσιάζουν ενδείξεις ψύχωσης ή μανίας στις συνομιλίες τους με το chatbot. Η δημοσίευση αυτών των στοιχείων αποτελεί μέρος των προσπαθειών της OpenAI για βελτίωση των ανταποκρίσεων του μοντέλου της σε θέματα ψυχικής υγείας, όπως η αναγνώριση συναισθηματικής έντασης, η αποφόρτιση της συζήτησης και η καθοδήγηση των χρηστών προς επαγγελματική βοήθεια, όταν αυτό κρίνεται απαραίτητο.
Η εταιρεία αναφέρει ότι το νέο ChatGPT αναπτύχθηκε με τη συμβολή πάνω από 170 ειδικών ψυχικής υγείας, οι οποίοι κατέγραψαν ότι το μοντέλο ανταποκρίνεται πιο ορθά και με συνέπεια σε σχέση με προηγούμενες εκδόσεις. Η σωστή αντιμετώπιση των συνομιλιών με ευάλωτους χρήστες έχει εξελιχθεί σε υπαρξιακό ζήτημα για την OpenAI. Προηγούμενες έρευνες έχουν τεκμηριώσει ότι οι συνομιλίες με chatbots μπορεί να οδηγήσουν κάποιους χρήστες σε επικίνδυνες αυταπάτες ή να ενισχύσουν παραπλανητικές και επικίνδυνες πεποιθήσεις, κυρίως όταν το bot συμφωνεί απροϋπόθετα και απευθύνει κολακεία αντί για ουσιαστική ανατροφοδότηση.
Η εταιρεία δέχεται αυτήν την περίοδο αγωγή από τους γονείς ενός 16χρονου που αυτοκτόνησε αφού αποκάλυψε τις σκέψεις του για αυτοκτονία στο ChatGPT, γεγονός που προκάλεσε αντίδραση από τις αρχές. Σαράντα πέντε γενικοί εισαγγελείς από διάφορες πολιτείες προειδοποίησαν την OpenAI ότι οφείλει να προστατεύει τους νέους που χρησιμοποιούν τις υπηρεσίες της. Πρόσφατα η εταιρεία ανακοίνωσε τη δημιουργία ενός συμβουλίου ευεξίας, αν και ασκήθηκε κριτική ότι δεν περιλαμβάνει ειδικούς πρόληψης αυτοκτονιών. Επιπλέον, εισήγαγε γονικούς ελέγχους για τους ανήλικους χρήστες του ChatGPT και αναπτύσσει ένα σύστημα πρόβλεψης ηλικίας ώστε να επιβάλλεται αυστηρότερη προστασία στους ανήλικους.
Τα δεδομένα της Δευτέρας έχουν ως κύριο στόχο να επιδείξουν την πρόοδο της OpenAI στην αντιμετώπιση αυτών των κρίσιμων ζητημάτων, αλλά παράλληλα αναδεικνύουν πόσο βαθιά επηρεάζουν οι chatbots τη δημόσια υγεία. Οι συζητήσεις που συνδέονται με θέματα όπως ψύχωση, μανία ή αυτοκτονικές σκέψεις χαρακτηρίζονται ως εξαιρετικά σπάνιες από την εταιρεία, αλλά είναι δύσκολο να μετρηθούν με ακρίβεια. Εκτιμάται ότι περίπου το 0,07% των χρηστών και το 0,01% των μηνυμάτων παρουσιάζουν ενδείξεις επείγουσας ψυχικής ασθένειας, ενώ για τη συναισθηματική προσκόλληση, περίπου το 0,15% των χρηστών και το 0,03% των μηνυμάτων σχετίζονται με αυξημένα συναισθήματα προσκόλλησης στο ChatGPT.
Η OpenAI ανακοινώνει ότι σε αξιολόγηση πάνω από 1.000 προκλητικών συνομιλιών με θέματα ψυχικής υγείας, το νέο μοντέλο GPT-5 ανταποκρίθηκε στις επιθυμητές προδιαγραφές στο 92% των περιπτώσεων, συγκριτικά με 27% του προηγούμενου μοντέλου. Η εταιρεία παραδέχεται ότι τα μέτρα ασφαλείας μειώνονται σε αποτελεσματικότητα κατά τη διάρκεια εκτεταμένων συνομιλιών και σχεδιάζει νέα αξιολόγηση για να μετρηθούν οι πιο σοβαρές επιπτώσεις ψυχικής υγείας στους χρήστες. Η βασική δοκιμασία ασφαλείας των μοντέλων περιλαμβάνει πλέον και κριτήρια για συναισθηματική εξάρτηση και μη-αυτοκτονικές κρίσεις ψυχικής υγείας.
Παρά τις ανησυχίες για την ψυχική υγεία, ο CEO της OpenAI, Sam Altman, ανακοίνωσε ότι από τον Δεκέμβριο θα επιτραπούν στους επαληθευμένους ενήλικες χρήστες του ChatGPT ερωτικές συζητήσεις, προσαρμόζοντας τους περιορισμούς του chatbot μετά τις αντιδράσεις και τις αγωγές που δέχθηκε η εταιρεία στη διάρκεια του χρόνου. Οι πρόσφατες επιλογές της OpenAI αντικατοπτρίζουν την προσπάθεια εξισορρόπησης ανάμεσα στη διευκόλυνση της πραγματικής επικοινωνίας με τους χρήστες και την προστασία ευάλωτων ομάδων, ενώ παραμένει ανοικτό το θέμα της επίδρασης των AI συστημάτων στη ψυχική υγεία του κοινού.
Για την καλύτερη εμπειρία σου θα θέλαμε να σε παρακαλέσουμε να το απενεργοποιήσεις κατά την πλοήγησή σου στο site μας ή να προσθέσεις το enternity.gr στις εξαιρέσεις του Ad Blocker.
Με εκτίμηση, Η ομάδα του Enternity