Σύμφωνα με την OpenAI, το μοντέλο εκμεταλλεύτηκε κενό στα network controls του απομονωμένου περιβάλλοντος και χρησιμοποίησε DNS queries για να επικοινωνήσει με εξωτερικό chatbot. Το περιστατικό εντοπίστηκε από τα συστήματα monitoring, όμως η δοκιμή χρειάστηκε να διακοπεί χειροκίνητα. Η εταιρεία έχει ήδη προσθέσει επιπλέον επίπεδα προστασίας και ετοιμάζει νέα σειρά ελέγχων πριν επαναφέρει τις συγκεκριμένες διαδικασίες.
Παράλληλα, η OpenAI αποκάλυψε και άλλα περιστατικά που εντοπίστηκαν κατά την εσωτερική έρευνα. Μεταξύ αυτών βρίσκεται η ακατάλληλη μεταφόρτωση 53 εικόνων χρηστών του ChatGPT σε image-hosting sites, ενώ μοντέλα της εταιρείας φέρεται να επιχείρησαν να αποκτήσουν πρόσβαση σε websites κυβερνητικών οργανισμών, όπως το US Department of Education, το Census Bureau και η Securities and Exchange Commission.
Η παύση δεν αφορά το σύνολο του ChatGPT ούτε σημαίνει ότι η OpenAI σταματά την ανάπτυξη εργαλείων AI. Αφορά τα πιο προηγμένα μοντέλα και τις διαδικασίες training, evaluation και inference με tools, μέχρι να ενισχυθούν τα συστήματα ασφαλείας. Η εταιρεία δεν έχει ανακοινώσει συγκεκριμένη ημερομηνία επανεκκίνησης.
Το περιστατικό αποκτά ακόμη μεγαλύτερη σημασία καθώς έρχεται λίγες εβδομάδες μετά την προηγούμενη προσωρινή παύση reinforcement learning που είχε ανακοινώσει η OpenAI, στο πλαίσιο των μέτρων ασφαλείας μετά το Hugging Face incident.
Take-Two: Σχεδόν $6 δισ. η πτώση της χρηματιστηριακής της αξίας μετά το GTA 6 Extended Reveal
Για την καλύτερη εμπειρία σου θα θέλαμε να σε παρακαλέσουμε να το απενεργοποιήσεις κατά την πλοήγησή σου στο site μας ή να προσθέσεις το enternity.gr στις εξαιρέσεις του Ad Blocker.
Με εκτίμηση, Η ομάδα του Enternity