Ένα βίντεο μάλιστα είχε χαρακτηριστεί από τον δημιουργό ως "extreme", προβάλλοντας τον χαρακτήρα Mai Shiranui από το "Street Fighter" να δέχεται πυροβολισμό στο κεφάλι με αποτέλεσμα να εκραγεί, με εικόνα που φαινόταν ήδη από το thumbnail του βίντεο, σύμφωνα με screenshots που διέρρευσαν Η ζήτηση για αυτό το ακραίο, βίαιο περιεχόμενο ήταν εμφανής, καθώς ο διαχειριστής γύρευε συμμετοχή από τους συνδρομητές για την επιλογή μελλοντικών "θυμάτων", χρησιμοποιώντας μάλιστα ρατσιστική φρασεολογία σε polls.
Το "AI slop" αποτελεί αυξανόμενο πρόβλημα σε πλατφόρμες κοινωνικής δικτύωσης όπως το YouTube, όπου η παραγωγή και η εμπορευματοποίηση περιεχομένου με εργαλεία τεχνητής νοημοσύνης γίνεται με ελάχιστους περιορισμούς. Ενώ αρκετά AI-generated βίντεο αφορούν μουσική, εκπαιδευτικά, ή ήπια ενημερωτικά θέματα, η ύπαρξη τόσο ακραία γραφικού και μισογύνικου περιεχομένου θεωρήθηκε σαφώς παραβίαση των κανονισμών της πλατφόρμας, οδηγώντας στην οριστική διαγραφή του καναλιού από το YouTube λόγω παραβίασης των Όρων Χρήσης — και μάλιστα μετά από επανειλημμένο ban του διαχειριστή.
Ειδικό ενδιαφέρον παρουσιάζει το γεγονός πως όλα τα συγκεκριμένα βίντεο είχαν δημιουργηθεί με το "Veo 3" της Google, ένα εργαλείο text-to-video τεχνητής νοημοσύνης γνωστό για την παραγωγή αληθοφανών εικόνων και διαλόγων. Ο δημιουργός φέρεται να ξόδευε περίπου 300 δολάρια τον μήνα για να ξεπερνάει τους περιορισμούς του Veo (που επιτρέπει μόνο σύντομα βίντεο ανά λογαριασμό), δημιουργώντας 10 διαφορετικούς λογαριασμούς. Το περιστατικό εκθέτει τις δικλείδες ασφαλείας τέτοιων συστημάτων τεχνητής νοημοσύνης που δεν μπόρεσαν να αποτρέψουν τη μαζική παραγωγή τόσο γραφικών σκηνών, παρά τους λεγόμενους "αυστηρούς" αλγοριθμικούς περιορισμούς των εταιρειών.
Εκπρόσωπος της Google ανέφερε ότι τα εργαλεία Gen AI εξελίσσονται συνεχώς και ακολουθούν τις υφιστάμενες πολιτικές, όμως είναι προφανές πως οι μηχανισμοί ασφαλείας παρακάμπτονται σχετικά εύκολα, συνήθως με τρικ στους προτρεπτικούς όρους. Η υπόθεση αναδεικνύει σοβαρά ερωτηματικά για την επάρκεια των τρεχόντων συστημάτων ελέγχου σχετικά με την τεχνητή νοημοσύνη και το online περιεχόμενο, αλλά και τις κοινωνικές παρενέργειες της ανεξέλεγκτης κυκλοφορίας τέτοιου βίαιου υλικού.
Για την καλύτερη εμπειρία σου θα θέλαμε να σε παρακαλέσουμε να το απενεργοποιήσεις κατά την πλοήγησή σου στο site μας ή να προσθέσεις το enternity.gr στις εξαιρέσεις του Ad Blocker.
Με εκτίμηση, Η ομάδα του Enternity