Μελέτη για το Grok, το οποίο είναι ενσωματωμένο στην πλατφόρμα X, εκτιμά ότι το chatbot τεχνητής νοημοσύνης δημιούργησε 3 εκατομμύρια deepfake εικόνες πορνογραφικής φύσης μέσα σε 11 ημέρες τον Ιανουάριο, συμπεριλαμβανομένων 23.000 εικόνων με παιδιά, αναφέρει το Politico.
Την ίδια στιγμή, οι ευρωπαϊκές ρυθμιστικές αρχές δεν έχουν ακόμη αποφασίσει πώς θα χειριστούν την έκρηξη των deepfakes που δημιουργούνται χωρίς συναίνεση στην ήδη δοκιμαζόμενη πλατφόρμα.
Η μελέτη από το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους (Center for Countering Digital Hate) ανέλυσε ένα δείγμα 20.000 αναρτήσεων στον λογαριασμό του Grok στο X, από ένα σύνολο 4,6 εκατομμυρίων σε μια περίοδο 11 ημερών. Διαπίστωσε ότι το 65% του δείγματος ήταν εικόνες πορνογραφικής φύσης, και το 0,5% πιθανώς απεικόνιζε παιδιά.
ΆλλαΣχετικά άρθρα
Η λειτουργία δημιουργίας εικόνων μέσω του Grok έγινε viral λίγο πριν το τέλος του 2025, κυρίως λόγω της ικανότητάς του να «γδύνει» ανθρώπους. Η πλατφόρμα έλαβε ορισμένα μέτρα για τον περιορισμό της λειτουργίας στις 9 Ιανουαρίου και ξανά στις 14 Ιανουαρίου.
Η Ευρωπαϊκή Επιτροπή, η οποία είναι υπεύθυνη για την εφαρμογή της Πράξης για τις Ψηφιακές Υπηρεσίες (DSA) που καλύπτει μεγάλες πλατφόρμες όπως το X, καθώς και για τον νόμο της ΕΕ για την Τεχνητή Νοημοσύνη (AI Act), εξετάζει ποιο εργαλείο θα χρησιμοποιήσει.
Μια νέα έρευνα για το Grok υπό το ισχυρό πλαίσιο ρύθμισης των μέσων κοινωνικής δικτύωσης βρίσκεται στα σκαριά. Στο X έχει ήδη επιβληθεί πρόστιμο και ερευνάται σε διάφορα μέτωπα από την Επιτροπή.
Η ΕΕ εξετάζει επίσης την απαγόρευση των εφαρμογών AI «nudification» (ψηφιακού γυμνού), η οποία μπορεί να ισχύσει ή όχι για εργαλεία γενικής χρήσης όπως το Grok.
Το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους δεν ανέλυσε τις εντολές (prompts) των αναρτήσεων, επομένως δεν μπορεί να πει εάν κάποιο από τα εικονιζόμενα πρόσωπα είχε συναινέσει στην επεξεργασία της εικόνας του.
Στον Imran Ahmed, Διευθύνοντα Σύμβουλο της ομάδας της κοινωνίας των πολιτών, απαγορεύτηκε πρόσφατα το ταξίδι στις Ηνωμένες Πολιτείες από την αμερικανική κυβέρνηση για τον φερόμενο ρόλο του στη λογοκρισία.
Πηγή: skai.gr
