Το Ευρωπαϊκό Κοινοβούλιο ψήφισε συντριπτικά υπέρ της απαγόρευσης εργαλείων τεχνητής νοημοσύνης που δημιουργούν deepfake εικόνες με σεξουαλικό περιεχόμενο χωρίς συναίνεση, εγκρίνοντας το μέτρο με 569 ψήφους έναντι 45 στο πλαίσιο ευρύτερων τροπολογιών στον Νόμο για την ΤΝ του μπλοκ.
Η ψηφοφορία αποτελεί κορύφωση μηνών κανονιστικής οργής που προκλήθηκε από το chatbot Grok του Ίλον Μασκ, το οποίο χρησιμοποιήθηκε για να παράγει εκατομμύρια ρητές πλαστές εικόνες γυναικών και παιδιών στα τέλη του περασμένου χρόνου.
Η απαγόρευση στοχεύει τα λεγόμενα συστήματα που δημιουργούν γυμνό περιεχόμενο μέσα από τα εργαλεία τεχνητής νοημοσύνης ή και χειρίζονται σεξουαλικά καθαρές εικόνες που μοιάζουν με πραγματικά, αναγνωρίσιμα άτομα χωρίς την εξουσιοδότησή τους.
Συστήματα με αποτελεσματικά ενσωματωμένα μέτρα ασφαλείας που αποτρέπουν τους χρήστες από τη δημιουργία τέτοιου περιεχομένου θα εξαιρούνται, σύμφωνα με την επίσημη δήλωση του Ευρωπαϊκού Κοινοβουλίου.
Τώρα πρέπει να πραγματοποιηθούν διαπραγματεύσεις με το Ευρωπαϊκό Συμβούλιο, που εκπροσωπεί τα 27 κράτη μέλη της ΕΕ, πριν ο νόμος θεσπιστεί επίσημα.
Το σκάνδαλο Grok
Η νομοθετική πρωτοβουλία ήταν άμεση απάντηση στην υπόθεση Grok. Στα τέλη Δεκεμβρίου 2025, η xAI αναβάθμισε το chatbot της με δυνατότητες επεξεργασίας εικόνας, τις οποίες οι χρήστες εκμεταλλεύτηκαν γρήγορα για να δημιουργήσουν ρεαλιστικές γυμνές εικόνες πραγματικών ανθρώπων. Μόνο μεταξύ 5 και 6 Ιανουαρίου, ερευνητές από τον μη κερδοσκοπικό οργανισμό AI Forensics με έδρα το Παρίσι υπολόγισαν ότι δημιουργήθηκαν τουλάχιστον 6.700 σεξουαλικές εικόνες με τη χρήση του εργαλείου. Το Center for Countering Digital Hate υπολόγισε ότι παράχθηκαν περίπου 3 εκατομμύρια σεξουαλικού περιεχομένου εικόνες σε διάστημα 11 ημερών, συμπεριλαμβανομένων 23.000 που απεικόνιζαν ανηλίκους.
Η Ευρωπαϊκή Επιτροπή ξεκίνησε επίσημη έρευνα κατά του X τον Ιανουάριο για πιθανές παραβιάσεις του Νόμου για τις Ψηφιακές Υπηρεσίες (DSA), ο οποίος μπορεί να επιβάλει πρόστιμα έως και 6 τοις εκατό του παγκόσμιου εσόδου μιας εταιρείας. Το X δήλωσε ότι είχε πολιτική «μηδενικής ανοχής» και δεσμεύτηκε για αλλαγές, αν και ερευνητές διαπίστωσαν ότι οι χρήστες μπορούσαν ακόμα να παρακάμψουν τους περιορισμούς εβδομάδες αργότερα.
Τι γίνεται σε άλλες περιοχές
Η πόλη της Βαλτιμόρης αυτή την εβδομάδα κατέθεσε αγωγή εναντίον των X Corp., xAI και SpaceX στο κυκλοφοριακό δικαστήριο, ισχυριζόμενη ότι οι εταιρείες παραβίασαν τους νόμους προστασίας του καταναλωτή της πόλης προωθώντας το Grok ως ένα ασφαλές εργαλείο ενώ παράλληλα επέτρεπαν τη μαζική δημιουργία μη συναινετικού ρητού υλικού, συμπεριλαμβανομένου ανηλίκων.
Η Βαλτιμόρη, με πληθυσμό περίπου 568.000 κατοίκων, είναι η μεγαλύτερη πόλη των ΗΠΑ που αναλαμβάνει τέτοια νομική δράση εναντίον της xAI, σύμφωνα με το Reuters. Η καταγγελία αναφέρθηκε επίσης σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης της 31ης Δεκεμβρίου 2025 από τον Musk, στην οποία μοιραζόταν μια εικόνα του εαυτού του σε μπικίνι που δημιουργήθηκε από το Grok, την οποία οι δικηγόροι της πόλης υποστήριξαν ότι λειτουργούσε ως προώθηση των δυνατοτήτων του εργαλείου.
Η Γερμανία προχωρά στην ποινικοποίηση των deepfake πορνογραφικών υλικών
Στη Γερμανία, η κυβέρνηση συντάσσει νομοθεσία για την ποινικοποίηση της δημιουργίας και διανομής πορνογραφικών deepfakes αφού η ηθοποιός Collien Fernandes κατηγόρησε δημόσια τον πρώην σύζυγό της, τον ηθοποιό Christian Ulmen, ότι διέδωσε ρητά υλικά που δημιουργήθηκαν με τεχνητή νοημοσύνη και την απεικονίζουν στο διαδίκτυο. Περισσότερα από 10.000 άτομα συγκεντρώθηκαν στην Πύλη του Βραδεμβούργου στο Βερολίνο την Κυριακή σε ένδειξη αλληλεγγύης, ενώ περισσότερες από 250 διάσημες Γερμανίδες έχουν καλέσει την κυβέρνηση να δράσει. Η Υπουργός Δικαιοσύνης Stefanie Hubig δήλωσε ότι ένα σχέδιο νόμου θα τεθεί υπόψη του υπουργικού συμβουλίου αυτή την εβδομάδα, με τους παραβάτες να αντιμετωπίζουν ποινή φυλάκισης έως δύο ετών.
«Η ψηφιακή βία δεν μπορεί να επιτραπεί να μετατραπεί σε κερδοφόρα επιχείρηση», δήλωσε η Hubig στο κοινοβούλιο την Τετάρτη, ζητώντας μεγαλύτερη λογοδοσία από πλατφόρμες όπως το X.
