Με την καινοτομία να τρέχει πλέον με ρυθμούς που η επιστήμη και η πολιτική αδυνατούν να ακολουθήσουν, ο Οργανισμός Ηνωμένων Εθνών και κορυφαίοι παγκόσμιοι ηγέτες εκπέμπουν ένα πρωτοφανές σήμα κινδύνου. Καθώς εγκαινιάζεται στη Γενεύη ο ιστορικός Παγκόσμιος Διάλογος του ΟΗΕ για τη διακυβέρνηση της Τεχνητής Νοημοσύνης, το μήνυμα είναι σαφές: το ρυθμιστικό πλαίσιο έχει ήδη ηττηθεί από την ταχύτητα της τεχνολογίας.
Τον τόνο έδωσε η Βρετανίδα Υπουργός Εξωτερικών, Yvette Cooper, σύμφωνα με το Guardian, η οποία προειδοποίησε ότι η Τεχνητή Νοημοσύνη αποτελεί απειλή τύπου «Χιροσίμα» για την ανθρωπότητα, εάν οι ηγέτες δεν συμφωνήσουν άμεσα σε κοινούς κανόνες, τονίζοντας ότι ο κόσμος δεν έχει την πολυτέλεια να περιμένει μια καταστροφή για να δράσει.
Η έκρηξη της πολυπλοκότητας και το Agentic AI
Η πολιτική πίεση έρχεται ως άμεση συνέχεια της προκαταρκτικής έκθεσης της Ανεξάρτητης Διεθνούς Επιστημονικής Επιτροπής του ΟΗΕ για την ΤΝ (απαρτιζόμενη από 40 κορυφαίους εμπειρογνώμονες). Το πιο εντυπωσιακό -και ταυτόχρονα ανησυχητικό- στοιχείο της έκθεσης αφορά την ταχύτητα ανάπτυξης: η πολυπλοκότητα των εργασιών που αναλαμβάνει η ΤΝ διπλασιάζεται κάθε 4 έως 7 μήνες.
Αυτό σηματοδοτεί τη ραγδαία μετάβαση σε Agentic AI (πρακτορική ΤΝ), δηλαδή συστήματα ικανά να αναλαμβάνουν και να εκτελούν αυτόνομα πολύπλοκες εργασίες στον πραγματικό κόσμο, με ελάχιστη ανθρώπινη παρέμβαση. Μακροπρόθεσμα, η επιτροπή προβλέπει συστήματα που θα αυτοβελτιώνονται και θα συγκλίνουν με τεχνολογίες αιχμής, όπως ο κβαντικός υπολογισμός και η βιοτεχνολογία.
«Αδυνατούμε να εγγυηθούμε την ασφάλεια»
Ο Yoshua Bengio, ένας εκ των «νονών» του AI και συμπρόεδρος της Επιτροπής, ήταν κατηγορηματικός: «Οι ικανότητες της ΤΝ ξεπερνούν τόσο την επιστημονική κατανόηση όσο και την ικανότητα προσαρμογής των κυβερνήσεων. Με τις αυξανόμενες ενδείξεις παραπλανητικής συμπεριφοράς της ΤΝ, η επιστήμη δεν μπορεί προς το παρόν να εγγυηθεί ότι δεν θα προκληθούν καταστροφικές βλάβες, είτε από τα ίδια τα συστήματα είτε από κακόβουλους χρήστες».
Την ίδια στιγμή, ο Γενικός Γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, ζήτησε άμεση δράση, υπογραμμίζοντας χαρακτηριστικά: «Ο κόσμος δεν μπορεί να κυβερνήσει αυτό που δεν κατανοεί».
Η έκθεση του ΟΗΕ στέλνει ένα ξεκάθαρο επιχειρησιακό σήμα, μιας και η ικανότητα των μοντέλων διπλασιάζεται σε λίγους μήνες, τα στατικά πρωτόκολλα αξιολόγησης και ελέγχου (audits) καθίστανται πλέον παρωχημένα μέσα σε έναν μόνο κύκλο προϊόντος.
