Η OpenAI θωρακίζεται για τους κινδύνους της τεχνητής νοημοσύνης

Ο CEO Sam Altman χαρακτήρισε τον ρόλο "κρίσιμο" και "αγχώδη", αναγνωρίζοντας προκλήσεις που υφίστανται η τεχνητή νοημοσύνη

Βαγγέλης Γραικόπουλος
2'

Η OpenAI αναζητά νέο επικεφαλής Ετοιμότητας (Head of Preparedness) για να αντιμετωπίσει τους αναδυόμενους κινδύνους από τα μοντέλα τεχνητής νοημοσύνης, από κυβερνοασφάλεια, βιολογικούς κινδύνους μέχρι και επιπτώσεις στην ψυχική υγεία χρηστών.

Ο ρόλος 

Ο νέος επικεφαλής θα ηγηθεί του Πλαισίου Ετοιμότητας της OpenAI, παρακολουθώντας “frontier capabilities” που δημιουργούν σοβαρούς κινδύνους, από phishing και εντοπισμό τρωτών σημείων σε συστήματα μέχρι αυτοβελτιούμενα μοντέλα. Ο CEO Sam Altman χαρακτήρισε τον ρόλο “κρίσιμο” και “αγχώδη”, αναγνωρίζοντας προκλήσεις όπως η επίδραση στην ψυχική υγεία – με αγωγές θανάτου κατά του ChatGPT το 2025 – και η διπλή χρήση ικανοτήτων σε κυβερνοασφάλεια.

Σε πρόσφατη ανάρτησή του στο X, ο διευθύνων σύμβουλος Σαμ Άλτμαν χαρακτήρισε τη θέση «κρίσιμη σε μια σημαντική στιγμή», επισημαίνοντας ότι τα μοντέλα τεχνητής νοημοσύνης βελτιώνονται τόσο γρήγορα που εκτός από σημαντικές δυνατότητες, αρχίζουν να δημιουργούν πραγματικές και μετρήσιμες προκλήσεις. Σύμφωνα με τον Άλτμαν, αυτά περιλαμβάνουν επιπτώσεις στην ψυχική υγεία των χρηστών, ανίχνευση ευπαθειών στην κυβερνοασφάλεια και άλλες κοινωνικές και τεχνικές ανησυχίες που απαιτούν προληπτικές στρατηγικές αντιμετώπισης.

Ο ρόλος του Head of Preparedness εκτείνεται πέρα από τις κλασικές λειτουργίες ασφαλείας. Το άτομο που θα πλαισιώσει αυτή τη θέση θα αναλάβει τη δημιουργία και εφαρμογή ενός ολοκληρωμένου πλαισίου ετοιμότητας — συμπεριλαμβανομένης της ανάπτυξης μοντέλων απειλών (threat modeling), αξιολόγησης δυνατοτήτων και ευαισθησιών των συστημάτων και σχεδιασμού μέτρων μετριασμού κινδύνων που αφορούν όχι μόνο τεχνικές απειλές αλλά και ευρύτερους κοινωνικούς παράγοντες. Η θέση, με αμοιβή 555.000 δολαρίων συν μετοχές, έρχεται εν μέσω κατηγοριών για ζημίες από το ChatGPT και ανακατατάξεων στην ομάδα ασφαλείας της εταιρείας.

Η σύσταση ομάδας το 2023

Η ομάδα ετοιμότητας ιδρύθηκε το 2023 για “καταστροφικούς κινδύνους”, αλλά υπέστη αλλαγές σημαντικές αλλαγές δεδομένου ότι ο Αλεξάντερ Μαντρί μετακινήθηκε τον Ιούλιο 2024, η Λίλιαν Γουένγκ έφυγε σύντομα, ενώ ο Χοακίν Καντέλα πήγε στον τομέα του HR τον Ιούλιο 2025.

Η OpenAI ενημέρωσε πρόσφατα το Πλαίσιο Ετοιμότητας, δεσμευόμενη να προσαρμόσει τα μέτρα ασφαλείας αν οι ανταγωνιστές της κυκλοφορήσουν «υψηλού κινδύνου» μοντέλα χωρίς αντίστοιχες δικλείδες ασφαλείας.

Μοιραστείτε αυτό το άρθρο