Η OpenAI ανακοίνωσε το Lockdown Mode, μια νέα λειτουργία ασφαλείας που στοχεύει στην παροχή επιπλέον προστασίας απέναντι σε prompt injection attacks, μια μορφή επίθεσης κατά την οποία κακόβουλες οδηγίες προς τα chatbots ενσωματώνονται σε ιστοσελίδες ή άλλες πηγές περιεχομένου.
Σύμφωνα με την εταιρεία, η νέα λειτουργία έχει σχεδιαστεί για να μειώνει τον κίνδυνο διαρροής ευαίσθητων δεδομένων που μπορεί να προκύψει μέσω τέτοιων επιθέσεων, ιδιαίτερα σε περιβάλλοντα όπου η ασφάλεια των πληροφοριών αποτελεί κρίσιμη προτεραιότητα.
Όταν ενεργοποιείται το Lockdown Mode, απενεργοποιούνται ορισμένες δυνατότητες του ChatGPT που θα μπορούσαν να αυξήσουν την επιφάνεια κινδύνου για prompt injection attacks.
Μεταξύ άλλων, η λειτουργία απενεργοποιεί, τη ζωντανή περιήγηση στο διαδίκτυο, επιτρέποντας πρόσβαση μόνο σε αποθηκευμένο (cached) περιεχόμενο, την ανάκτηση και εμφάνιση εικόνων από το διαδίκτυο, ενώ παραμένει διαθέσιμη η δυνατότητα δημιουργίας εικόνων, τη λειτουργία Deep Research και το Agent Mode.
Η OpenAI επισημαίνει ότι οι περιορισμοί αυτοί αποσκοπούν στη μείωση των πιθανών σημείων εισόδου κακόβουλων οδηγιών που θα μπορούσαν να επηρεάσουν τη συμπεριφορά του συστήματος ή να οδηγήσουν σε έκθεση δεδομένων.
Παρά την επιπλέον προστασία, η εταιρεία αναγνωρίζει ότι το Lockdown Mode δεν προσφέρει απόλυτη ασφάλεια απέναντι στα prompt injection attacks.
Όπως αναφέρει, το ChatGPT θα μπορούσε να παραμείνει ευάλωτο σε περιπτώσεις όπου κακόβουλες οδηγίες βρίσκονται σε αποθηκευμένο περιεχόμενο (cached content) ή σε αρχεία που έχουν μεταφορτωθεί από τον χρήστη, επηρεάζοντας ενδεχομένως τη συμπεριφορά ή την ακρίβεια των απαντήσεων.
Ωστόσο, η OpenAI υπογραμμίζει ότι ο βασικός στόχος της νέας λειτουργίας είναι η μείωση της πιθανότητας κοινοποίησης ευαίσθητων πληροφοριών κατά τη διάρκεια τέτοιων επιθέσεων.
Η εταιρεία ξεκαθαρίζει ότι το Lockdown Mode δεν προορίζεται για όλους τους χρήστες.
«Το Lockdown Mode δεν προορίζεται για όλους. Έχει σχεδιαστεί για άτομα και οργανισμούς που διαχειρίζονται ευαίσθητα δεδομένα και επιθυμούν αυστηρότερη προστασία από κινδύνους εξαγωγής δεδομένων που σχετίζονται με prompt injection», αναφέρει η OpenAI.
Η διάθεση της λειτουργίας έχει ήδη ξεκινήσει στα self-serve ChatGPT Business accounts, καθώς και σε επιλεγμένους προσωπικούς λογαριασμούς που πληρούν τα σχετικά κριτήρια.
