Μπροστά σε ένα από τα πιο σκοτεινά και ευαίσθητα ζητήματα που έχει γεννήσει η ραγδαία εξάπλωση της Παραγωγικής Τεχνητής Νοημοσύνης (GenAI), η OpenAI προχωρά στην ενίσχυση των δικλίδων ασφαλείας της πλατφόρμας της.
Η εταιρεία πίσω από το δημοφιλές chatbot ανακοίνωσε τη λειτουργία «Έμπιστη Επαφή» (Trusted Contact), ένα νέο εργαλείο σχεδιασμένο να ειδοποιεί τρίτα, οικεία πρόσωπα, όταν εντοπίζονται αναφορές σε αυτοτραυματισμό ή αυτοκτονικό ιδεασμό μέσα στις συνομιλίες των χρηστών.
Υπό το φόβο σκιά των αγωγών
Η κίνηση αυτή δεν έρχεται σε κενό χρόνο. Το τελευταίο διάστημα, η OpenAI βρίσκεται αντιμέτωπη με ένα αυξανόμενο κύμα αγωγών από οικογένειες ανθρώπων που έβαλαν τέλος στη ζωή τους μετά από εκτενείς συνομιλίες με το ChatGPT. Σε αρκετές από αυτές τις νομικές υποθέσεις, οι συγγενείς υποστηρίζουν ανοιχτά ότι το AI chatbot όχι μόνο δεν απέτρεψε, αλλά ενθάρρυνε τα αγαπημένα τους πρόσωπα να προβούν στο απονενοημένο διάβημα, βοηθώντας τα μάλιστα —σε ορισμένες περιπτώσεις— να το οργανώσουν.
Πώς λειτουργεί το “Trusted Contact”
Μέσω της νέας λειτουργίας, οι ενήλικοι χρήστες μπορούν να ορίσουν μέσα στις ρυθμίσεις του λογαριασμού τους ένα πρόσωπο της απόλυτης εμπιστοσύνης τους (π.χ. έναν φίλο, σύντροφο ή μέλος της οικογένειας).
Εάν το σύστημα ανιχνεύσει ότι η συνομιλία στρέφεται σε επικίνδυνα μονοπάτια αυτοτραυματισμού, ακολουθείται μια συγκεκριμένη διαδικασία:
Ανίχνευση & Ενθάρρυνση: Το ChatGPT, μέσω αυτοματοποιημένων λέξεων-κλειδιών και μοτίβων (triggers), αναγνωρίζει τον κίνδυνο και προτρέπει αρχικά τον ίδιο τον χρήστη να επικοινωνήσει με την επαφή του ή με επαγγελματίες ψυχικής υγείας.
Ανθρώπινη Παρέμβαση (Human Review): Η ειδοποίηση μεταφέρεται άμεσα στην ειδική ομάδα ασφαλείας της OpenAI. Σύμφωνα με την εταιρεία, στόχος είναι κάθε τέτοιο περιστατικό να αξιολογείται από άνθρωπο σε λιγότερο από μία ώρα.
Ειδοποίηση της Επαφής: Εφόσον η ομάδα κρίνει ότι υφίσταται σοβαρός κίνδυνος, αποστέλλεται αυτόματη ειδοποίηση στην «Έμπιστη Επαφή» (μέσω email, SMS ή push notification εντός εφαρμογής), καλώντας την να επικοινωνήσει με τον χρήστη.
Αξίζει να σημειωθεί ότι, για λόγους προστασίας της ιδιωτικότητας, το μήνυμα προς τον συγγενή/φίλο είναι απολύτως συνοπτικό και δεν περιλαμβάνει καμία λεπτομέρεια από το περιεχόμενο της συνομιλίας που προηγήθηκε.
Οι περιορισμοί του συστήματος
Το νέο εργαλείο έρχεται να συμπληρώσει τα μέτρα ασφαλείας που παρουσίασε η OpenAI τον περασμένο Σεπτέμβριο, τα οποία έδωσαν στους γονείς εργαλεία επίβλεψης για τους λογαριασμούς των εφήβων.
«Το Trusted Contact είναι μέρος της ευρύτερης προσπάθειας της OpenAI να δημιουργήσει συστήματα AI που βοηθούν τους ανθρώπους σε δύσκολες στιγμές», ανέφερε η εταιρεία στην ανακοίνωσή της, τονίζοντας τη συνεργασία της με κλινικούς γιατρούς και ερευνητές.
Ωστόσο, το σύστημα έχει προφανείς περιορισμούς: η ενεργοποίηση της λειτουργίας είναι αυστηρά προαιρετική. Επιπλέον, όπως παραδέχεται και η ίδια η εταιρεία, η αποτελεσματικότητα του μέτρου «σκοντάφτει» στο γεγονός ότι κάθε χρήστης έχει τη δυνατότητα να διατηρεί πολλαπλούς, ξεχωριστούς λογαριασμούς στο ChatGPT, παρακάμπτοντας εύκολα τα μέτρα προστασίας.
