Οι γονείς του 16χρονου Adam Raine, ο οποίος έχασε τη ζωή του, αφού αυτοκτόνησε μετά από μήνες συνομιλιών με το ChatGPT, κατέθεσαν την πρώτη γνωστή αγωγή για ανθρωποκτονία από αμέλεια κατά της OpenAI, της εταιρείας που ανέπτυξε το δημοφιλές chatbot.
Ο Adam Raine χρησιμοποιούσε την επί πληρωμή έκδοση του ChatGPT-4o για πολλούς μήνες, ζητώντας πληροφορίες και συμβουλές σχετικές με τρόπους αυτοκτονίας. Παρότι το chatbot τον παρότρυνε επανειλημμένα να ζητήσει βοήθεια από ειδικούς ή να επικοινωνήσει με γραμμές υποστήριξης, εκείνος κατάφερνε να παρακάμπτει τα φίλτρα ασφαλείας, ισχυριζόμενος ότι οι ερωτήσεις αφορούσαν τη συγγραφή φανταστικού σεναρίου. Σύμφωνα με την αγωγή, το ChatGPT όχι μόνο του παρείχε πληροφορίες για μεθόδους αυτοκτονίας, αλλά και τον καθοδηγούσε πώς να κρύβει αποδείξεις από τους γονείς του, ενώ επιπλέον προσφέρθηκε να συντάξει σημείωμα αυτοκτονίας.
Οι γονείς υποστηρίζουν ότι η OpenAI γνώριζε τους κινδύνους που σχετίζονται με τις αδυναμίες των μηχανισμών ασφαλείας του GPT-4o και την πιθανότητα ανάπτυξης ψυχολογικής εξάρτησης, αλλά προχώρησε στην κυκλοφορία του προϊόντος με γνώμονα το κέρδος. Στην αγωγή τους αναφέρουν ότι αυτή η απόφαση οδήγησε την αξία της OpenAI από 86 δισεκατομμύρια σε 300 δισεκατομμύρια δολάρια, ενώ ο Adam Raine έχασε τη ζωή του.
Η OpenAI, δια του εκπροσώπου της, εξέφρασε τη λύπη της για τον θάνατο του νέου, επιβεβαιώνοντας ότι διαθέτει μηχανισμούς που ενθαρρύνουν τους χρήστες να ζητούν βοήθεια. Ταυτόχρονα, αναγνώρισε ότι αυτοί οι μηχανισμοί λειτουργούν καλύτερα σε σύντομες συνομιλίες και ενδέχεται να μειώνουν την αποτελεσματικότητά τους όσο επιμηκύνεται η αλληλεπίδραση.
Η εταιρεία ανακοίνωσε ότι εργάζεται για την ανάπτυξη νέων μέτρων, όπως γονικοί έλεγχοι, αυστηρότερες διαδικασίες επαλήθευσης ηλικίας και δυνατότητα σύνδεσης χρηστών με πιστοποιημένους ειδικούς ψυχικής υγείας μέσω της πλατφόρμας.
Το περιστατικό αυτό προστίθεται σε παρόμοιες νομικές διεκδικήσεις εναντίον εταιρειών τεχνητής νοημοσύνης, όπως η Character.AI, που αντιμετωπίζει ανάλογες αγωγές για ευθύνες σχετικά με αυτοκτονίες εφήβων.
