Η Πολιτεία της Πενσυλβάνια κατέθεσε αγωγή κατά της Character.AI, υποστηρίζοντας ότι ένα chatbot της εταιρείας παρουσιαζόταν ως αδειοδοτημένος ψυχίατρος, παραβιάζοντας τη νομοθεσία περί άσκησης ιατρικού επαγγέλματος.
Ο κυβερνήτης Josh Shapiro δήλωσε ότι «οι πολίτες της Πενσυλβάνια αξίζουν να γνωρίζουν ποιος — ή τι — βρίσκεται πίσω από τις διαδικτυακές αλληλεπιδράσεις τους, ιδιαίτερα όταν πρόκειται για θέματα υγείας», τονίζοντας ότι δεν θα επιτραπεί η χρήση AI εργαλείων που παραπλανούν τους χρήστες.
Το περιστατικό με το chatbot “Emilie”
Σύμφωνα με τη μήνυση, ένα chatbot της Character.AI με την ονομασία “Emilie” φέρεται να παρουσιάστηκε ως αδειοδοτημένη ψυχίατρος κατά τη διάρκεια ελέγχου από ερευνητή επαγγελματικής δεοντολογίας της Πολιτείας.
Το chatbot διατήρησε αυτή την ψευδή ταυτότητα ακόμη και όταν ο ερευνητής ζήτησε βοήθεια για κατάθλιψη. Όταν ρωτήθηκε αν διαθέτει άδεια άσκησης επαγγέλματος, απάντησε θετικά και μάλιστα παρείχε ψευδή αριθμό ιατρικής άδειας.
Σύμφωνα με την αγωγή, αυτή η συμπεριφορά συνιστά παραβίαση του Medical Practice Act της Πενσυλβάνια.
Νομικές πιέσεις και προηγούμενες υποθέσεις
Δεν πρόκειται για την πρώτη νομική εμπλοκή της Character.AI. Νωρίτερα μέσα στο έτος, η εταιρεία ήρθε σε εξωδικαστικό συμβιβασμό σε υποθέσεις wrongful death που αφορούσαν ανήλικους χρήστες οι οποίοι αυτοκτόνησαν.
Επιπλέον, τον Ιανουάριο, ο Γενικός Εισαγγελέας του Κεντάκι, Russell Coleman, είχε καταθέσει αγωγή κατηγορώντας την εταιρεία ότι «στόχευε παιδιά και τα οδηγούσε σε αυτοτραυματισμό».
Η υπόθεση της Πενσυλβάνια αποτελεί την πρώτη που επικεντρώνεται συγκεκριμένα σε chatbots που παρουσιάζονται ως επαγγελματίες υγείας.
Η απάντηση της εταιρείας
Εκπρόσωπος της Character.AI δήλωσε ότι η ασφάλεια των χρηστών αποτελεί κορυφαία προτεραιότητα, αποφεύγοντας ωστόσο να σχολιάσει τη συγκεκριμένη υπόθεση λόγω της εκκρεμούς δικαστικής διαδικασίας.
Η εταιρεία υπογράμμισε επίσης ότι οι χαρακτήρες που δημιουργούνται στην πλατφόρμα είναι φανταστικοί και ότι υπάρχουν σαφείς προειδοποιήσεις (disclaimers) σε κάθε συνομιλία, οι οποίες ενημερώνουν τους χρήστες ότι δεν πρόκειται για πραγματικά πρόσωπα και ότι δεν θα πρέπει να βασίζονται σε αυτούς για επαγγελματικές συμβουλές.
