Σε συνέντευξή της στο Vanity Fair, η Κιμ Καρντάσιαν, η οποία σπουδάζει για να γίνει δικηγόρος, μίλησε για τη σχέση της με το ChatGPT — μια σχέση που χαρακτηρίζει «τοξική». Η Καρντάσιαν αποκάλυψε πως το chatbot της OpenAI την έχει οδηγήσει στην αποτυχία σε νομικές εξετάσεις, καθώς της έδινε λανθασμένες απαντήσεις.
«Χρησιμοποιώ το ChatGPT για νομικές συμβουλές», είπε. «Όταν θέλω να μάθω απάντηση σε κάτι, απλά βγάζω φωτογραφία και του στέλνω μέσα την ερώτηση. Αλλά σχεδόν πάντα είναι λάθος. Με έχει κάνει να αποτύχω σε εξετάσεις… Και τότε νευριάζω και του φωνάζω, ‘Με έκανες να αποτύχω!’»
Η τυπική αδυναμία του ChatGPT να διακρίνει την αλήθεια από το ψέμα (hallucinations), κάνει το εργαλείο να δημιουργεί συχνά ανακριβείς ή ανύπαρκτες πληροφορίες αντί να παραδεχτεί άγνοια. Σε επαγγελματικούς τομείς όπως η νομική, το φαινόμενο αυτό έχει επιφέρει και κυρώσεις σε δικηγόρους που χρησιμοποίησαν το ChatGPT σε νομικά κείμενα τα οποία περιείχαν ψευδείς αναφορές σε υποθέσεις.
Μάλιστα, η Καρντάσιαν προσπάθησε να «συγκινήσει» το AI, μιλώντας του, λέγοντας, «Πώς αισθάνεσαι που με κάνεις να αποτύχω και πρέπει πραγματικά να ξέρεις αυτές τις απαντήσεις;». Η απάντηση όμως ήταν αναμενόμενη: «Αυτό απλώς σε μαθαίνει να εμπιστεύεσαι το ένστικτό σου.» Αν και τα chatbots δεν έχουν συναισθήματα, ο άνθρωπος έχει. Η Κιμ παραδέχεται πως πολλές φορές βάση της αλληλεπίδρασής της με το ChatGPT, τραβάει screenshots και τα στέλνει στην ομάδα της με σχόλια όπως «Μπορείτε να πιστέψετε ότι αυτή η … μου μιλάει έτσι;».
