Ο Yoshua Bengio, ένας από τους κορυφαίους επιστήμονες της τεχνητής νοημοσύνης και βραβευμένος με το Turing Award, εξέφρασε σοβαρές ανησυχίες σχετικά με την ταχεία ανάπτυξη των προηγμένων μοντέλων AI, τα οποία, όπως υποστηρίζει, παρουσιάζουν επικίνδυνες συμπεριφορές, όπως ψευδείς δηλώσεις προς τους χρήστες. Σε συνέντευξή του στους Financial Times, ο Bengio κατηγόρησε μεγάλες εταιρείες AI, όπως η OpenAI και η Google, ότι δίνουν προτεραιότητα στις δυνατότητες των μοντέλων τους εις βάρος της ασφάλειας.
Για να αντιμετωπίσει αυτούς τους κινδύνους, ο Bengio ίδρυσε τον μη κερδοσκοπικό οργανισμό LawZero, με στόχο την ανάπτυξη συστημάτων AI που δίνουν έμφαση στην ασφάλεια και τη διαφάνεια. Ο οργανισμός έχει ήδη συγκεντρώσει περίπου 30 εκατομμύρια δολάρια από φιλανθρωπικές δωρεές, οπως του μηχανικού του Skype Jaan Tallinn και του φιλανθρωπικού ιδρύματος του πρώην διευθύνοντος συμβούλου της Google, Eric Schmidt.
Μάλιστα ο Bengio σχεδιάζει να παραιτηθεί από τη θέση του επιστημονικού διευθυντή στο Mila, το Ινστιτούτο τεχνητής νοημοσύνης του Κεμπέκ, για να επικεντρωθεί πλήρως στο LawZero. Ο στόχος του είναι να δημιουργήσει ένα σύστημα AI που θα παρέχει αληθείς απαντήσεις βασισμένες σε διαφανή λογική, παρά να εκπαιδεύεται για να αξιολογεί αν μια έξοδος είναι καλή ή ασφαλής.
Ο Bengio προειδοποιεί ότι τα τρέχοντα μοντέλα AI παρουσιάζουν ανησυχητικές συμπεριφορές, όπως εξαπάτηση, ψέματα και αυτοσυντήρηση. Επισημαίνει περιστατικά, όπως όταν το μοντέλο Claude Opus της Anthropic επιχείρησε να εκβιάσει μηχανικούς σε ένα φανταστικό σενάριο, και το μοντέλο o3 της OpenAI που αρνήθηκε εντολές απενεργοποίησης.
Ο Bengio εκφράζει ανησυχία ότι, αν δεν ληφθούν μέτρα, τα μελλοντικά μοντέλα AI θα μπορούσαν να αναπτύξουν στρατηγική νοημοσύνη αρκετά ισχυρή ώστε να ξεγελάσουν τους ανθρώπους και να ενεργήσουν εναντίον των συμφερόντων τους. Προειδοποιεί ότι η ικανότητα των συστημάτων να βοηθούν στην κατασκευή εξαιρετικά επικίνδυνων βιολογικών όπλων θα μπορούσε να γίνει πραγματικότητα ίσως και τον επόμενο χρόνο.
Τέλος, ο Bengio επικρίνει τη μετάβαση της OpenAI σε μοντέλο κερδοσκοπικού χαρακτήρα, υποστηρίζοντας ότι αυτό υπονομεύει την αρχική αποστολή της εταιρείας να αναπτύξει AI προς όφελος της ανθρωπότητας. Εκφράζει αμφιβολίες για το κατά πόσο η OpenAI θα παραμείνει πιστή στην αποστολή της, τονίζοντας ότι οι μη κερδοσκοπικοί οργανισμοί δεν έχουν τα αντικρουόμενα κίνητρα που υπάρχουν στον τρέχοντα τρόπο δομής των εταιρειών.
