Ο Geoffrey Hinton, νικητής του βραβείου Νόμπελ και συχνά αποκαλούμενος ως «Νονός της τεχνητής νοημοσύνης», έχει εκφράσει ανησυχίες ότι η τεχνητή νοημοσύνη θα μπορούσε τελικά να πάρει τον έλεγχο από τους ανθρώπους, εκτιμώντας ότι υπάρχει κίνδυνος 10-20% να συμβεί κάτι τέτοιο. Τόνισε την ανάγκη οι εταιρείες τεχνητής νοημοσύνης να δώσουν προτεραιότητα στην ασφάλεια έναντι των κερδών.
Ο 77χρονος ερευνητής κέρδισε το βραβείο για την πρωτοποριακή του εργασία στα νευρωνικά δίκτυα – προτείνοντας το 1986 μια μέθοδο πρόβλεψης της επόμενης λέξης σε μια σειρά – η θεμελιώδης ιδέα πίσω από τα σημερινά μεγάλα γλωσσικά μοντέλα.
Ενώ ο Hinton πιστεύει ότι η τεχνητή νοημοσύνη θα μεταμορφώσει την εκπαίδευση και την ιατρική και δυνητικά θα επιλύσει την κλιματική αλλαγή, ανησυχεί όλο και περισσότερο για την ταχεία ανάπτυξή της.
Ο πρωτοπόρος της τεχνητής νοημοσύνης εκτιμά ότι υπάρχει κίνδυνος 10% έως 20% ότι η τεχνητή νοημοσύνη θα πάρει τελικά τον έλεγχο από τους ανθρώπους. «Ο κόσμος δεν το έχει καταλάβει ακόμα, ο κόσμος δεν έχει καταλάβει τι έρχεται», προειδοποίησε.
Οι ανησυχίες του έρχονται σε συμφωνία με εκείνες των ηγετών του κλάδου, όπως ο CEO της Google, Sundar Pichai, ο Elon Musk της X-AI και ο CEO της OpenAI Sam Altman, οι οποίοι έχουν εκφράσει παρόμοιες ανησυχίες. Ωστόσο, o Hinton επικρίνει αυτές τις ίδιες εταιρείες ότι δίνουν προτεραιότητα στα κέρδη έναντι της ασφάλειας.
“Αν κοιτάξετε τι κάνουν οι μεγάλες εταιρείες αυτή τη στιγμή, ασκούν πιέσεις για να λάβουν λιγότερους κανονισμούς για την τεχνητή νοημοσύνη. είπε ο Hinton.
Ο Hinton εμφανίζεται ιδιαίτερα απογοητευμένος με την Google, όπου εργαζόταν στο παρελθόν, επειδή “μπήκε” σε στρατιωτικές εφαρμογές της τεχνητής νοημοσύνης.
Σύμφωνα με τον Hinton, οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να αφιερώσουν πολύ περισσότερους πόρους στην έρευνα για την ασφάλεια — «το ένα τρίτο» της υπολογιστικής τους ισχύος, σε σύγκριση με το πολύ μικρότερο ποσοστό που διατίθεται σήμερα.
Το CBS News ρώτησε όλα τα εργαστήρια τεχνητής νοημοσύνης που ανέφεραν πόσο από τον υπολογισμό τους χρησιμοποιείται για έρευνα ασφάλειας. Κανείς τους δεν έδωσε αριθμό. Όλοι είπαν ότι η ασφάλεια είναι σημαντική και υποστηρίζουν τη ρύθμιση γενικά, αλλά έχουν αντιταχθεί κυρίως στους κανονισμούς που έχουν προτείνει οι νομοθέτες μέχρι στιγμής.
Ομοίως με τον Hinton, ο Demis Hassabis, βραβευμένος με Νόμπελ και Διευθύνων Σύμβουλος της Google DeepMind, τόνισε τη διττή φύση του μέλλοντος της τεχνητής νοημοσύνης: ενώ υπόσχεται επανάσταση στην υγειονομική περίθαλψη και την ενέργεια και ενδεχομένως να θεραπεύσει όλες τις ασθένειες μέσα στην επόμενη δεκαετία, ενέχει επίσης σημαντικούς κινδύνους. Ο Hassabis προειδοποίησε ότι η τεχνητή γενική νοημοσύνη (AGI) θα μπορούσε να ταιριάξει με την ανθρώπινη νοημοσύνη μέσα σε 10 χρόνια, και η κοινωνία είναι προς το παρόν απροετοίμαστη για αυτήν την εξέλιξη.
