Όσο ο κόσμος της τεχνολογίας παρακολουθεί με κομμένη την ανάσα την ανάπτυξη των μοντέλων τεχνητής νοημοσύνης, οι ίδιοι οι πρωτοπόροι του κλάδου προχωρούν σε μια κίνηση που υπογραμμίζει τους τεράστιους κινδύνους που ελλοχεύουν. Σύμφωνα με πρόσφατες πληροφορίες, η OpenAI, ο δημιουργός του ChatGPT, έχει συνάψει μια συμφωνία-κλειδί με μία startup, πληρώνοντάς την για να «ελέγξει» την πιθανότητα η τεχνητή νοημοσύνη να κάνει κακό.
Αυτή η πρακτική, γνωστή ως «red teaming» στον χώρο της κυβερνοασφάλειας, μεταφέρεται πλέον στον κόσμο της ΑΙ. Ουσιαστικά, η OpenAI συνεργάζεται με μια εξειδικευμένη ομάδα με στόχο να εντοπίσει και να εκμεταλλευτεί τις αδυναμίες του ChatGPT.
Σκοπός είναι να διαπιστωθεί αν το μοντέλο μπορεί να χρησιμοποιηθεί για να παράγει επιβλαβές περιεχόμενο, να δώσει οδηγίες για παράνομες πράξεις, διαδικτυακές απάτες, να δημιουργήσει παραπληροφόρηση ή ακόμη και να βοηθήσει στην ανάπτυξη επικίνδυνων συστημάτων, όπως χημικών όπλων.
Η είδηση αυτή, πέρα από τις προφανείς ηθικές της διαστάσεις, έχει τεράστια επιχειρηματική σημασία. Υποδηλώνει την εμφάνιση μιας νέας, εξαιρετικά επικερδούς αγοράς: της «Ασφάλειας της AI ως Υπηρεσία» (AI Safety-as-a-Service).
Η εν λόγω εταιρεία, που παραμένει σε μεγάλο βαθμό απόρρητη, έχει στόχο να ενισχύσει την ασφάλεια και την αξιοπιστία των εφαρμογών της OpenAI, διασφαλίζοντας ότι η τεχνολογία της θα χρησιμοποιείται υπεύθυνα. Η κίνηση αυτή αποτελεί μέρος της ευρύτερης στρατηγικής της OpenAI για την ηθική και ασφαλή χρήση της AI, καθώς η ραγδαία τεχνολογική ανάπτυξη αυτής φέρνει νέες προκλήσεις ελέγχου και αξιοπιστίας. Η επένδυση γίνεται ειδικά σε μια εποχή που το AI είναι στο επίκεντρο της καινοτομίας και των ανησυχιών γύρω από κοινωνικά ζητήματα.
Η startup με την οποία συνεργάζεται η OpenAI, η οποία φέρεται να ιδρύθηκε από πρώην υπάλληλο της εταιρείας, έχει ήδη αποτίμηση 450 εκατομμυρίων δολαρίων. Αυτό το γεγονός από μόνο του δείχνει την εμπιστοσύνη της αγοράς ότι η ανάγκη για ανεξάρτητους «ηθικούς ελεγκτές» θα εκτοξευθεί τα επόμενα χρόνια.
Για το startup ecosystem, η κίνηση αυτή της OpenAI είναι εξαιρετικά διδακτική. Καθώς τα μεγάλα γλωσσικά μοντέλα γίνονται όλο και πιο ισχυρά, οι δημιουργοί τους αναγνωρίζουν ότι δεν μπορούν να διαχειριστούν μόνοι τους το σύνολο των κινδύνων. Αυτό δημιουργεί μια τεράστια ευκαιρία για εξειδικευμένες startups που θα επικεντρωθούν αποκλειστικά στην εύρεση και την αντιμετώπιση των κενών ασφαλείας, των ηθικών προβλημάτων και της μεροληψίας των αλγορίθμων.
Η εμπιστοσύνη θα γίνει το νέο ανταγωνιστικό πλεονέκτημα στην αγορά της τεχνητής νοημοσύνης, και οι εταιρείες που θα εξειδικευτούν στη δημιουργία ενός πλαισίου ασφάλειας και αξιοπιστίας θα βρίσκονται στο επίκεντρο του επενδυτικού ενδιαφέροντος.
