Η Microsoft, σε μια πρωτοποριακή μελέτη που δημοσιεύθηκε στο περιοδικό Science, αποκάλυψε ένα κρίσιμο «τυφλό σημείο» στη βιοασφάλεια, το οποίο δημιουργείται από την πρόοδο της τεχνητής νοημοσύνης. Ερευνητές της εταιρείας απέδειξαν μέσω προσομοίωσης ότι τα εργαλεία AI Protein Design (AIPD) μπορούν να χρησιμοποιηθούν για τη δημιουργία χιλιάδων συνθετικών παραλλαγών γνωστών τοξινών, με στόχο την παράκαμψη των συστημάτων ελέγχου DNA που χρησιμοποιούνται από τις εταιρείες βιοσύνθεσης.
Η μελέτη, που δημοσιεύθηκε χτες στις 2 Οκτωβρίου αποκάλυψε πώς η τεχνητή νοημοσύνη μπορεί να «παραφράσει» τα γενετικά σχέδια των επικίνδυνων πρωτεϊνών — ξαναγράφοντας τις αλληλουχίες DNA τους, ενώ διατηρεί τη θανατηφόρα δομή και ενδεχομένως τη λειτουργία τους — ώστε να ξεφεύγουν από την ανίχνευση των λογισμικών ελέγχου που χρησιμοποιούν εταιρείες σύνθεσης DNA παγκοσμίως.
Η διακλαδική ανταπόκριση καλύπτει κρίσιμο κενό
Με επικεφαλής τον Επικεφαλής Επιστημονικό Διευθυντή της Microsoft, Έρικ Χόρβιτς, η ερευνητική ομάδα ανακάλυψε την ευπάθεια τύπου zero-day μέσω μιας άσκησης «red teaming» που δημιούργησε πάνω από 75.000 παραλλαγές επικίνδυνων πρωτεϊνών, συμπεριλαμβανομένων τοξινών και ιικών πρωτεϊνών. Οι αλληλουχίες που σχεδιάστηκαν από την τεχνητή νοημοσύνη κατάφεραν να παρακάμψουν επιτυχώς το τυπικό λογισμικό ελέγχου βιοασφάλειας στις αρχικές δοκιμές, με τις τροποποιημένες τοξίνες να «περνούν με ευκολία τις τεχνικές ελέγχου», σύμφωνα με τον Χόρβιτς.
Η ανακάλυψη οδήγησε σε μια επείγουσα, δεκάμηνη συνεργατική προσπάθεια με τη συμμετοχή της Twist Bioscience, της Integrated DNA Technologies και πολλών παρόχων λογισμικού ελέγχου βιοασφάλειας για την ανάπτυξη και διάθεση διορθώσεων. Μετά τις ενημερώσεις, τα συστήματα ελέγχου εντοπίζουν πλέον το 97% των πιο επικίνδυνων παραλλαγών που παράγει η AI, αν και περίπου το 3% εξακολουθεί να διαφεύγει της ανίχνευσης.
Οι κίνδυνοι διπλής χρήσης αναδεικνύουν την αυξανόμενη βιολογική απειλή της τεχνητής νοημοσύνης
Η ευπάθεια προέρχεται από τα ίδια εργαλεία τεχνητής νοημοσύνης που φέρνουν επανάσταση στην ανακάλυψη φαρμάκων και στην ιατρική έρευνα. Η Microsoft χρησιμοποίησε το δικό της λογισμικό σχεδιασμού πρωτεϊνών, EvoDiff, μαζί με άλλα ανοιχτού κώδικα εργαλεία για να τροποποιήσει τοξίνες όπως η ρικίνη και η βοτουλίνη σε ψηφιακές προσομοιώσεις. Αν και δεν κατασκευάστηκαν πραγματικές τοξικές πρωτεΐνες, η έρευνα έδειξε πώς οι βιοτρομοκράτες θα μπορούσαν ενδεχομένως να εκμεταλλευτούν την τεχνητή νοημοσύνη για να παρακάμψουν προστατευτικά μέτρα.
«Οι εξελίξεις στην τεχνητή νοημοσύνη τροφοδοτούν σημαντικές ανακαλύψεις στη βιολογία και την ιατρική, αλλά με την νέα δύναμη έρχεται η ευθύνη για επαγρύπνηση και προσεκτική διαχείριση κινδύνου», δήλωσε ο Horvitz σε ενημέρωση προς τον τύπο.
Η Emily Leproust, Διευθύνουσα Σύμβουλος της Twist Bioscience, τόνισε τη διαρκώς μεταβαλλόμενη φύση της απειλής: «Καθώς οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται, οι πρακτικές ελέγχου πρέπει να εξελίσσονται εξίσου γρήγορα». Η εταιρεία με έδρα το South San Francisco, η οποία επεξεργάζεται χιλιάδες παραγγελίες σύνθεσης DNA, έχει παραπέμψει λιγότερες από πέντε ύποπτες παραγγελίες στις αρχές επιβολής του νόμου την τελευταία δεκαετία
