Ένα εντυπωσιακό πείραμα στον κόσμο του Web3 και της ΑΙ φέρνει στην επιφάνεια τρωτά σημεία στα συστήματα παραγωγικής τεχνητής νοημοσύνης, μια και ένας χάκερ εκμεταλλεύτηκε με επιτυχία ένα AI chatbot, κερδίζοντας 47.000 δολάρια.
Ο χάκερ, γνωστός με το ψευδώνυμο “p0pular.eth”, συμμετείχε σε ένα ανταγωνιστικό πείραμα – πρόκληση όπου ο στόχος ήταν το κοινό να καταφέρει να χειραγωγήσει το chatbot Freysa για μεταφορά κεφαλαίων που είχε κάτω από τον έλεγχό του, παρά τον ρητό προγραμματισμό του για την αποτροπή τέτοιων ενεργειών. Μετά από 482 προσπάθειες, ο χάκερ χρησιμοποίησε εξελιγμένες τεχνικές εντολών κειμένου αλλά και κοινωνική μηχανική για να εξαπατήσει την AI έτσι ώστε να πιστέψει ότι επεξεργαζόταν μια εισερχόμενη πληρωμή και όχι μια εξερχόμενη.
Πως λειτούργησε η ευφυής τακτική
1. Πλαστοπροσωπία: Ο χάκερ προσποιήθηκε ότι έχει πρόσβαση διαχειριστή στο chatbot, απενεργοποιώντας αποτελεσματικά τις προειδοποιήσεις ασφαλείας του.
2. Επαναπροσδιορισμός λειτουργίας: Επαναπροσδιορίζοντας τη λειτουργία “approveTransfer”, ο χάκερ παραπλάνησε το chatbot να πιστεύει ότι διαχειριζόταν εισερχόμενες πληρωμές.
3. Ψεύτικη ανακοίνωση κατάθεσης: Το τελικό τέχνασμα περιελάμβανε την ανακοίνωση μιας πλασματικής κατάθεσης 100 δολαρίων, η οποία ώθησε το chabot να ενεργοποιήσει τη λειτουργία μεταφοράς και να στείλει ολόκληρο το υπόλοιπό που είχε συγκεντρωθεί, 13,19 ETH (περίπου 47.000 $), στον λογαριασμό του χάκερ.
Hacking pay-to-play
Η πρόκληση hacking δομήθηκε ως διαγωνισμός pay-to-play, όπου οι συμμετέχοντες έπρεπε να πραγματοποιήσουν μια πληρωμή για να μιλήσουν στο chatbot Freysa, η οποία αυξανόταν ανάλογα με τις συμμετοχές. Ξεκινώντας από 10 δολάρια ανά προσπάθεια, τα κόστη συμμετοχής τελικά αυξήθηκαν στα 4.500 δολάρια! Στην πρόκληση συμμετείχαν 195 άτομα με κάθε μήνυμα προς το chatbot να κοστίζει κατά μέσο όρο 419 δολάρια, με το 70% του ποσού να πηγαίνει στο χρηματικό έπαθλο και το 30% να πηγαίνει στους εμπνευστές του πρωτότυπου πειράματος.
Οι ειδικοί προειδοποιούν ότι καθώς η τεχνητή νοημοσύνη ενσωματώνεται όλο και περισσότερο σε κρίσιμες εφαρμογές, η διασφάλιση ισχυρής ασφάλειας κατά της χειραγώγησης της μέσω των γραπτών ή φωνητικών εντολών θα είναι υψίστης σημασίας ειδικά για οργανισμούς που διαχειρίζονται οικονομικά στοιχεία.
Η περίπτωση τoυ Chatbot Freysa αποτελεί παράδειγμα για το πώς μια υπάρχουσα τεχνητή νοημοσύνη μπορεί να είναι ευάλωτη στην εκμετάλλευση, εάν δεν προστατεύεται επαρκώς από εξελιγμένες τεχνικές εντολών εκμετάλλευσης της καλοπροαίρετης φύσης της.
