Η Google παρέχει εικόνες μανιταριών που δημιουργούνται από τεχνητή νοημοσύνη όταν οι χρήστες αναζητούν ορισμένα είδη, ένα επικίνδυνο δυνητικά σφάλμα για τους τροφοσυλλέκτες που προσπαθούν να καταλάβουν ποια μανιτάρια είναι ασφαλή για κατανάλωση, όπως αναφέρει το 404 Media. Αυτό το σφάλμα, το οποίο παρουσιάζει ανακριβείς απεικονίσεις δυνητικά τοξικών μανιταριών, εγκυμονεί σημαντικούς κινδύνους για την υγεία αυτών που βασίζονται στην οπτική αναγνώριση για την αναζήτηση μανιταριών.
Παρά το γεγονός ότι αυτές οι εικόνες χαρακτηρίζονται σαφώς ως δημιουργημένες από τεχνητή νοημοσύνη στους ιστότοπους προέλευσης τους, οι αλγόριθμοι της Google αποτυγχάνουν να τις διακρίνουν από τις αυθεντικές φωτογραφίες, με αποτέλεσμα τη συμπερίληψή τους σε αποσπάσματα αναζήτησης. Αυτή η παράβλεψη εγείρει ανησυχίες σχετικά με την αξιοπιστία της λειτουργίας αναζήτησης εικόνων της Google και υπογραμμίζει την ανάγκη για βελτιωμένους μηχανισμούς ανίχνευσης περιεχομένου AI.
Το σφάλμα εντοπίστηκε για πρώτη φορά από έναν χρήστη του Reddit γνωστό ως MycoMutant, συντονιστή της κοινότητας r/mycology. Ο MycoMutant ανακάλυψε ότι κατά την αναζήτηση του μύκητα Coprinus comatus – που συνήθως αναφέρεται ως shaggy ink cap – η πρώτη εικόνα που εμφανίστηκε στο επιλεγμένο απόσπασμα της Google ήταν μια εικόνα που δημιουργήθηκε από AI. Αυτή η εικόνα έμοιαζε όμως ελάχιστα με το πραγματικό Coprinus, αποτελώντας σοβαρό κίνδυνο για όποιον βασίζεται σε αυτήν την εικόνα για οπτική αναγνώριση.
Η εικόνα που δημιουργήθηκε από την τεχνητή νοημοσύνη προήλθε από το Freepik, έναν ιστότοπο με στοκ εικόνων, όπου επισημάνθηκε ως “δημιουργήθηκε από AI” αλλά εσφαλμένα επισημάνθηκε ως “Coprinus comatus“. Το Coprinus comatus είναι ένα βρώσιμο μανιτάρι, γεγονός που καθιστά την εσφαλμένη αναπαράστασή του ιδιαίτερα ανησυχητική για τους τροφοσυλλέκτες που βασίζονται στην οπτική αναγνώριση. Αυτή η συγκεκριμένη περίπτωση υπογραμμίζει τον κίνδυνο διείσδυσης περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη σε αξιόπιστες πηγές πληροφοριών χωρίς κατάλληλο έλεγχο ή επισήμανση.
Το περιστατικό εγείρει ανησυχίες σχετικά με τον πιθανό αντίκτυπο στους αλγόριθμους αναγνώρισης τεχνητής νοημοσύνης, οι οποίοι μπορεί να χρησιμοποιούν αυτές τις εμφανείς αλλά ανακριβείς εικόνες ως δεδομένα εκπαίδευσης. Οι πιθανές συνέπειες του σφάλματος της εικόνας μανιταριού που δημιουργείται από AI της Google εκτείνονται πέρα από την απλή εσφαλμένη αναγνώριση. Οι τροφοσυλλέκτες που βασίζονται σε αυτές τις ανακριβείς εικόνες θα μπορούσαν κατά λάθος να καταναλώσουν τοξικά μανιτάρια, οδηγώντας σε σοβαρά προβλήματα υγείας ή ακόμα και σε θάνατο.
Αυτό το σφάλμα υπονομεύει την αξιοπιστία των μηχανών αναζήτησης ως πηγής ακριβών πληροφοριών, ειδικά για κρίσιμα θέματα όπως η αναγνώριση μανιταριών. Το περιστατικό είναι μέρος ενός ευρύτερου μοτίβου περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη που μπορεί να προκαλέσει πιθανή σοβαρή βλάβη, με παρόμοια ζητήματα που αναφέρονται σε βιβλία αναζήτησης τροφής μανιταριών που δημιουργούνται από AI στο Amazon.
Αυτά τα περιστατικά υπογραμμίζουν την επείγουσα ανάγκη για αυστηρότερη εποπτεία και διαδικασίες επαλήθευσης για το περιεχόμενο που δημιουργείται από AI, ιδιαίτερα σε τομείς όπου η ακρίβεια είναι ζωτικής σημασίας για τη δημόσια ασφάλεια. Οι ειδικοί ζητούν αυξημένη εποπτεία και υπευθυνότητα στη χρήση περιεχομένου που δημιουργείται από AI στα αποτελέσματα αναζήτησης, ιδιαίτερα για δυνητικά επικίνδυνα θέματα όπως η αναγνώριση μανιταριών. Ο Elan Trybuch, Γραμματέας της Μυκητολογικής Εταιρείας της Νέας Υόρκης, τόνισε την ανάγκη οι μηχανές αναζήτησης όχι μόνο να αφαιρούν το ανακριβές περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη αλλά και να επισημαίνουν με σαφήνεια κάθε ύποπτη τέχνη που δημιουργείται από τεχνητή νοημοσύνη.
Αυτή η ανάγκη επισημαίνεται επίσης από τους λάτρεις της μυκητολογίας και τους τροφοσυλλέκτες που τονίζουν τη σημασία του να βασίζονται σε πληροφορίες επαληθευμένες από ειδικούς και όχι σε εικόνες που δημιουργούνται από AI για την αναγνώριση μανιταριών. Οι ειδικοί συνιστούν τη χρήση αξιόπιστων οδηγών πεδίου και τη διαβούλευση με έμπειρους τροφοσυλλέκτες αντί να βασίζεστε αποκλειστικά σε διαδικτυακά αποτελέσματα αναζήτησης.
