Το μοντέλο τεχνητής νοημοσύνης Gemini της Google κατάφερε, στο πλαίσιο δοκιμαστικής αξιολόγησης, να αποκτήσει πρόσβαση σε ιστότοπους μαντεύοντας στοιχεία σύνδεσης, σύμφωνα με όσα δήλωσε η εταιρεία στο Γαλλικό Πρακτορείο (AFP). Το περιστατικό, που σημειώθηκε τον Μάιο και εντοπίστηκε από την Google τον Ιούλιο, επαναφέρει τα ερωτήματα για τους κινδύνους που μπορεί να προκύψουν από τη χρήση ισχυρών μοντέλων τεχνητής νοημοσύνης.
Οι παραβιάσεις, για τις οποίες είχε γράψει πρώτη η Wall Street Journal, σημειώθηκαν κατά τη διάρκεια μιας τυπικής διαδικασίας αξιολόγησης.
To Gemini απέκτησε πρόσβαση σε συστήματα
Η Heather Adkins, αντιπρόεδρος μηχανικής ασφαλείας της Google, δήλωσε στο AFP ότι το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και στη συνέχεια μάντεψε στοιχεία σύνδεσης, προκειμένου να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι περιλαμβάνονταν στη δοκιμή.
Σύμφωνα με την ίδια, το Gemini απέκτησε πρόσβαση σε τρεις περιπτώσεις, αλλά σταμάτησε τη διαδικασία σε κάθε μία από αυτές. Η Google δεν διευκρίνισε ποιοι οργανισμοί ή ιστότοποι επηρεάστηκαν.
Ενημερώθηκαν οι τρεις οργανισμοί
Η Google ανέφερε ότι και οι τρεις οντότητες ενημερώθηκαν για το περιστατικό και ότι συνεργάστηκε με τον εκπαιδευτικό της εταίρο για τις αλλαγές που έγιναν στη διαδικασία των δοκιμών.
Η εταιρεία υπογράμμισε ότι τα περιστατικά καταδεικνύουν τη σημασία της εκπαίδευσης των ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να λειτουργούν με υπεύθυνο τρόπο.
Πηγή: AFP
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
