Αξιοποιώντας τις τεχνικές που επέτρεψαν σε σύστημα τεχνητής νοημοσύνης να επιλύσει ένα από τα περίφημα «Προβλήματα της Χιλιετίας» στα μαθηματικά, ερευνητές αναπτύσσουν νέα εργαλεία AI, με στόχο να αντιμετωπίσουν μία από τις μεγαλύτερες προκλήσεις της εποχής μας: την παγκόσμια κρίση κυβερνοασφάλειας.
Τον Σεπτέμβριο, η OpenAI ανακοίνωσε ότι η νέα τεχνολογία Τεχνητής Νοημοσύνης που ανέπτυξε χρειάστηκε λιγότερο από μία εβδομάδα για να λύσει το πρόβλημα Navier-Stokes, έναν μαθηματικό γρίφο που προβλημάτιζε τα πιο λαμπρά μυαλά του κόσμου επί δεκαετίες. Τις εβδομάδες που ακολούθησαν, η εταιρεία δημοσίευσε μια σειρά από επιπλέον ευρήματα, τα οποία προκάλεσαν έκπληξη στους κορυφαίους μαθηματικούς και έθεσαν νέα ερωτήματα σχετικά με το μέλλον ενός ακαδημαϊκού πεδίου που θεωρούνταν επί μακρόν η κορωνίδα των ανθρώπινων επιτευγμάτων.
Ωστόσο, οι επιπτώσεις των νέων μαθηματικών ικανοτήτων της Τεχνητής Νοημοσύνης εκτείνονται πολύ πέρα από την ακαδημαϊκή έρευνα. Αξιοποιώντας παρόμοιες τεχνικές, η Σίλικον Βάλεϊ αναπτύσσει πλέον συστήματα ΑΙ που φιλοδοξούν να εξαλείψουν τα σφάλματα– τα λεγόμενα «bugs»- στα λογισμικά υπολογιστών. Όπως ένα σύστημα Τεχνητής Νοημοσύνης μπορεί να αποδείξει ένα μαθηματικό θεώρημα, έτσι μπορεί, τουλάχιστον θεωρητικά, να αποδείξει ότι μια εφαρμογή λογισμικού δεν περιέχει σφάλματα.
Λογισμικά χωρίς σφάλματα
Αυτή η ευρείας κλίμακας προσπάθεια διασφάλισης της αξιοπιστίας των λογισμικών υπολογιστών, την οποία οι επιστήμονες αποκαλούν «επαλήθευση λογισμικού» (software verification), είναι εξαιρετικά σημαντική. Από τη στιγμή που κορυφαία συστήματα ΑΙ μπορούν πλέον να παραβιάζουν λογισμικά, εντοπίζοντας τις ευπάθειές τους με εντυπωσιακή ταχύτητα, καθίσταται αναγκαία η ανάπτυξη μιας νέας γενιάς συστημάτων τεχνητής νοημοσύνης που θα μπορεί να εξαλείφει αυτές τις ευπάθειες.
Η &Truth, μια νεοφυής επιχείρηση με έδρα το Πάλο Άλτο της Καλιφόρνιας, συγκαταλέγεται στις εταιρείες που αναπτύσσουν αυτή την τεχνολογία. Όπως οι νεοφυείς επιχειρήσεις Silicon Valley Axiom και Logical Intelligence, αλλά και κορυφαία εργαστήρια Τεχνητής Νοημοσύνης, όπως η Anthropic και η OpenAI, η &Truth φιλοδοξεί να επαληθεύσει την αξιοπιστία των λογισμικών σε παγκόσμιο επίπεδο, χρησιμοποιώντας μια εξειδικευμένη γλώσσα προγραμματισμού, τη Lean.
«Είναι πλέον εφικτό να γίνει κάτι που μέχρι πρότινος δεν ήταν δυνατό», δήλωσε ο Κλαρκ Μπάρετ, καθηγητής στο Πανεπιστήμιο Στάνφορντ, ένας από τους ιδρυτές της &Truth και συνδιευθύνων σύμβουλος της εταιρείας. «Έχουμε δει τι συνέβη με τα μαθηματικά, με την απόδειξη αυτών των μεγάλων, άλυτων μέχρι σήμερα προβλημάτων. Μπορούμε να εφαρμόσουμε τις ίδιες μεθόδους για την επαλήθευση λογισμικού».
Τα σφάλματα λογισμικού εμφανίζονται όταν οι εφαρμογές εκτελούν λειτουργίες για τις οποίες δεν έχουν σχεδιαστεί. Για παράδειγμα, μια εφαρμογή μπορεί να αποθηκεύσει πληροφορίες σε λάθος βάση δεδομένων ή να εγγράψει υπερβολικά μεγάλο όγκο δεδομένων στη μνήμη του συστήματος. Αυτό μπορεί να έχει ως αποτέλεσμα τα δεδομένα να αποθηκευτούν σε λανθασμένη θέση στη μνήμη του συστήματος, προκαλώντας αλλοίωση άλλων πληροφοριών. Τέτοιες αδυναμίες μπορούν να αξιοποιηθούν από κακόβουλους εισβολείς, προκειμένου να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε μια εφαρμογή.
Η επαλήθευση λογισμικού αποσκοπεί στην αποτροπή τέτοιων σφαλμάτων, θεωρητικά. Στόχος είναι να αποδειχθεί με τυπικό και συστηματικό τρόπο ότι μια εφαρμογή λειτουργεί αποκλειστικά όπως έχει σχεδιαστεί, ακολουθώντας μια διαδικασία παρόμοια με εκείνη που χρησιμοποιούν οι μαθηματικοί για να αποδείξουν ένα θεώρημα: ένα λογικό βήμα κάθε φορά.
Lean: Το εργαλείο πίσω από τη νέα τεχνολογική προσπάθεια
Η Lean, η γλώσσα προγραμματισμού δημιουργήθηκε πριν από περισσότερα από δέκα χρόνια από τον Λεονάρντο ντε Μόουρα, ερευνητή της Microsoft. Αρχικά σχεδιάστηκε ως εργαλείο για προγραμματιστές. Ωστόσο, οι τεχνολογίες Τεχνητής Νοημοσύνης μπορούν πλέον να παράγουν τον δικό τους κώδικα και, κατά συνέπεια, να χρησιμοποιούν τη Lean για να συντάσσουν και τις δικές τους μαθηματικές αποδείξεις.
Μέσα από μια διαδικασία συνεχών δοκιμών και λαθών, γνωστή ως «ενισχυτική μάθηση» (reinforcement learning), ένα σύστημα ΑΙ μπορεί να μάθει να γράφει καλύτερο κώδικα και, τελικά, να λύνει μαθηματικά προβλήματα που προβλημάτιζαν κορυφαίους μαθηματικούς επί δεκαετίες.
Εταιρείες όπως η &Truth επιδιώκουν να αξιοποιήσουν παρόμοιες τεχνικές για να εξαλείψουν τα σφάλματα στα λογισμικά. Ωστόσο, υπάρχει ένα σημαντικό εμπόδιο: η εκπαίδευση συστημάτων Τεχνητής Νοημοσύνης για την επαλήθευση κώδικα είναι αισθητά πιο δύσκολη από την εκπαίδευσή τους για την επίλυση μαθηματικών προβλημάτων.
Γιατί η επαλήθευση λογισμικού είναι δυσκολότερη από τα μαθηματικά
Μέρος του προβλήματος είναι ότι ο κώδικας λογισμικού είναι πολύ πιο ακατάστατος από τα μαθηματικά. Οι μαθηματικοί κανόνες είναι σαφώς καθορισμένοι εδώ και αιώνες. Αντίθετα, για να επαληθευτεί η αξιοπιστία μιας εφαρμογής, πρέπει πρώτα να καταρτιστεί ένα σύνολο τυπικών προδιαγραφών που να περιγράφουν με ακρίβεια τον τρόπο με τον οποίο υποτίθεται ότι πρέπει να λειτουργεί. Μόνο τότε μπορεί ένα σύστημα Τεχνητής Νοημοσύνης να γράψει κώδικα στη Lean, ο οποίος θα επαληθεύει ότι η εφαρμογή συμπεριφέρεται σύμφωνα με αυτές τις προδιαγραφές.
Ακόμη κι έτσι, οι εφαρμογές ενδέχεται να παρουσιάσουν απρόβλεπτες και ανεπιθύμητες συμπεριφορές, οι οποίες μπορούν να επιτρέψουν σε χάκερ να αποκτήσουν πρόσβαση στα συστήματα. Είναι αδύνατο για τους δημιουργούς μιας εφαρμογής να προβλέψουν κάθε πιθανό πρόβλημα που μπορεί να προκύψει όταν αυτή τεθεί σε λειτουργία και χρησιμοποιηθεί σε πραγματικές συνθήκες.
«Πώς ξέρεις ότι οι υποθέσεις σου είναι σωστές;» διερωτήθηκε ο Γουίλ Γουίλσον, διευθύνων σύμβουλος της Antithesis, μιας εταιρείας που ελέγχει τον κώδικα υπολογιστικών συστημάτων για σφάλματα και κενά ασφαλείας.
«Κάποια στιγμή, ο κώδικας έρχεται αντιμέτωπος με την πολυπλοκότητα της πραγματικότητας», σημείωσε.
Πηγή: New York Times
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
