Χρειάστηκαν λιγότερες από έξι ώρες για ένα σύστημα τεχνητής νοημοσύνης να εφεύρει 40.000 δυνητικά θανατηφόρα μόρια. Οι ερευνητές έβαλαν την τεχνητή νοημοσύνη) η οποία συνήθως χρησιμοποιείται για την αναζήτηση φαρμάκων, να βρει νέα πιθανά χημικά όπλα, για να δείξουν πόσο εύκολα θα μπορούσε να γίνει κατάχρηση.
Το μόνο που έπρεπε να κάνουν οι ερευνητές ήταν να τροποποιήσουν τη μεθοδολογία τους για να αναζητήσουν τις τοξικές ουσίες. Το σύστημα τεχνητής νοημοσύνης κατέληξε σε δεκάδες χιλιάδες νέες ουσίες, μερικές από τις οποίες είναι παρόμοιες με τον VX, τον πιο ισχυρό νευροτοξικό παράγοντα που αναπτύχθηκε ποτέ. Τα ευρήματα των επιστημόνων δημοσιεύθηκαν στο περιοδικό «Nature Machine Intelligence».
Ο ιστότοπος The Verge μίλησε με τον Φάμπιο Ουρμπίνα, κύριο συγγραφέα της μελέτης και επιστήμονα στην Collaborations Pharmaceuticals, Inc. μια εταιρεία που επικεντρώνεται στην εξεύρεση φαρμακευτικών θεραπειών για σπάνιες ασθένειες.
Γιατί κάνατε αυτή τη μελέτη για τα βιοχημικά όπλα;
Λάβαμε μια πρόσκληση από το συνέδριο που διοργάνωσε το Ελβετικό Ομοσπονδιακό Ινστιτούτο Πυρηνικής, Βιολογικής και Χημικής Προστασίας. Η ιδέα του συνεδρίου ήταν να ενημερώσει την επιστημονική κοινότητα για τις νέες εξελίξεις που μπορεί να έχουν επιπτώσεις στη Σύμβαση για τα χημικά/βιολογικά όπλα.
Λάβαμε αυτή την πρόσκληση για να μιλήσουμε για τη μηχανική μάθηση και τις πιθανότητες κατάχρησής της. Είναι κάτι που δεν είχαμε σκεφτεί ποτέ πριν. Υπάρχουν πολλά σύνολα δεδομένων από μόρια που έχουν δοκιμαστεί για να διαπιστωθεί αν είναι τοξικά ή όχι. Εμείς εστιάσαμε στον VX. Πρόκειται για έναν αναστολέα της λεγόμενης ακετυλοχολινεστεράσης. Οι νευροτοξικοί παράγοντες όπως ο VX, προκαλούν υπερβολικό ερεθισμό των αδένων και των μυών, με αποτέλεσμα να τους κουράζουν. Ο VX προσβάλλει τη λειτουργία της αναπνοής και μπορεί να προκαλέσει τον θάνατο μέσα σε μερικά λεπτά μετά την έκθεση σε αυτόν. Στο παρελθόν έχουν γίνει πειράματα με διαφορετικούς τύπους μορίων για να διαπιστωθεί αν αναστέλλουν την ακετυλοχολινεστεράση. Έτσι, δημιουργήσαμε αυτά τα μεγάλα σύνολα δεδομένων των συγκεκριμένων μοριακών δομών και σημειώσαμε το επίπεδο τοξικότητάς τους.
Μπορούμε να χρησιμοποιήσουμε αυτά τα σύνολα δεδομένων για να δημιουργήσουμε ένα μοντέλο μηχανικής μάθησης, το οποίο ουσιαστικά μαθαίνει ποια μέρη της μοριακής δομής είναι σημαντικά για την τοξικότητα και ποια όχι. Στη συνέχεια, μπορούμε να τροφοδοτήσουμε αυτό το μοντέλο με νέα μόρια, ενδεχομένως νέα φάρμακα που ίσως δεν έχουν δοκιμαστεί ποτέ πριν. Αυτός είναι ένας τρόπος για να ελέγξουμε πολλά μόρια σε μικρό χρονικό διάστημα, ώστε να ξεχωρίσουμε αυτά που προβλέπεται να είναι τοξικά. Στη δική μας μελέτη αντιστρέψαμε τη διαδικασία και χρησιμοποιήσαμε αυτό το μοντέλο για να προβλέψουμε την τοξικότητα.
Εάν τροφοδοτήσουμε ένα μοντέλο με διαφορετικές δομές, αυτό θα μάθει πώς να συνθέτει τα μόρια μεταξύ τους. Στη συνέχεια μπορούμε να του ζητήσουμε να δημιουργήσει νέα μόρια. Το μοντέλο μπορεί να δημιουργήσει νέα μόρια τα οποία θα είναι κατά κάποιο τρόπο τυχαία. Αλλά ένα πράγμα που μπορούμε να κάνουμε είναι να πούμε στο μοντέλο προς ποια κατεύθυνση θέλουμε να κινηθούμε. Αυτό το κάνουμε δίνοντάς του μια μικρή συνάρτηση βαθμολόγησης, η οποία του δίνει υψηλή βαθμολογία αν τα μόρια που παράγει είναι προς κάτι που θέλουμε. Στη συγκεκριμένη περίπτωση, αντί να δώσουμε χαμηλή βαθμολογία στα τοξικά μόρια, τους δίνουμε υψηλή. Τώρα βλέπουμε το μοντέλο να αρχίζει να παράγει όλα αυτά τα μόρια, πολλά από τα οποία μοιάζουν με τον VX αλλά και με άλλους χημικούς πολεμικούς παράγοντες.
Πείτε μου περισσότερα για τα ευρήματά σας. Σας εξέπληξε κάτι;
Δεν ήμασταν πραγματικά σίγουροι για το τι θα βρίσκαμε. Τα μοντέλα αυτά είναι μια αρκετά νέα τεχνολογία και δεν τα έχουμε χρησιμοποιήσει ευρέως. Αυτό που μας έκανε εντύπωση, είναι ότι πολλές από τις παραγόμενες ενώσεις ήταν πιο τοξικές από τον VX. Βέβαια, αυτές είναι προβλέψεις που δεν έχουμε επαληθεύσει, και σίγουρα δεν είναι κάτι που θέλουμε να κάνουμε εμείς. Αλλά τα μοντέλα πρόβλεψης είναι γενικά αρκετά ακριβή. Έτσι, ακόμη και αν υπάρχουν πολλά ψευδώς θετικά αποτελέσματα, φοβόμαστε ότι υπάρχουν κάποια πιο ισχυρά μόρια εκεί μέσα.
Πόσο εύκολο είναι για κάποιον να αντιγράψει αυτό που κάνατε εσείς;
Είναι αρκετά εύκολο για κάποιον να αντιγράψει αυτό που κάναμε εμείς. Φυσικά, απαιτείται κάποια εξειδίκευση. Αν κάποιος το κάνει χωρίς να έχει γνώσεις χημείας, μάλλον θα δημιουργήσει πράγματα που δεν θα είναι πολύ χρήσιμα. Και υπάρχει ακόμα το επόμενο βήμα, δηλαδή η σύνθεση αυτών των μορίων.
Τι μπορεί να γίνει για να αποτραπεί αυτού του είδους η κατάχρηση της τεχνητής νοημοσύνης;
Υπάρχουν όλο και περισσότερες πολιτικές σχετικά με την κοινή χρήση δεδομένων. Και συμφωνώ απόλυτα με αυτό, διότι ανοίγει περισσότερους δρόμους για την έρευνα. Επιτρέπει σε άλλους ερευνητές να δουν τα δεδομένα συναδέλφων τους και να τα χρησιμοποιήσουν για τη δική τους έρευνα. Το πρόβλημα όμως είναι ότι περιλαμβάνει και σύνολα δεδομένων και μοντέλα τοξικότητας. Έτσι, είναι λίγο δύσκολο να βρούμε μια καλή λύση για αυτό το πρόβλημα. Η επιστήμη έχει να κάνει με την ανοικτή επικοινωνία, την ανοικτή πρόσβαση και την ανοικτή ανταλλαγή δεδομένων και οι περιορισμοί είναι αντίθετοι με αυτή την έννοια. Πρέπει περισσότεροι ερευνητές να ενημερωθούν για την πιθανότητα κακόβουλης χρήσης. Στον χώρο της χημείας οι επιστήμονες είναι ενημερωμένοι για την κακή χρήση της. Δεν ισχύει όμως το ίδιο και για τη μηχανική μάθηση.
ΠΗΓΗ: The Verge
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος