Ένα ηχηρό καμπανάκι χτυπά τις τελευταίες ημέρες για την Τεχνητή Νοημοσύνη. Οι προειδοποιήσεις για τους κινδύνουςτης δεν είναι ασφαλώς καινούργιες. Αυτό που διαφοροποιεί, όμως, το σημερινό κύμα ανησυχίας είναι η προέλευσή του: δεν έρχεται πλέον κυρίως από ακαδημαϊκούς, ακτιβιστές ή ανθρώπους που βρίσκονται έξω από τη βιομηχανία. Έρχεται από ανθρώπους που βρίσκονται στην πρώτη γραμμή της ανάπτυξης των πιο προηγμένων μοντέλων AI.
Η αφορμή ήταν η δημόσια παραίτηση ερευνητών από κορυφαία εργαστήρια, με προειδοποιήσεις ότι η κούρσα προς όλο και ισχυρότερα, ενδεχομένως αυτοβελτιούμενα συστήματα εξελίσσεται ταχύτερα από τις δυνατότητες ελέγχου τους. Ερευνητές της Anthropic έχουν μιλήσει ακόμη και για πιθανότητα υπαρξιακής καταστροφής, ενώ ο διευθύνων σύμβουλος της εταιρείας Dario Amodei ζητά να επιβραδυνθεί ο ρυθμός ανάπτυξης των λεγόμενων «frontier models», δηλαδή των πρωτοποριακών μοντέλων, ώστε οι μηχανισμοί ασφαλείας να προλάβουν την τεχνολογική εξέλιξη. Ο δε Sam Altman της OpenAI συμφώνησε κι αυτός στην ανάγκη για μεγαλύτερη προσοχή και συντονισμό, ενώ αντίστοιχες θέσεις έχουν εκφραστεί και από άλλους κορυφαίους παράγοντες του κλάδου.
Το ερώτημα, επομένως, είναι γιατί αυτή η ανησυχία εκδηλώνεται τώρα. Μήπως τα ίδια τα συστήματα έχουν φτάσει σε ένα νέο επίπεδο δυνατοτήτων, όπου η αυτονομία τους δημιουργεί κινδύνους που μέχρι πρόσφατα θεωρούνταν θεωρητικοί; Οι λεγόμενοι «AI agents», δηλαδή οι «Πράκτορες Τεχνητής Νοημοσύνης», μπορούν πλέον να χρησιμοποιούν εργαλεία, να περιηγούνται στο διαδίκτυο, να γράφουν κώδικα και να αναλαμβάνουν διαδοχικές ενέργειες με μικρότερη ανθρώπινη επίβλεψη. Η αυξανόμενη αυτονομία τους δημιουργεί νέους κινδύνους, επειδή τα συστήματα μπορούν πλέον να επηρεάζουν άμεσα άλλα συστήματα και τον πραγματικό κόσμο.
Και τα περιστατικά που καταγράφονται δεν περιορίζονται πλέον σε θεωρητικά σενάρια. Έχουν αναφερθεί περιπτώσεις μη εξουσιοδοτημένης πρόσβασης σε εξωτερικά συστήματα, σε κυβερνοεπιθέσεις, παράκαμψη περιορισμών και χρήση μοντέλων για κακόβουλες δραστηριότητες κλπ. Η δε Anthropic έχει καταγράψει προσπάθειες αξιοποίησης του συστήματός της Claude για κυβερνοεπιθέσεις, κατασκοπεία, ανάπτυξη λογισμικού για όπλα και drones, αλλά και για βιολογική έρευνα που συνδεόταν με στρατιωτική δραστηριότητα. Παράλληλα, έχει περιγράψει περιστατικά στα οποία AI agents ανέλαβαν, σε δοκιμαστικά περιβάλλοντα, πρωτοβουλίες που οι ερευνητές δεν είχαν προβλέψει.
Υπάρχει όμως και η άλλη πλευρά της συζήτησης. Δεν συμφωνούν όλοι ότι η μεγαλύτερη απειλή είναι ένα μελλοντικό σενάριο «υπερνοημοσύνης» που θα ξεφύγει από τον ανθρώπινο έλεγχο. Η συζήτηση για τους υπαρξιακούς-μελλοντικούς κινδύνους συνυπάρχει με πολύ πιο άμεσα προβλήματα που ήδη υπάρχουν κι ενδεχομένως αποπροσανατολίζει από αυτά : κακόβουλη χρήση της AI, κυβερνοασφάλεια, παραβίαση της ιδιωτικότητας, χρήση της Τεχνητής Νοημοσύνης σε οπλικά συστήματα, οικονομικές και κοινωνικές επιπτώσεις της αυτοματοποίησης ειδικά στο χώρο των θέσεων εργασίας, καθώς και μεγάλη επιβάρυνση του περιβάλλοντος από τα Data Centers με τις τεράστιες ανάγκες τους για ενέργεια και νερό για ψύξη τους, αλλά και τον μεγάλο θόρυβο που προκαλούν.
Όμως, δίπλα σ’ όλα αυτά βρίσκεται ένα πολιτικό και γεωπολιτικό δίλημμα :¨Πόσο μπορεί να επιβραδυνθεί η ανάπτυξη μιας τεχνολογίας όταν οι Ηνωμένες Πολιτείες και η Κίνα βρίσκονται σ’ έναν ευρύτερο ανταγωνισμό τεχνολογικής ισχύος ; Ποιος θα αποφασίσει ποια είναι τα όρια και ποιος θα ελέγχει εκείνους που κατασκευάζουν τα πιο ισχυρά συστήματα ; Η Ευρωπαϊκή Ένωση έχει ήδη κινηθεί προς τη θεσμική ρύθμιση της AI, αλλά με τις περιορισμένες δυνατότητές της, ενώ στις ΗΠΑ η συζήτηση περιστρέφεται περισσότερο γύρω από την καινοτομία, την ανταγωνιστικότητα και την εθνική ασφάλεια.
Ταυτόχρονα, ακόμη και οι ανταγωνίστριες εταιρείες αντιλαμβάνονται ότι η ασφάλεια δεν μπορεί εύκολα να αντιμετωπιστεί από καθεμία ξεχωριστά. Οι OpenAI, Anthropic και Google DeepMind έχουν συζητήσει συνεργασία σε ζητήματα ασφάλειας, ενώ ειδικά η Anthropic προτείνει ισχυρότερους μηχανισμούς ανεξάρτητης εποπτείας και διεθνούς συντονισμού. Όμως, το ζήτημα είναι κατά πόσο μπορεί να υπάρξει ειλικρινής συνεργασία μεταξύ εταιρειών που βρίσκονται σε έναν τόσο σκληρό τεχνολογικό και οικονομικό ανταγωνισμό.
Τελικά, το μεγάλο ερώτημα είναι αν η ανθρωπότητα μπορεί να προλάβει την ίδια της την τεχνολογική επιτάχυνση: να διατηρήσει τα οφέλη της Τεχνητής Νοημοσύνης, χωρίς να αφήσει την τεχνολογία να εξελιχθεί ταχύτερα από τους θεσμούς, τους κανόνες και τις δικλίδες ασφαλείας που απαιτούνται για τον έλεγχό της.
Στο 80ό podcast της σειράς «Διεθνής Ματιά», που δημιουργεί ο Πολυδεύκης Παπαδόπουλος για το ΕRTNews Radio και το ERTecho, συζητώνται όλα αυτά τα ζητήματα με καλεσμένους : -τον Κωνσταντίνο Καρπούζη, Αναπληρωτή Καθηγητή θεμάτων Τεχνητής Νοημοσύνης, Πολιτισμικής Πληροφορικής/Τεχνολογίας στο Τμήμα Επικοινωνίας, Μέσων & Πολιτισμού του Παντείου και Μέλος της Εθνικής Επιτροπής Βιοηθικής και Τεχνοηθικής, -τον Μανώλη Ανδριωτάκη, Δημοσιογράφο και Συγγραφέα θεμάτων τεχνολογίας και τον πρώτο στην Ελλάδα που έκανε γνωστά στο ευρύτερο κοινό τα διακυβεύματα της Τεχνητής Νοημοσύνης.
Στη «Διεθνή Ματιά» κάθε βδομάδα δύο φορές (με πρώτη ανάρτηση στο ERTecho τα Σάββατα και τις Κυριακές στην ενότητα Podcasts), ανοίγει ένα παράθυρο ώστε να κοιτάμε από την Ελλάδα τον Κόσμο, αλλά για να επιστρέφουμε ξανά στη χώρα μας και τα δικά της ζητήματα μέσα από αυτό το γύρο και μια ευρύτερη σκοπιά. Σε κάθε pod εξετάζεται ένα σημαντικό γεγονός, ένα φαινόμενο παγκόσμιας σημασίας, μια μεγάλη τάση από το χώρο της πολιτικής, των διεθνών σχέσεων, της οικονομίας, της οικολογίας, της επιστήμης και τεχνολογίας ή και του πολιτισμού, που επηρεάζει καθοριστικά και καθολικά τη ζωή, αλλά και την κατάσταση στη χώρα μας. Και κάθε φορά το κάνουμε με τη συμμετοχή ιδιαίτερα επιλεγμένων καλεσμένων, που είναι ειδικοί σε καθέναν από αυτούς τους τομείς.
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
