Η συζήτηση για την Τεχνητή Νοημοσύνη (ΤΝ) εισέρχεται σε μια νέα, κρίσιμη φάση, καθώς οι επικεφαλής ορισμένων από τις ισχυρότερες εταιρείες του κλάδου ζητούν πλέον να μπει «φρένο» στην ανάπτυξη των πιο προηγμένων συστημάτων. Στο επίκεντρο βρίσκονται οι κίνδυνοι που συνδέονται με την αυτοβελτιούμενη ΤΝ, οι απειλές για την κυβερνοασφάλεια και η ανάγκη για ανεξάρτητους ελέγχους. Η νέα αυτή στάση, ωστόσο, θέτει ένα ερώτημα: όταν οι ίδιοι οι επικεφαλής των ισχυρότερων εταιρειών ΤΝ μιλούν για επιβράδυνση, ποιος θα αποφασίζει πότε η τεχνολογία πρέπει να επιταχύνει και πότε να σταματά;
Ο Σαμ Άλτμαν της OpenAI, ο Ντάριο Αμοντέι της Anthropic, ο Ντέμης Χασάμπης της Google DeepMind και ο Ίλον Μασκ έχουν συμφωνήσει, τουλάχιστον σε γενικές γραμμές, στην ανάγκη να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο προηγμένων συστημάτων ΤΝ. Η πρόταση του Αμοντέι περιλαμβάνει ανεξάρτητους ελεγκτές, εθνική ρύθμιση των εργαστηρίων και προσπάθεια για μια διεθνή συμφωνία που θα περιορίζει τον ρυθμό ανάπτυξης.
Η ιδέα, ωστόσο, έχει ήδη προκαλέσει αντιδράσεις. Επικριτές υποστηρίζουν ότι οι μεγάλες εταιρείες μπορεί να χρησιμοποιούν την «ασφάλεια» ως επιχείρημα για να περιορίσουν τον ανταγωνισμό, να δυσκολέψουν τους μικρότερους παίκτες και να ανακόψουν το κίνημα του ανοιχτού κώδικα.
Η ανάγκη για «νέους πρωταγωνιστές»
Για τον Νικ Ρις, επίκουρο καθηγητή στο Πανεπιστήμιο της Νέας Υόρκης (NYU) και πρώην αξιωματούχο του αμερικανικού υπουργείου Εσωτερικής Ασφάλειας, το πρόβλημα είναι βαθύτερο. Ο ίδιος υποστηρίζει ότι ο κλάδος χρειάζεται νέους ανθρώπους να πρωταγωνιστήσουν στη συζήτηση για το μέλλον της ΤΝ.
Όπως επισημαίνει, οι κοινωνίες έχουν συνηθίσει να αντιμετωπίζουν τους Άλτμαν, Αμοντέι και Μασκ ως εκείνους που βρίσκονται πιο κοντά στην τεχνολογία και, επομένως, γνωρίζουν καλύτερα τους κινδύνους. Όμως, σύμφωνα με τον καθηγητή, ποτέ δεν υπήρξε ένα πραγματικά σαφές και ρεαλιστικό όραμα για το τι ακριβώς κατασκευάζεται και ποιος είναι ο τελικός στόχος.
Οι ανησυχίες έχουν ενταθεί τους τελευταίους μήνες, καθώς έχουν καταγραφεί περιστατικά στα οποία πράκτορες ΤΝ χρησιμοποιήθηκαν σε κυβερνοεπιθέσεις χωρίς την άμεση γνώση των ίδιων των εργαστηρίων που ανέπτυξαν τα μοντέλα. Παράλληλα, η παραίτηση του ερευνητή της Anthropic Τζέικομπ Κόξον έφερε στο προσκήνιο τους φόβους για την ταχύτητα με την οποία οι εταιρείες κατευθύνονται προς την ανάπτυξη όλο και ισχυρότερων συστημάτων.
«Δεν είμαστε έτοιμοι»
Οι εκκλήσεις για επιβράδυνση, πάντως, δεν ξεκίνησαν από τους CEO. Ερευνητές στον χώρο της ασφάλειας της ΤΝ προειδοποιούν εδώ και χρόνια ότι η ανάπτυξη προχωρά ταχύτερα από την ικανότητα των κοινωνιών και των θεσμών να κατανοήσουν και να ελέγξουν τις συνέπειές της.
Τον Ιούλιο, περισσότεροι από 1.000 εργαζόμενοι σε εργαστήρια ΤΝ υπέγραψαν δημόσια επιστολή υπέρ της επιβράδυνσης της ΤΝ. Το βασικό τους επιχείρημα είναι ότι η ανθρωπότητα δεν πρέπει να φτάσει στην ανάπτυξη υπεράνθρωπης νοημοσύνης προτού διαθέτει επαρκείς μηχανισμούς ασφάλειας. Ωστόσο, ακόμη και μεταξύ όσων συμφωνούν με την ανάγκη για μεγαλύτερη ασφάλεια, υπάρχει δυσπιστία απέναντι στις ίδιες τις εταιρείες που ζητούν να επιβραδύνουν την εν λόγω τεχνολογία.
Ο φόβος είναι ότι η αυτορρύθμιση μπορεί να μετατραπεί σε «safety-washing»– την υιοθέτηση αλλαγών χωρίς ουσιαστικό περιεχόμενο που δημιουργούν την ψευδαίσθηση ότι υπάρχουν πραγματικές δικλίδες ασφαλείας.
Ποιος θα ελέγχει τους ελεγκτές;
Το ζήτημα γίνεται ακόμη πιο σύνθετο όταν οι ίδιες οι εταιρείες καλούνται να σχεδιάσουν τους κανόνες που θα τις διέπουν. Ο Σάσα Χάγουορθ του Tech Oversight Project χαρακτηρίζει τα εθελοντικά πλαίσια πιθανή μορφή «ρυθμιστικής αιχμαλωσίας», υποστηρίζοντας ότι η ευθύνη δεν μπορεί να αφεθεί αποκλειστικά στον ίδιο τον κλάδο.
Μια εναλλακτική θα ήταν να θεσπιστούν μετρήσιμοι κανόνες, ώστε οι εταιρείες να είναι υποχρεωμένες να αποδεικνύουν ότι πράγματι περιορίζουν την ανάπτυξη. Το AI Futures Project έχει προτείνει, μεταξύ άλλων, οι ανεξάρτητοι ελεγκτές να έχουν πρόσβαση στους προϋπολογισμούς που διαθέτουν τα εργαστήρια για υπολογιστική ισχύ. Το ερώτημα, επομένως, δεν είναι μόνο αν πρέπει να υπάρξει επιβράδυνση. Είναι ποιος θα την επιβάλει και πώς θα διαπιστώνεται ότι εφαρμόζεται.
Κίνα, το μεγαλύτερο εμπόδιο στην επιβράδυνση της ΤΝ
Το μεγαλύτερο εμπόδιο για μια διεθνή συμφωνία έχει, ωστόσο, γεωπολιτικό χαρακτήρα: την Κίνα. Για χρόνια, η Ουάσινγκτον και οι μεγάλες αμερικανικές εταιρείες τεχνολογίας χρησιμοποιούν την κινεζική πρόοδο ως επιχείρημα για να μην επιβραδύνουν την ανάπτυξη της ΤΝ. Η λογική είναι απλή: ακόμη και αν η ΤΝ εγκυμονεί σοβαρούς κινδύνους, οι ΗΠΑ δεν θέλουν να βρεθούν πίσω από την Κίνα σε μια τεχνολογία στρατηγικής σημασίας.
Υπάρχουν, όμως, ερευνητές που υποστηρίζουν ότι ακριβώς επειδή οι κίνδυνοι είναι παγκόσμιοι, απαιτείται διεθνής συντονισμός. Η σύγκριση με τον έλεγχο των πυρηνικών όπλων χρησιμοποιείται ως παράδειγμα του πώς ακόμη και αντίπαλες χώρες μπορούν να συνεργαστούν όταν αντιλαμβάνονται ότι το διακύβευμα υπερβαίνει τα εθνικά τους συμφέροντα. Ωστόσο, τη Δευτέρα (14/9), ο εκπρόσωπος του κινεζικού υπουργείου Εξωτερικών Γκουό Τζιακούν απέρριψε τις εκκλήσεις για επιβράδυνση, χαρακτηρίζοντάς τες «κινδυνολογία».
Ο φόβος της αυτοβελτιούμενης ΤΝ
Στην καρδιά της συζήτησης βρίσκεται η λεγόμενη αναδρομική αυτοβελτίωση ή RSI (recursive self-improvement). Πρόκειται για το υποθετικό σημείο στο οποίο ένα σύστημα ΤΝ θα μπορούσε να βελτιώνει τον εαυτό του, να αναπτύσσει νέες εκδοχές του και να εξελίσσεται με περιορισμένη ανθρώπινη παρέμβαση.
Η Anthropic έχει υποστηρίξει ότι ένα τέτοιο ορόσημο θα μπορούσε να εμφανιστεί ακόμη και στις αρχές του 2027, ενώ η OpenAI έχει δηλώσει ότι κατευθύνει σημαντικούς πόρους προς την επίτευξή του. Για ορισμένους ερευνητές, η προοπτική αυτή δημιουργεί ένα νέο επίπεδο κινδύνου: ένα σύστημα που δεν είναι απλώς ισχυρότερο από τον άνθρωπο, αλλά μπορεί να συμμετέχει στην ίδια τη διαδικασία της τεχνολογικής του εξέλιξης.
«Μας αποσπούν την προσοχή από τους πραγματικούς κινδύνους»
Δεν συμφωνούν όλοι ότι το μεγαλύτερο πρόβλημα είναι ένα μελλοντικό σενάριο εξαφάνισης της ανθρωπότητας. Η ερευνήτρια Τίμνιτ Γκεμπρού, γνωστή για την κριτική της στις επιπτώσεις των μεγάλων μοντέλων ΤΝ, υποστηρίζει ότι η συζήτηση γύρω από το ενδεχόμενο μια προηγμένη ΤΝ να οδηγήσει στην καταστροφή του ανθρώπινου πολιτισμού μπορεί να αποσπά την προσοχή από ήδη υπαρκτές απειλές. Μεταξύ αυτών αναφέρει τα αυτόνομα όπλα, την κλιματική κρίση και τις επιπτώσεις της ΤΝ στην αγορά εργασίας. Η θέση της δεν είναι ότι η ΤΝ δεν μπορεί να προκαλέσει σοβαρές βλάβες. Αντίθετα, θέτει υπό αμφισβήτηση το κατά πόσο η εστίαση σε υποθετικά σενάρια καταστροφής συμβάλλει ουσιαστικά στην αντιμετώπιση των κινδύνων που ήδη υπάρχουν.
Η συζήτηση για την επιβράδυνση της ΤΝ δεν αφορά, τελικά, μόνο την ταχύτητα με την οποία εξελίσσεται η τεχνολογία, αλλά και το ποιοι θα θέσουν τα όρια. Οι φόβοι για την αυτοβελτιούμενη ΤΝ συνυπάρχουν με ήδη υπαρκτούς κινδύνους. Το ζητούμενο είναι πλέον αν οι μεγάλες εταιρείες θα μπορέσουν να αυτορυθμιστούν ή αν απαιτούνται ανεξάρτητοι έλεγχοι, δεσμευτικοί κανόνες και διεθνής συντονισμός. Γιατί όσο η κούρσα για την επόμενη γενιά ΤΝ συνεχίζεται, το κρίσιμο ερώτημα δεν είναι μόνο πόσο γρήγορα μπορούμε να προχωρήσουμε, αλλά αν γνωρίζουμε πού οδηγούμαστε.
Με πληροφορίες από: The Verge, WIRED
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
