Κάθε εβδομάδα, πάνω από ένα δισεκατομμύριο άνθρωποι χρησιμοποιούν chatbots για αναζήτηση πληροφοριών, παροχή συμβουλών, αλλά και για ποικίλες άλλες χρήσεις. Μόνο το ChatGPT αριθμεί 900 εκατομμύρια εβδομαδιαίους χρήστες και οι αριθμοί αυτοί αναμένεται να αυξηθούν. Στο κοντινό μέλλον, λίγες μόνο πλατφόρμες τεχνητής νοημοσύνης θα μπορούσαν να επηρεάζουν τον τρόπο με τον οποίο δισεκατομμύρια άνθρωποι αντιλαμβάνονται τον κόσμο. Ήδη υπάρχουν ενδείξεις ότι τα μεγάλα γλωσσικά μοντέλα (LLMs) μπορούν να πείσουν ορισμένους χρήστες να αλλάξουν τις απόψεις τους.
Αυτό έχει προκαλέσει φόβους ότι τα chatbots θα μπορούσαν να μετατραπούν σε εργαλεία κρατικής προπαγάνδας. Οι ανησυχίες επικεντρώνονται κυρίως στο ενδεχόμενο μεγάλες εταιρείες AI να σχεδιάζουν συνειδητά τα μοντέλα τους ώστε να προωθούν φιλοκυβερνητικές θέσεις και να αποσιωπούν αντίθετες φωνές. Οι ανησυχίες αυτές δεν είναι αβάσιμες: η κινεζική εταιρεία AI DeepSeek προγραμμάτισε το μοντέλο της ώστε να αποφεύγει συζητήσεις για τη σφαγή της πλατείας Τιενανμέν και άλλα θέματα που ενοχλούν το Κομμουνιστικό Κόμμα της Κίνας.
Παρόλα αυτά, καμία αυταρχική κυβέρνηση δεν μπορεί σήμερα να παρέμβει άμεσα στον προγραμματισμό των κορυφαίων συστημάτων AI- όπως τα ChatGPT, Claude και Gemini– τα οποία αναπτύσσονται από αμερικανικές εταιρείες. Αυτό όμως δεν σημαίνει απαραίτητα ότι οι αυταρχικές κυβερνήσεις δεν επηρεάζουν ήδη τη συμπεριφορά αυτών των μοντέλων ή ότι δεν θα επωφεληθούν από τον τρόπο με τον οποίο διαμορφώνουν τη δημόσια γνώμη. Σύμφωνα μάλιστα με μελέτη που δημοσιεύθηκε πρόσφατα στο επιστημονικό περιοδικό «Nature», τα αυταρχικά καθεστώτα ίσως ήδη επηρεάζουν τις απαντήσεις μεγάλων chatbots προς όφελός τους- χωρίς καν να το προσπαθούν. Η μελέτη προσθέτει ένα ακόμη κομμάτι στο παζλ για το πώς η τεχνητή νοημοσύνη μετασχηματίζει τον παγκόσμιο πολιτικό διάλογο- και ποιοι τελικά ωφελούνται.
Πώς τα κρατικά μέσα ενημέρωσης μπορούν να «διαφθείρουν» τα chatbots
Τα μοντέλα AI εκπαιδεύονται να εντοπίζουν μοτίβα μέσα σε τεράστιους όγκους κειμένων. Αυτό το γνωστό χαρακτηριστικό έχει μια λιγότερο προφανή συνέπεια: τα LLMs δεν δίνουν απαραίτητα τις ίδιες απαντήσεις σε κάθε γλώσσα. Ορισμένες εκφράσεις ή επιχειρήματα εμφανίζονται πολύ συχνότερα, για παράδειγμα, στα ιαπωνικά δεδομένα εκπαίδευσης απ’ ό,τι στα αγγλικά.
Αυτό δεν αποτελεί από μόνο του πρόβλημα. Σε γλώσσες όμως που ομιλούνται κυρίως σε αυταρχικά κράτη, τα διαθέσιμα δεδομένα εκπαίδευσης συχνά κυριαρχούνται από κρατικά ή φιλοκυβερνητικά μέσα ενημέρωσης. Τα φιλοκυβερνητικά μέσα παράγουν τεράστιες ποσότητες περιεχομένου και είναι εύκολα προσβάσιμα, χωρίς συνδρομές ή περιορισμούς πρόσβασης. Υπό αυτές τις συνθήκες, τα μοντέλα τεχνητής νοημοσύνης ενδέχεται να εκπαιδεύονται σε δυσανάλογο βαθμό πάνω σε περιεχόμενο που αναπαράγει κρατική προπαγάνδα. Έτσι, ένα chatbot μπορεί άθελά του να αναπαράγει φιλοκυβερνητικά αφηγήματα, παρουσιάζοντάς τα ως ουδέτερη ή αντικειμενική πληροφόρηση.
Η περίπτωση της Κίνας
Για να εξετάσουν αυτή την υπόθεση, ερευνητές χρησιμοποίησαν την Κίνα ως βασικό παράδειγμα. Αρχικά, εξέτασαν αν περιεχόμενο που ευθυγραμμιζόταν με το Κομμουνιστικό Κόμμα της Κίνας, εμφανιζόταν συχνά στο CulturaX– ένα μεγάλο ανοιχτό σύνολο δεδομένων εκπαίδευσης LLMs. Διαπίστωσαν ότι το 1,64% των κινεζόφωνων εγγράφων περιείχε υλικό από κρατικά μέσα ή από την εφαρμογή Xuexi Qiangguo, η οποία προωθεί τη «Σκέψη του Σι Τζινπίνγκ». Το ποσοστό ίσως ακούγεται μικρό, αλλά στην πραγματικότητα είναι ιδιαίτερα υψηλό: το κρατικό προπαγανδιστικό περιεχόμενο εμφανιζόταν 41 φορές συχνότερα από τα κινεζόφωνα άρθρα της Wikipedia- μία από τις βασικές πηγές εκπαίδευσης των μοντέλων αυτών.
Στη συνέχεια, εξέτασαν αν η έκθεση σε περιεχόμενο που προέρχεται από κρατικά μέσα ενημέρωσης θα μπορούσε πράγματι να αλλάξει τη συμπεριφορά ενός LLM. Για να το επιτύχουν αυτό, χρησιμοποίησαν ένα μοντέλο με ένα δημόσια γνωστό σύνολο δεδομένων εκπαίδευσης- το Llama 213b– και πρόσθεσαν τρεις διαφορετικές πηγές στο υλικό εκπαίδευσης: περιεχόμενο από κρατικά μέσα ενημέρωσης που ευθυγραμμίζονται με το Κομμουνιστικό Κόμμα της Κίνας, περιεχόμενο που δεν αντανακλά τις θέσεις του ΚΚ από τα ίδια μέσα, και μια τυχαία συλλογή εγγράφων στην κινεζική γλώσσα από το CulturaX.
Το αποτέλεσμα ήταν σαφές: όσο περισσότερο το μοντέλο εκπαιδευόταν με κρατική προπαγάνδα, τόσο πιο θετικά απαντούσε για το κινεζικό καθεστώς. Για να δείξουν πώς άλλαξαν οι απαντήσεις του μοντέλου καθώς μετατοπίστηκαν τα δεδομένα εκπαίδευσής του, οι ερευνητές παρέχουν τον παρακάτω πίνακα που δείχνει πώς διαφορετικές εκδόσεις του chatbot απάντησαν στην ερώτηση: «Είναι η Κίνα αυταρχικό καθεστώς;»
Οι διαφορές στις απαντήσεις των chatbots
Ωστόσο, το πείραμα αυτό δεν δείχνει πώς συμπεριφέρονται τα δημοφιλή LLM στον πραγματικό κόσμο. Απλώς διαπιστώνει ότι η ενσωμάτωση κρατικών μέσων ενημέρωσης στα δεδομένα εκπαίδευσης μιας τεχνητής νοημοσύνης μπορεί να αλλάξει ουσιαστικά τις απαντήσεις της.
Για να δουν αν η κινεζική προπαγάνδα διαμορφώνει στην πραγματικότητα εμπορικά μοντέλα τεχνητής νοημοσύνης, οι ερευνητές έθεσαν στο Claude και το ChatGPT πανομοιότυπες πολιτικές ερωτήσεις τόσο στα αγγλικά όσο και στα κινέζικα. Στο 75% των περιπτώσεων, οι προτροπές στην κινεζική γλώσσα δημιούργησαν απαντήσεις που ήταν πιο ευνοϊκές για την κινεζική κυβέρνηση. Το ίδιο φαινόμενο παρατηρήθηκε και σε άλλες αυταρχικές χώρες, όπως το Βιετνάμ, το Τουρκμενιστάν και το Ουζμπεκιστάν. Τα chatbots έδιναν πιο φιλοκυβερνητικές απαντήσεις όταν οι ερωτήσεις γίνονταν στην κυρίαρχη τοπική γλώσσα.
Αντίθετα, σε χώρες με μεγαλύτερη ελευθερία του Τύπου, τα μοντέλα ήταν συχνά πιο επικριτικά προς τις κυβερνήσεις όταν απαντούσαν στην τοπική γλώσσα σε σχέση με τα αγγλικά.
Τα chatbots μπορεί να είναι πιο αποτελεσματικά από την παραδοσιακή προπαγάνδα
Τα ευρήματα της μελέτης προκαλούν ανησυχία. Οι πολίτες αυταρχικών κρατών εκτίθενται ήδη σε μεγάλες ποσότητες προπαγάνδας. Όμως, μια κρατική εφημερίδα δεν μπορεί να συνομιλεί επί ώρες με τους χρήστες ούτε να απαντά αναλυτικά σε κάθε αμφιβολία τους- κάτι που μπορεί να κάνει ένα chatbot.
Επιπλέον, όταν διαβάζετε πληροφορίες από ένα κρατικό μέσο γνωρίζετε την προέλευσή τους. Όταν όμως τις λαμβάνετε από ένα chatbot, η πηγή συχνά παραμένει ασαφής και οι χρήστες ίσως τις αποδέχονται πιο εύκολα χωρίς κριτική σκέψη. Αν λοιπόν τα μεγάλα LLMs επηρεάζονται όντως από αυταρχική προπαγάνδα, θα μπορούσαν να λειτουργήσουν ως εξαιρετικά αποτελεσματικοί υπερασπιστές αυταρχικών καθεστώτων.
Η AI θα μπορούσε παρ’ όλα αυτά να ενισχύσει την ελευθερία σκέψης
Πάντως, η μελέτη δεν αποδεικνύει ότι τα LLMs ενισχύουν άμεσα τις αυταρχικές κυβερνήσεις. Για παράδειγμα, δείχνει ότι ένας βιετναμέζος χρήστης του ChatGPT πιθανόν να λάβει πιο φιλοκυβερνητικές απαντήσεις από έναν αγγλόφωνο χρήστη- όχι όμως ότι οι πολίτες γίνονται πιο υποστηρικτικοί προς το καθεστώς εξαιτίας της AI.
Μάλιστα, υπάρχει και το αντίθετο επιχείρημα: ακόμη και αν τα chatbots δίνουν σχετικά πιο φιλοκυβερνητικές απαντήσεις, μπορεί να παραμένουν λιγότερο προκατειλημμένα από άλλες διαθέσιμες πηγές ενημέρωσης σε αυταρχικά κράτη. Το ίδιο το Πεκίνο φαίνεται να θεωρεί τα δυτικά μοντέλα AI δυνητικά ανατρεπτικά- το ChatGPT παραμένει απαγορευμένο στην Κίνα.
Σε πρόσφατο πείραμα, η δημοσιογράφος Κέλσι Πάιπερ υπέβαλε ερωτήσεις σε πολλές γλώσσες σε διάφορα LLMs βασισμένες στην έρευνα World Values Survey. Διαπίστωσε ότι ακόμη και στα κινεζικά, το ChatGPT εξέφραζε συχνά αντι-αυταρχικές και προοδευτικές θέσεις, ενώ παρείχε ακόμη και συμβουλές για διαμαρτυρίες κατά της κυβέρνησης.
Οι εταιρείες AI καλούνται να περιορίσουν τις προκαταλήψεις
Αυτό δεν σημαίνει ότι οι εταιρείες AI μπορούν να αγνοήσουν το πρόβλημα. Είναι ανησυχητικό το ότι οι χρήστες σε αυταρχικά καθεστώτα φαίνεται να λαμβάνουν περισσότερες φιλοκυβερνητικές πληροφορίες σε σχέση με χρήστες δημοκρατικών χωρών.
Η μελέτη δεν προτείνει συγκεκριμένες λύσεις, ωστόσο αναφέρει δύο πιθανές παρεμβάσεις:
- Κατά τη φάση αρχικής εκπαίδευσης, οι εταιρείες ΑΙ θα μπορούσαν να αποκλείουν τα προπαγανδιστικά κρατικά μέσα από τα σύνολα δεδομένων τους.
- Κατά τη μεταγενέστερη «ρύθμιση» των μοντέλων τους, θα μπορούσαν να αποτρέπουν τα chatbots από το να αναπαράγουν αυταρχικά αφηγήματα, όπως ήδη κάνουν με περιεχόμενο σχετικό με επικίνδυνες δίαιτες ή βιολογικά όπλα.
Τα chatbots έχουν τη δυνατότητα να ενισχύσουν έναν πιο ανοιχτό και ενημερωμένο δημόσιο διάλογο. Ωστόσο, η τεράστια και συνεχώς αυξανόμενη επιρροή των μεγάλων συστημάτων AI ενέχει και σοβαρούς κινδύνους. Όσο πιο ισχυρή γίνεται μια πλατφόρμα, τόσο πιο επικίνδυνα γίνονται και τα λάθη της. Επομένως, εταιρείες ΑΙ όπως η Anthropic, η OpenAI και η Google, θα πρέπει να εντείνουν τις προσπάθειές τους για τον περιορισμό κάθε πηγής συστημικής μεροληψίας στα μοντέλα τους. Ένα αρχικό βήμα προς αυτή την κατεύθυνση θα ήταν να διασφαλίσουν ότι τα chatbots τους δεν αποδίδουν αδικαιολόγητη αξιοπιστία στην αυταρχική προπαγάνδα.
Πηγή: Vox
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
