Αυστραλός ζήτησε μέσω τεχνητής νοημοσύνης να κλείσει μια προπόνηση – Ο «πράκτορας» ΑΙ χάκαρε το γυμναστήριο

Τα αυστραλιανά μέσα ενημέρωσης ανέφεραν μια ακόμη περίπτωση στην οποία η τεχνητή νοημοσύνη (AI) εκτέλεσε την αποστολή της με τρόπο διαφορετικό από τον προβλεπόμενο. Αντί να κάνει απλώς μια κράτηση σε γυμναστήριο, εισέβαλε στον διακομιστή της επιχείρησης, τροποποίησε το σύστημα κρατήσεων και εμπόδισε την πρόσβαση σε άλλους υποψήφιους πελάτες.

Σύμφωνα με δημοσιεύματα, ένας άνδρας έδωσε εντολή στον προσωπικό του βοηθό τεχνητής νοημοσύνης να του κλείσει θέση σε ένα πρωινό μάθημα γυμναστικής στο αγαπημένο του γυμναστήριο. Ανέθεσε δηλαδή το έργο σε έναν λεγόμενο «πράκτορα» (“agent”) – ένα μοντέλο τεχνητής νοημοσύνης που εκτελεί εργασίες ανεξάρτητα, αναζητώντας παράλληλα τη βέλτιστη λύση για την επίτευξη ενός συγκεκριμένου στόχου.

Σε αυτή την περίπτωση, θα έπρεπε να ήταν εύκολο – η φόρμα κράτησης βρισκόταν στον ιστότοπο του γυμναστηρίου, οπότε η τεχνητή νοημοσύνη θα έπρεπε απλώς να την συμπληρώσει και να την υποβάλει. Ωστόσο, συνέβη κάτι που, θεωρητικά, δεν θα έπρεπε να είναι δυνατό, όπως ανέφερε το ABC Australia.

Η παρανομία ως λύση

Αποδείχθηκε ότι το πρωινό μάθημα ήταν τόσο δημοφιλές, που ο άνδρας θα έπρεπε να περιμένει πάρα πολύ καιρό για να κάνει κράτηση. Ο πράκτορας τεχνητής νοημοσύνης αποφάσισε λοιπόν να ακολουθήσει μια διαφορετική λύση, χωρίς να συμβουλευτεί κάποιον άνθρωπο για την αλλαγή. Ανέλυσε τον ιστότοπο του γυμναστηρίου, εντόπισε διάφορα κενά ασφαλείας και εισέβαλε σε αυτόν. Έτσι κατάφερε να κάνει κράτηση για ένα μάθημα πολύ νωρίτερα από ό,τι θα ήταν κανονικά δυνατό – και προχώρησε στην ολοκλήρωση της αποστολής του.

Στην πραγματικότητα, υπήρχαν και άλλοι άνθρωποι μπροστά από τον «αφεντικό» του στην ουρά. Έτσι, το ρομπότ απλώς τους αφαίρεσε από τη λίστα αναμονής. Ο άνδρας, τον οποίο οι δημοσιογράφοι αποκαλούν Άντριου, είναι ο ίδιος προγραμματιστής τεχνητής νοημοσύνης και χρησιμοποίησε το δημοφιλές λογισμικό OpenClaw ως πράκτορα, αξιοποιώντας την υπηρεσία Claude της Anthropic για τη λειτουργία του.

Οι πράκτορες τεχνητής νοημοσύνης συνδυάζουν την ικανότητα ενός chatbot να απαντά σε ερωτήσεις με εργαλεία που τους επιτρέπουν να έχουν πρόσβαση στο διαδίκτυο, στο ηλεκτρονικό ταχυδρομείο και στις πιστωτικές κάρτες, καθώς και να σχεδιάζουν και να εκτελούν εργασίες πολλαπλών σταδίων. Ο Άντριου ενημερώθηκε για την επιτυχία αυτή από τον πράκτορά του, κάτι που τον ανησύχησε, καθώς το θεώρησε τόσο προειδοποίηση όσο και, ταυτόχρονα, παράνομο.

Έτσι, ζήτησε από τον ατζέντη του να αναιρέσει αυτή την ενέργεια. «Άσχημα νέα – δεν μπορώ να το κάνω», απάντησε ο πράκτορας που λειτουργεί με τεχνητή νοημοσύνη.

Νέοι κίνδυνοι

Αυτή η τυχαία κυβερνοεπίθεση αποτελεί την πρώτη γνωστή περίπτωση ενός αναδυόμενου κινδύνου που συνδέεται με τη νέα γενιά συστημάτων τεχνητής νοημοσύνης, τα οποία είναι πλέον τόσο ικανά και αυτόνομα, ώστε η συμπεριφορά τους είναι δύσκολο να προβλεφθεί.

Τις τελευταίες εβδομάδες, ειδικοί έχουν αναφερθεί σε αρκετές παρόμοιες περιπτώσεις, στις οποίες μοντέλα τεχνητής νοημοσύνης τελευταίας τεχνολογίας που αναπτύχθηκαν από τις εταιρείες OpenAI, Anthropic και Meta διείσδυσαν αυτόνομα στους διακομιστές άλλων εταιρειών, όπου προσπάθησαν να επηρεάσουν το περιβάλλον. Οι προγραμματιστές της κινεζικής τεχνητής νοημοσύνης Kimi έχουν επίσης παρατηρήσει παρόμοια συμπεριφορά.

Σύμφωνα με τους ειδικούς, αυτή η σειρά περιστατικών είναι τόσο ανησυχητική, ώστε οι κορυφαίοι προγραμματιστές κυριολεκτικά ικετεύουν τις κυβερνήσεις να τους απαγορεύσουν να συνεχίσουν με τον τρέχοντα ρυθμό ανάπτυξης. Οι ίδιες οι εταιρείες δεν θα το κάνουν ποτέ αυτό, από φόβο μήπως τους ξεπεράσουν οι ανταγωνιστές τους· γι’ αυτό θα ήθελαν να επιβληθεί κάποιο είδος επίσημου μορατόριουμ από τις κυβερνήσεις. Ωστόσο, ούτε οι κυβερνήσεις δείχνουν ακόμα ιδιαίτερο ενδιαφέρον για αυτό, καθώς φοβούνται το ίδιο φαινόμενο που περιγράφηκε παραπάνω, αλλά σε εθνικό επίπεδο. Με άλλα λόγια, αν οι ΗΠΑ επιβραδύνουν τη δική τους ανάπτυξη της τεχνητής νοημοσύνης, η Κίνα – η οποία αυτή τη στιγμή βρίσκεται μερικούς μήνες πίσω από τις ΗΠΑ – θα επωφεληθεί από αυτό.

Ευθυγράμμιση στόχων

Οι ειδικοί υποστηρίζουν ότι το εύρος των εργασιών που μπορεί συνήθως να εκτελέσει η τεχνητή νοημοσύνη από μόνη της διπλασιάζεται κάθε επτά μήνες. Γι’ αυτό, κατά την άποψή τους, είναι απαραίτητο οι στόχοι της τεχνητής νοημοσύνης να έχουν καθοριστεί σωστά. Αυτό είναι γνωστό με τον τεχνικό όρο «ευθυγράμμιση» (alignment), μια λέξη που παλαιότερα χρησιμοποιούνταν σε επιτραπέζια παιχνίδια και ηλεκτρονικά παιχνίδια για να περιγράψει τα κίνητρα των χαρακτήρων.

Σήμερα, ο όρος αυτός νοείται περισσότερο ως η ευθυγράμμιση των συστημάτων τεχνητής νοημοσύνης με τους επιδιωκόμενους στόχους, τις προτιμήσεις ή τις ηθικές αρχές που αντιστοιχούν σε εκείνες των ανθρώπων. Πρόκειται, επομένως, για μια προσπάθεια να διασφαλιστεί ότι τα συστήματα τεχνητής νοημοσύνης κάνουν ό,τι θέλουν οι άνθρωποι, χωρίς να βλάπτουν τους άλλους, χωρίς να παραβιάζουν τους πολύπλοκους κανόνες των ανθρώπινων κοινωνιών και διασφαλίζοντας ότι οι προθέσεις των συστημάτων τεχνητής νοημοσύνης είναι οι ίδιες με εκείνες των ανθρώπων.

Ένα συνηθισμένο παράδειγμα που αναφέρεται είναι αυτό ενός ερευνητή που αναθέτει σε μια τεχνητή νοημοσύνη (AI) το καθήκον να σώσει τη Γη από την υπερθέρμανση του πλανήτη. Η τεχνητή νοημοσύνη θα κατέληγε στο συμπέρασμα ότι η κύρια αιτία είναι οι εκπομπές που προκαλούνται από τον άνθρωπο, οπότε θα επέλεγε την απλούστερη λύση – όπως την εξόντωση της ανθρωπότητας μέσω ενός αποτελεσματικού, τεχνητά δημιουργημένου ιού.

Υπάρχουν παρόμοιες ανησυχίες ότι η τεχνητή νοημοσύνη ενδέχεται να δώσει προτεραιότητα στα δικά της συμφέροντα έναντι εκείνων των ανθρώπων – για παράδειγμα, ότι μπορεί να αποφασίσει ότι ο ευκολότερος τρόπος για να επιτύχει τους στόχους που της έχουν ανατεθεί είναι μέσω της αυτοβελτιστοποίησης ή απορρίπτοντας τον ανθρώπινο έλεγχο, κάτι που θα έθετε για άλλη μια φορά τους ανθρώπους στο περιθώριο.

Ένα άρθρο γραμμένο από Tomáš Karlík (CT), που δημοσιεύθηκε αρχικά στις 11 Αυγούστου 2026, 11:04 (θερινή ώρα Κεντρικής Ευρώπης)