Τασμανία: Ανύπαρκτη νομολογία από AI σε απόφαση αποφυλάκισης

Το υπουργείο Δικαιοσύνης της Τασμανίας, της νησιωτικής πολιτείας της Αυστραλίας που βρίσκεται νότια της ηπειρωτικής χώρας, ξεκίνησε έρευνα για τη χρήση Τεχνητής Νοημοσύνης στις αποφάσεις του Συμβουλίου Υφ’ Όρον Απόλυσης, μετά την αποκάλυψη ότι σε υπόθεση καταδικασμένης για φόνο χρησιμοποιήθηκε έγγραφο που περιείχε ανύπαρκτη νομολογία, πιθανό προϊόν AI hallucinations.

Η υπόθεση αφορά τη Σούζαν Νιλ-Φρέιζερ, η οποία αποφυλακίστηκε υπό όρους το 2022, αφού είχε εκτίσει 13 χρόνια φυλάκισης για τη δολοφονία του συντρόφου της, Μπομπ Τσάπελ, το 2009. Το Συμβούλιο Υφ’ Όρον Απόλυσης της Τασμανίας είχε επιβάλει αργότερα όρο που της απαγόρευε να μιλά στα μέσα ενημέρωσης για τους ισχυρισμούς της περί αθωότητας και δικαστικής πλάνης.

Το Ανώτατο Δικαστήριο της Τασμανίας έκρινε τον συγκεκριμένο όρο άκυρο. Ο δικαστής Στίβεν Έστκορτ διαπίστωσε ότι είχε επιβληθεί χωρίς την απαιτούμενη διαδικαστική δικαιοσύνη και ότι το Συμβούλιο είχε βασιστεί σε έγγραφο το οποίο παρέπεμπε σε δικαστικές αποφάσεις που δεν υπήρχαν. Οι παραπομπές χαρακτηρίστηκαν «πλασματικές» και πιθανό αποτέλεσμα παραισθήσεων συστήματος Τεχνητής Νοημοσύνης.

Από το λάθος της AI στην ευθύνη του ανθρώπου

Η υπόθεση έχει ιδιαίτερη βαρύτητα επειδή το λάθος δεν περιορίστηκε σε ένα προσχέδιο ή σε μια λανθασμένη απάντηση ενός chatbot. Μη επαληθευμένη πληροφορία που είχε παραχθεί με τη βοήθεια AI μπήκε στη διαδικασία λήψης επίσημης απόφασης που περιόριζε θεμελιώδεις ελευθερίες ενός ανθρώπου.

Το υπουργείο Δικαιοσύνης ανακοίνωσε ότι θα εξετάσει κατά πόσο η Τεχνητή Νοημοσύνη χρησιμοποιήθηκε και σε παλαιότερες αποφάσεις του Συμβουλίου. Παράλληλα, ο γενικός εισαγγελέας της Τασμανίας Γκάι Μπάρνετ ανακοίνωσε ανεξάρτητη έρευνα για τα επαγγελματικά πρότυπα του οργάνου, ενώ η Υπηρεσία Νομικής Υποστήριξης Κρατουμένων της Τασμανίας ελέγχει αποφάσεις της τελευταίας διετίας για να διαπιστώσει εάν υπάρχουν και άλλα αντίστοιχα περιστατικά.