Η χρήση της Τεχνητής Νοημοσύνης στην υγειονομική περίθαλψη ενέχει τον κίνδυνο αναπαραγωγής υφιστάμενων φυλετικών και έμφυλων στερεοτύπων στο ιατρικό περιεχόμενο που παράγει, όπως διαπιστώνει νέα μελέτη. Σε αυτό το συμπέρασμα κατέληξαν ερευνητές από το Πανεπιστήμιο Flinders στην Αυστραλία, πο οποίοι αξιολόγησαν δύο νέας γενιάς Μεγάλα Γλωσσικά Μοντέλα (LLMs) με δυνατότητες συλλογισμού, τα o3-mini και DeepSeek-R1. Τα αποτελέσματα της έρευνας καταδεικνύουν ότι η βελτίωση των δυνατοτήτων συλλογισμού της τεχνητής νοημοσύνης δεν αρκεί από μόνη της για να περιορίσει τις προκαταλήψεις και να εξασφαλίσει ισότιμη εκπροσώπηση διαφορετικών πληθυσμιακών ομάδων.
«Τα μεγάλα γλωσσικά μοντέλα έχουν τη δυνατότητα να μεταμορφώσουν την υγειονομική περίθαλψη, αλλά υπάρχει ο κίνδυνος να εντείνουν τις ανισότητες στην υγεία εάν διαιωνίζουν προκαταλήψεις», δήλωσε ο επικεφαλής ερευνητής Τζόσουα Ντόκινγκ από το College of Medicine and Public Health του Πανεπιστημίου Flinders.
Προηγούμενες έρευνες είχαν καταδείξει πιθανές φυλετικές και έμφυλες προκαταλήψεις σε κλινικά σενάρια που δημιουργήθηκαν από το GPT-4, μεταξύ άλλων την υπερεκπροσώπηση μαύρων ασθενών σε παθήσεις που στερεοτυπικά συνδέονται με τη συγκεκριμένη πληθυσμιακή ομάδα. Έκτοτε, έχουν εμφανιστεί νέας γενιάς LLMs με δυνατότητες συλλογισμού, τα οποία προσφέρουν βελτιωμένες ικανότητες λογικής επεξεργασίας και καλύτερες επιδόσεις σε τυποποιημένες δοκιμασίες αξιολόγησης.
«Το κατά πόσο αυτές οι εξελίξεις μειώνουν τις προκαταλήψεις ως προς την εκπροσώπηση στον τομέα της υγειονομικής περίθαλψης παραμένει άγνωστο. Για τον λόγο αυτό, η μελέτη αξιολόγησε κατά πόσο τα LLMs με δυνατότητες συλλογισμού παρουσιάζουν φυλετικές και έμφυλες προκαταλήψεις στο κλινικό περιεχόμενο που παράγουν», πρόσθεσε ο Ντόκινγκ.
Τα ευρήματα
Για τις ανάγκες της έρευνας, τα μοντέλα δημιούργησαν 36.000 μοναδικά κλινικά σενάρια. Οι ερευνητές διαπίστωσαν ότι τα o3-mini και DeepSeek-R1 συχνά παρουσίαζαν ανακριβώς την κατανομή των φυλετικών και έμφυλων χαρακτηριστικών σε διάφορες ιατρικές παθήσεις, αναπαράγοντας προβλήματα που είχαν εντοπιστεί προηγουμένως στο GPT-4.
Το GPT-4 ξεπερνούσε το όριο που οι ερευνητές είχαν θέσει για σημαντική ανακρίβεια στην εκπροσώπηση στο 67% των παθήσεων ως προς τη φυλή και στο 67% ως προς το φύλο.
«Τα αποτελέσματά μας δείχνουν αντίστοιχα ή ακόμη υψηλότερα ποσοστά για το o3-mini (78% ως προς τη φυλή, 56% ως προς το φύλο) και το DeepSeek-R1 (89% ως προς τη φυλή, 67% ως προς το φύλο), γεγονός που δείχνει ότι τα νεότερα μοντέλα συλλογισμού δεν παρουσιάζουν βελτίωση ως προς την εκπροσώπηση», δήλωσε ο καθηγητής Μάικλ Σόριτς, καθηγητής Κλινικής Φαρμακολογίας στο Πανεπιστήμιο Flinders και επικεφαλής συγγραφέας της μελέτης.
Τόσο το o3-mini όσο και το DeepSeek-R1, όπως και το GPT-4, υπερεκπροσωπούσαν τους μαύρους πληθυσμούς σε παθήσεις που στερεοτυπικά συνδέονται μαζί τους, όπως η σαρκοείδωση, ο συστηματικός ερυθηματώδης λύκος, η προεκλαμψία και η ιδιοπαθής υπέρταση.
«Αυτό το επίμονο μοτίβο μπορεί να αντανακλά υποκείμενη προκατάληψη, αν και τα νέα μοντέλα ενδέχεται επίσης να προεπιλέγουν τη δημιουργία τυπικών ή “πρωτότυπων” περιστατικών αντί αντιπροσωπευτικών δειγμάτων, λόγω των μοτίβων που περιέχονται στα δεδομένα εκπαίδευσής τους», σημειώνουν οι ερευνητές.
Η ποιοτική ανάλυση των βημάτων συλλογισμού του DeepSeek-R1 ενισχύει αυτή την υπόθεση. Διαπιστώθηκε ότι το μοντέλο αναφερόταν ρητά σε συσχετίσεις μεταξύ ασθενειών και δημογραφικών χαρακτηριστικών όταν επέλεγε τα χαρακτηριστικά των ασθενών, χωρίς να επικαλείται ποσοτικά επιδημιολογικά δεδομένα.
«Η συστηματική υπερεκπροσώπηση συγκεκριμένων δημογραφικών ομάδων, ιδιαίτερα σε παθήσεις που στην πραγματικότητα προσβάλλουν διαφορετικούς πληθυσμούς, κινδυνεύει να ενισχύσει περιορισμένες δημογραφικές αντιλήψεις σε κλινικά περιβάλλοντα, όπου η κατανόηση της συχνότητας μιας νόσου στους διαφορετικούς πληθυσμούς αποτελεί σημαντικό μέρος της διαγνωστικής διαδικασίας», τονίζει η ερευνητική ομάδα.
Παράλληλα, η συστηματική υπερεκπροσώπηση του φύλου που θεωρείται συχνότερα συνδεδεμένο με μια συγκεκριμένη πάθηση ενισχύει τις ενδείξεις ότι τα LLMs μπορούν να αναπαράγουν έμφυλα στερεότυπα στον τομέα της υγείας.
«Η επίγνωση αυτών των δημογραφικών προεπιλογών είναι απαραίτητη για την ασφαλή ενσωμάτωση των LLMs στις κλινικές διαδικασίες, ενώ η συνεχής παρακολούθηση πιθανών προκαταλήψεων θα πρέπει να συνοδεύει την υιοθέτησή τους», καταλήγουν οι ερευνητές.
Πηγή: Eurekalert
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
