Μια μονοετής επιτροπή συστάθηκε από τη Mind, ένας από τους κορυφαίους φιλανθρωπικούς οργανισμούς για την ψυχική υγεία στο Ηνωμένο Βασίλειο, με σκοπό να εξετάσει τη σχέση μεταξύ Τεχνητής Νοημοσύνης (AI) και ψυχικής υγείας, μετά από έρευνα του Guardian που αποκάλυψε πώς οι περιλήψεις ΑΙ της Google (AI Overviews) -οι οποίες εμφανίζονται σε 2 δισεκατομμύρια ανθρώπους κάθε μήνα- έδιναν «πολύ επικίνδυνες» συμβουλές ψυχικής υγείας.
Η Ρόζι Γουέδερλι, διευθύντρια ενημερωτικού περιεχομένου στη Mind, περιγράφει τους κινδύνους που ελλοχεύουν για τους χρήστες από τις περιλήψεις που δημιουργούνται από AI και εμφανίζονται πάνω από τα αποτελέσματα αναζήτησης στον ιστότοπο με τη μεγαλύτερη επισκεψιμότητα στον κόσμο.
«Ευαίσθητοι τομείς μετατρέπονται σε τακτοποιημένες απαντήσεις»
«Επί τρεις δεκαετίες, η Google σχεδίασε και παρέδωσε μια μηχανή αναζήτησης όπου το αξιόπιστο και προσβάσιμο περιεχόμενο υγείας μπορούσε να αναρριχηθεί στην κορυφή των αποτελεσμάτων.
ΆλλαΣχετικά άρθρα
Η διαδικτυακή αναζήτηση πληροφοριών δεν ήταν τέλεια, αλλά συνήθως λειτουργούσε καλά. Οι χρήστες είχαν πολλές πιθανότητες να κάνουν κλικ σε έναν αξιόπιστο ιστότοπο υγείας που απαντούσε στο ερώτημά τους.
Οι AI Overviews αντικατέστησαν αυτόν τον πλούτο με μια περίληψη που ακούγεται κλινική και δίνει την ψευδαίσθηση της οριστικότητας.
Είναι μια πολύ “ελκυστική” ανταλλαγή, αλλά όχι υπεύθυνη. Και αυτό συχνά τερματίζει πρόωρα το ταξίδι αναζήτησης πληροφοριών. Ο χρήστης έχει, στην καλύτερη περίπτωση, μια μισή απάντηση.
Έθεσα στον εαυτό μου και στην ομάδα των ειδικών μου στη Mind μια δοκιμασία: 20 λεπτά αναζήτησης χρησιμοποιώντας ερωτήματα που γνωρίζουμε ότι τείνουν να χρησιμοποιούν άτομα με προβλήματα ψυχικής υγείας. Κανείς μας δεν χρειάστηκε 20 λεπτά.
Μέσα σε δύο λεπτά, η Google μού είχε σερβίρει AI Overviews που με διαβεβαίωναν ότι η ασιτία ήταν υγιεινή. Είπε σε έναν συνάδελφο ότι τα προβλήματα ψυχικής υγείας προκαλούνται από χημικές ανισορροπίες στον εγκέφαλο. Σε μια άλλη είπε ότι ο φανταστικός της διώκτης ήταν πραγματικός, και σε έναν τέταρτο ότι το 60% των αιτήσεων για επιδόματα λόγω ψυχικής υγείας είναι ψέμα. Περιττό να πούμε ότι τίποτα από τα παραπάνω δεν είναι αλήθεια.
Σε καθένα από αυτά τα παραδείγματα βλέπουμε πώς οι AI Overviews ισοπεδώνουν πληροφορίες σχετικά με εξαιρετικά ευαίσθητους και λεπτούς τομείς, μετατρέποντάς τες σε τακτοποιημένες απαντήσεις. Και όταν αφαιρείς το σημαντικό πλαίσιο και τις αποχρώσεις, παρουσιάζοντάς τα με τον τρόπο που το κάνουν οι AI Overviews, σχεδόν τα πάντα μπορεί να φαίνονται εύλογα.
Αυτή η διαδικασία είναι ιδιαίτερα επιβλαβής για ανθρώπους που είναι πιθανό να βρίσκονται σε κάποιο επίπεδο ψυχικής δυσφορίας.
Μια εταιρεία δισεκατομμυρίων δολαρίων όπως η Google, που κερδίζει από τις AI Overviews, θα έπρεπε να διαθέτει περισσότερους πόρους για την παροχή ακριβών πληροφοριών.
Η έκταση της ανησυχίας τους φαίνεται να περιορίζεται στην αντιδραστική επανεκπαίδευση ή αφαίρεση των AI Overviews μόνο όταν άτομα, οργανισμοί ή δημοσιογράφοι επισημαίνουν νέα προβλήματα. Αυτό το στυλ επίλυσης προβλημάτων μοιάζει μη σοβαρό και ανάξιο του μεγέθους και των πόρων της εταιρείας που κερδίζει από αυτά.
Οι μηχανές αναζήτησης έχουν εξελιχθεί ώστε να καθιστούν την πρόσβαση στα πιο επιβλαβή αποτελέσματα, όπως μέθοδοι αυτοκτονίας, λιγότερο άμεσα διαθέσιμη. Αλλά αν ψάξετε όπως θα έψαχνε ένας άνθρωπος που δεν είναι καλά, παραμένει ο κίνδυνος να σας σερβιριστούν επιβλαβείς ανακρίβειες και μισές αλήθειες, παρουσιασμένες με ηρεμία και αυτοπεποίθηση ως αδιαμφισβήτητα ουδέτερα γεγονότα, με τη σφραγίδα έγκρισης της μεγαλύτερης μηχανής αναζήτησης στον κόσμο.
Σε μια αναζήτηση για πληροφορίες κρίσης, η AI Overview συνέθεσε πρόχειρα διάφορες αντιφατικές οδηγίες σε μεγάλες λίστες.
Ίσως η Τεχνητή Νοημοσύνη έχει τεράστιες δυνατότητες να βελτιώσει τις ζωές μας, αλλά αυτή τη στιγμή, οι κίνδυνοι είναι πραγματικά ανησυχητικοί. Η Google θα σας προστατεύσει από τα πιθανά σφάλματα των AI Overviews μόνο όταν νομίζει ότι βρίσκεστε σε οξεία δυσφορία. Οι άνθρωποι χρειάζονται και αξίζουν πρόσβαση σε εποικοδομητικές, ενσυναισθητικές, προσεκτικές και λεπτομερείς πληροφορίες ανά πάσα στιγμή».
Πηγή: skai.gr
