—
Η Τεχνητή Νοημοσύνη στο «κάδρο»: Ανησυχίες για τη ψυχική υγεία των χρηστών
Η Βρετανία ξεκινά μια σημαντική έρευνα για τον αντίκτυπο της τεχνητής νοημοσύνης στην ψυχική υγεία των ανθρώπων. Η φιλανθρωπική οργάνωση Mind, που δραστηριοποιείται στην Αγγλία και την Ουαλία, ανακοίνωσε τη δημιουργία μιας ειδικής επιτροπής που θα εξετάσει τους κινδύνους και τα προστατευτικά μέτρα που απαιτούνται καθώς η ΤΝ επηρεάζει ολοένα και περισσότερο τη ζωή εκατομμυρίων ανθρώπων.
Η απόφαση αυτή δεν είναι τυχαία. Πρόσφατα, αποκαλύφθηκε ότι τα AI Overviews της Google παρέχουν επικίνδυνες και παραπλανητικές ιατρικές συμβουλές σε χρήστες που αναζητούν πληροφορίες για την υγεία τους. Τα AI Overviews είναι περιλήψεις που δημιουργούνται από γενετική τεχνητή νοημοσύνη και εμφανίζονται σε 2 δισεκατομμύρια χρήστες μηνιαίως, τοποθετούμενα πάνω από τα παραδοσιακά αποτελέσματα αναζήτησης.
Επικίνδυνες συμβουλές για σοβαρές παθήσεις
Η έρευνα του Guardian αποκάλυψε ότι οι περιλήψεις της Google περιέχουν ψευδείς πληροφορίες σε θέματα όπως ο καρκίνος, οι ηπατικές παθήσεις, η γυναικεία υγεία και οι ψυχικές ασθένειες. Ιδιαίτερα ανησυχητικές είναι οι συμβουλές σχετικά με καταστάσεις όπως η ψύχωση και οι διατροφικές διαταραχές, οι οποίες χαρακτηρίστηκαν από ειδικούς ως «πολύ επικίνδυνες», λανθασμένες και δυνητικά βλαβερές.
Σύμφωνα με τους ειδικούς, κάποιες από αυτές τις συμβουλές θα μπορούσαν ακόμη και να αποτρέψουν τους ανθρώπους από το να ζητήσουν επαγγελματική βοήθεια—κάτι που είναι ιδιαίτερα ανησυχητικό για άτομα που αντιμετωπίζουν ψυχικές διαταραχές. Η Δρ. Σάρα Χιούζ, διευθύνουσα σύμβουλος της Mind, προειδοποίησε ότι στις χειρότερες περιπτώσεις, οι ψευδείς πληροφορίες θα μπορούσαν να θέσουν σε κίνδυνο ζωές.
Μετά την αναφορά του Guardian, η Google αφαίρεσε ορισμένες περιλήψεις, ωστόσο όχι για όλες τις ιατρικές αναζητήσεις. Επιπλέον, διαπιστώθηκε ότι η εταιρεία υποβάθμισε τις προειδοποιήσεις ασφαλείας σχετικά με το ότι οι ιατρικές συμβουλές που παράγει η ΤΝ μπορεί να είναι λανθασμένες.
Ένας χρόνος έρευνας και συμμετοχής
Η επιτροπή της Mind θα λειτουργήσει για ένα έτος και θα συλλέξει στοιχεία σχετικά με τη σχέση μεταξύ της τεχνητής νοημοσύνης και της ψυχικής υγείας. Στην έρευνα θα συμμετέχουν κορυφαίοι γιατροί και επαγγελματίες ψυχικής υγείας, ασθενείς, φορείς υγείας, πολιτικοί και τεχνολογικές εταιρείες.
Ο στόχος είναι η δημιουργία ενός ασφαλέστερου ψηφιακού οικοσυστήματος ψυχικής υγείας, με αυστηρούς κανονισμούς, πρότυπα και μέτρα προστασίας. Η Mind θέλει να διασφαλίσει ότι η καινοτομία δεν θα γίνεται εις βάρος της ευημερίας των ανθρώπων και ότι τα άτομα με προσωπική εμπειρία ψυχικών διαταραχών θα βρίσκονται στο επίκεντρο του σχεδιασμού του μέλλοντος της ψηφιακής υποστήριξης.
Η Ρόζι Γουέδερλι, υπεύθυνη περιεχομένου πληροφόρησης στη Mind, σημείωσε ότι αν και η αναζήτηση πληροφοριών για την ψυχική υγεία μέσω Google δεν ήταν τέλεια πριν από τα AI Overviews, συνήθως λειτουργούσε καλά. Οι χρήστες είχαν τη δυνατότητα να επισκεφθούν αξιόπιστους ιστοτόπους υγείας και να εμβαθύνουν περαιτέρω. Τα AI Overviews, όμως, αντικατέστησαν αυτόν τον πλούτο πληροφοριών με μια απλή περίληψη που φαίνεται επιστημονική, χωρίς να παρέχουν πληροφορίες για τις πηγές ή την αξιοπιστία τους.
Η Google, από την πλευρά της, υποστηρίζει ότι επενδύει σημαντικά στην ποιότητα των AI Overviews και ότι η συντριπτική πλειονότητα παρέχει ακριβείς πληροφορίες. Παρά ταύτα, η έρευνα της Mind θα είναι καθοριστική για τον καθορισμό των μελλοντικών κανόνων και πρακτικών στον τομέα της ΤΝ και της ψυχικής υγείας.
