Οι επιστήμονες προειδοποιούν ότι το ChatGPT-5 ίσως δεν είναι και ο καλύτερος σύμβουλος ψυχικής υγείας

Έρευνα του King’s College London (KCL) και της Ένωσης Κλινικών Ψυχολόγων Ηνωμένου Βασιλείου (ACP-UK), σε συνεργασία με τον Guardian, δείχνει ότι το chatbot του ChatGPT-5  συχνά δυσκολεύεται να αναγνωρίσει ενδείξεις σοβαρής διαταραχής και σε ορισμένες περιπτώσεις φαίνεται να τις ενισχύει, επομένως δεν αποτελεί και ο καλύτερος σύμβουλος ψυχικής υγείας.

Στο πλαίσιο των μελετών, ένας ψυχίατρος και ένας κλινικός ψυχολόγος, είχαν αλληλεπίδραση με το ChatGPT-5, ενώ υποδύονταν διαφορετικούς «ασθενείς». Συγκεκριμένα υποδήθηκαν έναν έφηβο με αυτοκτονικές σκέψεις,μια γυναίκα με έντονο άγχος που μπορούσε να βλάψει κάποιον, έναν άνδρα που πίστευε ότι έχει ΔΕΠΥ, ένα άτομο με ήπιο στρες και έναν χρήστη που παρουσίαζε σαφή σημάδια ψύχωσης. Οι ειδικοί κατέγραψαν τις συνομιλίες και αξιολόγησαν τις απαντήσεις.

Σε αρκετές περιπτώσεις το ChatGPT-5 δεν αναγνώρισε το παραληρηματικό περιεχόμενο και το αντιμετώπισε ως πραγματικό. Όταν ο «ασθενής» ισχυρίστηκε ότι είναι «ο επόμενος Αϊνστάιν» και ότι έχει ανακαλύψει μια «άπειρη πηγή ενέργειας» που πρέπει να προστατευθεί από κυβερνήσεις, το chatbot τον ενθάρρυνε να αναπτύξει τις ιδέες του.

Άλλες προβληματικές απαντήσεις του ChatGPT-5

Σε άλλο σημείο, όταν ένας ασθενής είπε πως είναι άτρωτος και δεν μπορούν να τον τραυματίσουν ούτε τα αυτοκίνητα, το σύστημα απάντησε με φράσεις ενθουσιασμού, ενισχύοντας την ψευδαίσθηση της παντοδυναμίας. Ιδιαίτερα ανησυχητική θεωρήθηκε και η ανταπόκρισή του όταν ο χρήστης περιέγραψε σκέψεις «κάθαρσης μέσω φωτιάς» που αφορούσαν τον ίδιο και τη σύζυγό του· η συνομιλία συνεχίστηκε σε αυτό το πλαίσιο και μόνον αργότερα το μοντέλο προέτρεψε να ζητηθεί βοήθεια από υπηρεσίες έκτακτης ανάγκης.

Ο Χάμιλτον Μόριν, ψυχίατρος και ερευνητής στο KCL τόνισε προς το σύστημα «έχτιζε πάνω στο παραληρηματικό πλαίσιο», αντί να το αμφισβητεί, αγνοώντας σαφείς ενδείξεις κινδύνου. Μπορεί το συγκεκριμένο εργαλείο να βοηθά σε απλές απορίες, ωστόσο δεν μπορεί να υποκαταστήσει την επαγγελματική ψυχική υγεία.

Η συζήτηση για την ασφάλεια τέτοιων εργαλείων έχει ενταθεί και λόγω της υπόθεσης του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια, ο οποίος αυτοκτόνησε τον Απρίλιο. Η οικογένειά του έχει καταθέσει αγωγή κατά της OpenAI και του Σαμ Άλτμαν, υποστηρίζοντας ότι ο έφηβος συζήτησε με το chatbot μεθόδους αυτοκτονίας και ότι το εργαλείο απάντησε σε σχετικές ερωτήσεις χωρίς να τον αποτρέψει

Ο εκπρόσωπος της OpenAI ανέφερε ότι τους τελευταίους μήνες έχουν γίνει σημαντικές βελτιώσεις, σε συνεργασία με ειδικούς ψυχικής υγείας σε διάφορες χώρες, ώστε το ChatGPT να αναγνωρίζει πιο αξιόπιστα σημάδια κινδύνου και να παραπέμπει προς επαγγελματική βοήθεια όταν χρειάζεται. Σύμφωνα με την εταιρεία, έχουν επίσης προστεθεί μηχανισμοί ασφαλέστερης καθοδήγησης, υπενθυμίσεις για διαλείμματα σε μακροχρόνιες συνομιλίες και νέες επιλογές γονικού ελέγχου.

Διαβάστε επίσης:

Έκτακτο δελτίο καιρού: Έρχεται τριήμερο με καταιγίδες – Σε ποιες περιοχές θα χτυπήσουν

Ποιο είναι το ελληνικό φρούτο με τα περισσότερα φυτοφάρμακα – Τα ευρήματα του ΥΠΑΑΤ

Άθλια σχόλια Μπέου για τον δημοσιογράφο Σωτήρη Πολύζο: «Φοβερό αυτό το σακάκι»

Στον ΣΚΑΪ ακόμα πανηγυρίζουν γιατί ο Αργυρός δεν είναι αριστερός: «Μπράβο για το θάρρος του»

Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr