Προειδοποίηση από ιατρικό περιοδικό των ΗΠΑ για τη χρήση του ChatGPT σε θέματα υγείας

[Axlmon]

Ιατρικό περιοδικό των ΗΠΑ προειδοποιεί για τους κινδύνους της χρήσης του ChatGPT για ιατρικές συμβουλές, μετά από περιστατικό ασθενούς που ανέπτυξε βρωμισμό ακολουθώντας οδηγίες του AI.

Το περιοδικό Annals of Internal Medicine δημοσίευσε πρόσφατα άρθρο που περιγράφει την περίπτωση ενός 60χρονου άνδρα ο οποίος ανέπτυξε βρωμισμό, γνωστό και ως τοξικότητα βρωμιδίου, αφού συμβουλεύτηκε το ChatGPT σχετικά με την αφαίρεση του επιτραπέζιου αλατιού από τη διατροφή του.

Σύμφωνα με το άρθρο, ο βρωμισμός ήταν ένα "ευρέως αναγνωρισμένο" σύνδρομο στις αρχές του 20ού αιώνα, που εκτιμάται ότι συνέβαλε σε σχεδόν ένα στα δέκα ψυχιατρικά περιστατικά εκείνη την εποχή.

Ο ασθενής ανέφερε στους γιατρούς ότι, αφού διάβασε για τις αρνητικές επιπτώσεις του χλωριούχου νατρίου (επιτραπέζιο αλάτι), συμβουλεύτηκε το ChatGPT για την εξάλειψη του χλωρίου από τη διατροφή του. Στη συνέχεια, άρχισε να λαμβάνει βρωμιούχο νάτριο για τρεις μήνες, παρά το γεγονός ότι είχε διαβάσει πως "το χλώριο μπορεί να αντικατασταθεί με βρώμιο, αν και πιθανώς για άλλους σκοπούς, όπως ο καθαρισμός". Αξίζει να σημειωθεί ότι το βρωμιούχο νάτριο χρησιμοποιούνταν ως ηρεμιστικό στις αρχές του 20ού αιώνα.

Οι συγγραφείς του άρθρου, από το Πανεπιστήμιο της Ουάσινγκτον στο Σιάτλ, τόνισαν ότι η περίπτωση αυτή αναδεικνύει "πώς η χρήση της τεχνητής νοημοσύνης μπορεί δυνητικά να συμβάλει στην ανάπτυξη αποτρέψιμων αρνητικών επιπτώσεων στην υγεία".

Οι συγγραφείς πρόσθεσαν ότι, επειδή δεν μπορούσαν να αποκτήσουν πρόσβαση στο ιστορικό συνομιλίας του ασθενούς με το ChatGPT, δεν ήταν δυνατό να προσδιοριστεί η ακριβής συμβουλή που έλαβε ο άνδρας.

Παρόλα αυτά, όταν οι ίδιοι οι συγγραφείς συμβουλεύτηκαν το ChatGPT σχετικά με το τι θα μπορούσε να αντικαταστήσει το χλώριο, η απάντηση περιλάμβανε επίσης το βρώμιο, χωρίς συγκεκριμένη προειδοποίηση για την υγεία και χωρίς να ρωτήσει γιατί οι συγγραφείς αναζητούσαν τέτοιες πληροφορίες - "όπως θα περιμέναμε να κάνει ένας επαγγελματίας ιατρός", σημείωσαν.

Οι συγγραφείς προειδοποίησαν ότι το ChatGPT και άλλες εφαρμογές AI θα μπορούσαν να "δημιουργήσουν επιστημονικές ανακρίβειες, στερούνται της ικανότητας να συζητήσουν κριτικά τα αποτελέσματα και τελικά τροφοδοτούν τη διάδοση παραπληροφόρησης".

Η εταιρεία ανακοίνωσε πρόσφατα μια αναβάθμιση του chatbot και ισχυρίστηκε ότι ένα από τα μεγαλύτερα πλεονεκτήματά του είναι στον τομέα της υγείας. Ανέφερε ότι το ChatGPT - που τώρα τροφοδοτείται από το μοντέλο GPT-5 - θα είναι καλύτερο στην απάντηση ερωτήσεων σχετικά με την υγεία και θα είναι επίσης πιο προληπτικό στο "να επισημαίνει πιθανές ανησυχίες", όπως σοβαρές σωματικές ή ψυχικές ασθένειες.

Ωστόσο, η εταιρεία τόνισε ότι το chatbot δεν αποτελεί υποκατάστατο επαγγελματικής βοήθειας. Οι κατευθυντήριες γραμμές του chatbot αναφέρουν επίσης ότι "δεν προορίζεται για χρήση στη διάγνωση ή θεραπεία οποιασδήποτε πάθησης υγείας".

Το άρθρο του περιοδικού, που δημοσιεύτηκε την περασμένη εβδομάδα πριν από την κυκλοφορία του GPT-5, ανέφερε ότι ο ασθενής φαίνεται να χρησιμοποίησε μια προηγούμενη έκδοση του ChatGPT.

Παρά την αναγνώριση ότι η AI θα μπορούσε να αποτελέσει γέφυρα μεταξύ επιστημόνων και κοινού, το άρθρο τόνισε ότι η τεχνολογία ενέχει επίσης τον κίνδυνο προώθησης "αποπλαισιωμένων πληροφοριών" και ότι είναι εξαιρετικά απίθανο ένας επαγγελματίας ιατρός να είχε προτείνει βρωμιούχο νάτριο όταν ένας ασθενής ζητούσε αντικατάστατο για το επιτραπέζιο αλάτι.

Διαβάστε ολόκληρο το άρθρο

[mariosnik_]

Άλλο πράγμα χλωριο και άλλο χλωριούχο νάτριο.... Άμα πεθαιναμε από το αλάτι θα έπρεπε ήδη να μην υπήρχε ούτε ψυχή επάνω στον πλανήτη Γη.... 

[Dimitris_1981]

"Εκεί που η μαγεία της τεχνητής νοημοσύνης συναντά την ψυχολογία της έλλειψης φυσικής νοημοσύνης." - L'atelier du fou

 

[poulinos]

πρεπει να πεισω το chatgpt οποιος το συμβουλευεται για θεματα υγειας να του ζηταει και ενα ευρω και να το καταθετει στο λογαριασμο μου. πλουσιος θα γινω.

και μετα λεμε οτι τα ζωα δεν εχουν μυαλο. το iq εχει πεσει κατω απο το 50 για μεγαλο ποσοστο κοσμου

εμπρος πισω που λεει και ο κατακουζινος.

 

Επεξ/σία πριν από 11 ώρες από poulinos

[herbalife3]

7 λεπτά πριν, poulinos είπε

πρεπει να πεισω το chatgpt οποιος το συμβουλευεται για θεματα υγειας να του ζηταει και ενα ευρω και να το καταθετει στο λογαριασμο μου. πλουσιος θα γινω.

και μετα λεμε οτι τα ζωα δεν εχουν μυαλο. το iq εχει πεσει κατω απο το 50 για μεγαλο ποσοστο κοσμου

εμπρος πισω που λεει και ο κατακουζινος.

Από το καφέ της χαράς είναι η φωτό 🤣

[basilis_k6]

Αναφορά σε κείμενο

συμβουλεύτηκε το ChatGPT για την εξάλειψη του χλωρίου από τη διατροφή του

το λαθος του chatgpt ειναι που δεν του απαντησε :Σταματα να τρως χλωριο 

[poulinos]

9 minutes ago, basilis_k6 said:

το λαθος του chatgpt ειναι που δεν του απαντησε :Σταματα να τρως χλωριο 

το λαθος του chatgpt ειναι που δεν του εβγαλε κωλοδαχτυλο και να του πει εγω σου λεω την αποψη μου αλλα go to a fuckin doctor.

27 minutes ago, herbalife3 said:

Από το καφέ της χαράς είναι η φωτό 🤣

σωστα

[nickk0kkav]

15 λεπτά πριν, poulinos είπε

το λαθος του chatgpt ειναι που δεν του εβγαλε κωλοδαχτυλο και να του πει εγω σου λεω την αποψη μου αλλα go to a fuckin doctor.

σωστα

Ακριβώς αυτό. Btw το grok το βγάζει. Αλλα ανεξάρτητα από το τι βγάζει η πρώτη ευθύνη είναι σε αυτόν που το χρησιμοποιεί κ προφανώς οφείλει να τσεκαρει ότι κ να διαβάζει 

[poulinos]

7 minutes ago, nickk0kkav said:

Ακριβώς αυτό. Btw το grok το βγάζει. Αλλα ανεξάρτητα από το τι βγάζει η πρώτη ευθύνη είναι σε αυτόν που το χρησιμοποιεί κ προφανώς οφείλει να τσεκαρει ότι κ να διαβάζει 

δυστυζως εχουμε φτασει να πρεπει να βαλεις  disclaimer παντου επειδη 5 ειναι ηλιθιοι και αλλοι 5  κοιτανε να κανουν μηνυσεις

[Kavouromamouna]

"...αφού διάβασε για τις αρνητικές επιπτώσεις του χλωριούχου νατρίου (επιτραπέζιο αλάτι), συμβουλεύτηκε το ChatGPT για την εξάλειψη του χλωρίου από τη διατροφή του."

Εκτός κι αν πρόκειται για λάθος στην απόδοση του κειμένου, το λάθος είναι καθαρά του καημένου που μπέρδεψε τις βούρτσες με τις π**τσες. Από το "χλωριούχο νάτριο" στο "χλώριο" υπάρχει (λογική) απόσταση την οποία δεν κατάφερε να αναγνωρίσει ο ίδιος πρώτα-πρώτα...

[ethereum]

μαθήματα χρήσης ΑΙ

Επεξ/σία πριν από 6 ώρες από ethereum