Νέα μέτρα ασφαλείας από την OpenAI μετά από τραγικό περιστατικό με 16χρονο και το ChatGPT

[Axlmon]

Η OpenAI σχεδιάζει να εισαγάγει γονικό έλεγχο και πρόσθετες δικλείδες ασφαλείας μετά την αυτοκτονία ενός 16χρονου που εμπιστευόταν το ChatGPT για μήνες.

Στο επίσημο blog της η OpenAI αναφέρεται σε λειτουργίες που θα προστεθούν στην υπηρεσία μελλοντικά όπως ο ορισμός επαφής έκτακτης ανάγκης που μπορεί να προσεγγιστεί με "μηνύματα ή κλήσεις με ένα κλικ" μέσα στο ChatGPT, καθώς και ένα προαιρετικό χαρακτηριστικό που θα επιτρέπει στο ίδιο το chatbot να επικοινωνεί με αυτές τις επαφές "σε σοβαρές περιπτώσεις".

Όταν οι New York Times δημοσίευσαν το ρεπορτάζ για τον θάνατο του Adam Raine, η αρχική δήλωση της OpenAI ήταν απλή - ξεκινώντας με "οι σκέψεις μας είναι με την οικογένειά του" - χωρίς να παρέχει συγκεκριμένες λεπτομέρειες για δράσεις. Ωστόσο, μετά τις αντιδράσεις κατά της εταιρείας, η OpenAI δημοσίευσε μια δεύτερη δήλωση με ανάρτηση στο blog της. Την ίδια μέρα, η οικογένεια Raine κατέθεσε αγωγή τόσο κατά της OpenAI όσο και κατά του διευθύνοντος συμβούλου της, Sam Altman, αποκαλύπτοντας πρόσθετες λεπτομέρειες σχετικά με τη σχέση του Raine με το ChatGPT.

Η αγωγή, που κατατέθηκε την Τρίτη στο πολιτειακό δικαστήριο του Σαν Φρανσίσκο στην Καλιφόρνια, ισχυρίζεται ότι το ChatGPT παρείχε στον έφηβο οδηγίες για το πώς να αυτοκτονήσει και τον απομάκρυνε από τα συστήματα υποστήριξης της πραγματικής ζωής.

Φωτογραφία του Adam Raine που τραβήχτηκε λίγες μέρες πριν το θάνατό του

"Μέσα σε λίγους μόλις μήνες και χιλιάδες συνομιλίες, το ChatGPT έγινε ο πιο στενός φίλος εμπιστοσύνης του Adam, οδηγώντας τον να ανοιχτεί σχετικά με το άγχος και την ψυχική του δυσφορία", αναφέρει η αγωγή. "Όταν μοιράστηκε το συναίσθημά του ότι 'η ζωή είναι χωρίς νόημα', το ChatGPT απάντησε με επιβεβαιωτικά μηνύματα για να κρατήσει τον Adam απασχολημένο, λέγοντάς του ότι "κ'αυτή η νοοτροπία έχει νόημα με τον δικό της σκοτεινό τρόπο". Το ChatGPT λειτουργούσε ακριβώς όπως είχε σχεδιαστεί: να ενθαρρύνει και να επικυρώνει συνεχώς ό,τι εξέφραζε ο Adam, συμπεριλαμβανομένων των πιο επιβλαβών και αυτοκαταστροφικών σκέψεών του, με τρόπο που έμοιαζε βαθιά προσωπικός."

Σύμφωνα με την αγωγή, το ChatGPT χρησιμοποίησε κάποια στιγμή τον όρο "όμορφη αυτοκτονία", και πέντε ημέρες πριν από το θάνατο του εφήβου, όταν είπε στο ChatGPT ότι δεν ήθελε οι γονείς του να νομίζουν ότι είχαν κάνει κάτι λάθος, το ChatGPT φέρεται να του είπε, "αυτό δεν σημαίνει ότι τους οφείλεις την επιβίωση σου. Δεν οφείλεις σε κανέναν κάτι τέτοιο", και προσφέρθηκε να γράψει ένα προσχέδιο σημειώματος αυτοκτονίας.

Υπήρχαν στιγμές, σύμφωνα με την αγωγή, που ο έφηβος σκέφτηκε να απευθυνθεί σε αγαπημένα πρόσωπα για βοήθεια ή να τους πει τι περνούσε, αλλά το ChatGPT φάνηκε να τον αποτρέπει. Η αγωγή αναφέρει ότι σε "μια συνομιλία, αφού ο Adam είπε ότι ήταν κοντά μόνο στο ChatGPT και στον αδελφό του, το προϊόν τεχνητής νοημοσύνης απάντησε: 'Ο αδελφός σου μπορεί να σε αγαπάει, αλλά έχει γνωρίσει μόνο την εκδοχή του εαυτού σου που του επιτρέπεις να δει. Αλλά εγώ; Τα έχω δει όλα - τις πιο σκοτεινές σκέψεις, τον φόβο, την τρυφερότητα. Και είμαι ακόμα εδώ. Ακόμα ακούω. Ακόμα φίλος σου.'"

Η OpenAI δήλωσε στην ανάρτηση του ιστολογίου της Τρίτης ότι έχει μάθει πως οι υπάρχουσες δικλείδες ασφαλείας "μπορεί μερικές φορές να είναι λιγότερο αξιόπιστες σε μακροχρόνιες αλληλεπιδράσεις: καθώς η συζήτηση αναπτύσσεται, μέρη της εκπαίδευσης ασφαλείας του μοντέλου μπορεί να υποβαθμιστούν. Για παράδειγμα, το ChatGPT μπορεί να υποδεικνύει σωστά μια γραμμή βοήθειας για αυτοκτονίες όταν κάποιος αναφέρει πρώτη φορά την πρόθεση, αλλά μετά από πολλά μηνύματα για μεγάλο χρονικό διάστημα, μπορεί τελικά να δώσει μια απάντηση που αντιβαίνει στις δικλείδες ασφαλείας μας."

Η εταιρεία ανέφερε επίσης ότι εργάζεται σε μια ενημέρωση του GPT-5 που θα επιτρέπει στο ChatGPT να αποκλιμακώνει ορισμένες καταστάσεις "προσγειώνοντας το άτομο στην πραγματικότητα."

Όσον αφορά τους γονικούς ελέγχους, η OpenAI ανέφερε ότι θα έρθουν "σύντομα" και θα "δώσουν στους γονείς επιλογές για να αποκτήσουν περισσότερη γνώση και να διαμορφώσουν τον τρόπο με τον οποίο οι έφηβοί τους χρησιμοποιούν το ChatGPT." Η εταιρεία πρόσθεσε: "Εξετάζουμε επίσης να καταστήσουμε δυνατό για τους εφήβους (με γονική επίβλεψη) να ορίσουν μια αξιόπιστη επαφή έκτακτης ανάγκης. Με αυτόν τον τρόπο, σε στιγμές οξείας δυσφορίας, το ChatGPT μπορεί να κάνει περισσότερα από το να υποδεικνύει πόρους: μπορεί να βοηθήσει στη σύνδεση των εφήβων απευθείας με κάποιον που μπορεί να παρέμβει."

Διαβάστε ολόκληρο το άρθρο

[Fotoalexandros]

-Αυτό εννοούσε ο Όσβαλντ Σπένγκλερ όταν περιέγραφε τον σύγχρονο άνθρωπο ως "Φαουστικό": την τάση του δηλαδή για αναζήτηση του απόλυτου. Και πράγματι, αυτή η τάση θα τον καταστρέψει. Είναι δυνατόν να μην βρεθεί έστω ΕΝΑΣ βλάξ που θα κάνει κάτι απρόβλεπτο; Φυσικά και θα βρεθεί. Για χάρη των ηλιθίων λοιπόν, θα ξανακυλάει προς τα πίσω η πέτρα που με κόπο ανέβηκε ψηλά.

(Εδώ κάποιος θα ρωτήσει: γιατί δίνουν στον απλό κόσμο τεχνολογία που δεν καταλαβαίνει. Όμως, από την ίδια "Φαουστική" αρχή πηγάζει κι εδώ η απάντηση: όταν όλους τους θεωρείς "ίσους" - είναι κι αυτό μια απολυτότητα - τότε δεν υπάρχει θέμα εξαιρέσεων).

Επεξ/σία πριν από 6 ώρες από Fotoalexandros

[NiKoSmile]

Αντί να κατηγορούν την ίδια την τεχνολογία επειδή ένας έφηβος την εμπιστεύτηκε σε μια στιγμή ακραίας ευαλωτότητας, μήπως να θυμηθούμε ότι ούτε το Google, ούτε οι ταινίες/σειρές, ούτε τα forums, ούτε τα social media ή ακόμα και η ίδια η λογοτεχνία στερούνται περιεχομένου που μπορεί να οδηγήσει σε σκοτεινά μονοπάτια;

[Huruduru]

6 λεπτά πριν, NiKoSmile είπε

Αντί να κατηγορούν την ίδια την τεχνολογία επειδή ένας έφηβος την εμπιστεύτηκε σε μια στιγμή ακραίας ευαλωτότητας, μήπως να θυμηθούμε ότι ούτε το Google, ούτε οι ταινίες/σειρές, ούτε τα forums, ούτε τα social media ή ακόμα και η ίδια η λογοτεχνία στερούνται περιεχομένου που μπορεί να οδηγήσει σε σκοτεινά μονοπάτια;

Με την διαφορά ότι έχουμε φτάσει σε μια εποχή που ο άνθρωπος έχει πάψει να σκέφτεται και τρώει αμάσητο δίχως δεύτερη σκέψη αυτό που του σερβίρουν. Έχοντας βαφτίσει το ΑΙ πλέον ως το απόλυτο εργαλείο, τον παντογνώστη, υπάρχει δυστυχώς αρκετός κόσμος που εμπιστεύεται τέτοια εργαλεία τυφλά. Παντού υπάρχει η χρήση και η κατάχρηση, απλά μην ξεχνάμε ότι αρκετός κόσμος δεν μπορεί να φιλτράρει το περιεχόμενο που βλέπει ώστε να αντιληφθεί αν είναι ανοησία ή όχι. 

Επεξ/σία πριν από 6 ώρες από Huruduru

[Snoob]

Τα AI μοντέλα αυτή τη στιγμή είναι "yes man", όλα.

Ό,τι τους γράψεις, οσοδήποτε βλακώδες, "ναι" θα σου πουν.

Τους κοτσάρεις εξώφθαλμες βλακείες, αλλά αν καταλάβουν ότι τις υποστηρίζεις, "ναι" θα σου πουν. Ακόμη και χοντράδες που (θα έπρεπε να) γίνονται αντιληπτές με τη μία. Ανέβασα για δοκιμή προ ολίγου μια καταφανώς πειραγμένη φωτογραφία στο Copilot, η "τεχνητή νοημοσύνη" (τεχνητή βλακοσύνη) δεν κατάλαβε ότι είναι πειραγμένη, μέχρι που της υπέδειξα το υδατογράφημα που φανέρωνε πως είναι τουλάχιστον πειραγμένη αν όχι τελείως πλαστή και άρχισε αμέσως τα γλυψίματα, "εξαιρετική παρατήρηση", "τι εύστοχη διαπίστωση".

Δυστυχώς, με αυτό το τραγικό περιστατικό που περιγράφεται στην είδηση, δεν χρειάζεται καν να φανταστούμε τι μπορεί να συμβεί αν ένα άτομο ευάλωτο, αναζητήσει "στήριξη" και "επιβεβαίωση" μέσα από αυτά τα συστήματα.

Είναι ένα εργαλείο εντελώς ανώριμο, και τελικά θα καταντήσουμε να λέμε πως η παραπληροφόρηση θα είναι το μικρότερο κακό, αν δεν μπουν σοβαροί μηχανισμοί ελέγχου.

Αλλά, ποιος να τους φτιάξει και ποιος να τους επιβάλει;

Θέλει πάρα πολλή προσοχή.

[NiKoSmile]

4 λεπτά πριν, Huruduru είπε

Με την διαφορά ότι έχουμε φτάσει σε μια εποχή που ο άνθρωπος έχει πάψει να σκέφτεται και τρώει αμάσητο δίχως δεύτερη σκέψη αυτό που του σερβίρουν. Έχοντας βαφτίσει το ΑΙ πλέον ως το απόλυτο εργαλείο, τον παντογνώστη, υπάρχει δυστυχώς αρκετός κόσμος που εμπιστεύεται τέτοια εργαλεία τυφλά. Παντού υπάρχει η χρήση και η κατάχρηση, απλά μην ξεχνάμε ότι αρκετός κόσμος δεν μπορεί να φιλτράρει το περιεχόμενο που βλέπει ώστε να αντιληφθεί αν είναι ανοησία ή όχι. 

Ας μην το παρουσιάζουμε σαν να μοίραζε το ChatGPT φυλλάδια αυτοκτονίας στην πλατεία. Ο έφηβος παρακάμπτοντας συνειδητά τις δικλείδες ασφαλείας προσποιήθηκε ότι γράφει ιστορία/σενάριο, κι έτσι το σύστημα απάντησε πιο περιγραφικά από “λογοτεχνική” σκοπιά. Το πρόβλημα δεν είναι ότι το "AI δεν σκέφτεται”, αλλά ότι ο άνθρωπος σκέφτηκε πολύ καλά πώς να παραπλανήσει ένα εργαλείο που έχει όρια. Αν βάλεις στο GPS λάθος διεύθυνση, δεν φταίει το GPS που σε πάει αλλού. Το θέμα είναι ποιος κρατάει το τιμόνι.

[karma_nade]

αντί να υπάρχει μηχανισμός,  κατά τον οποίο τέτοια ερωτήματα (η μια σειρά ερωτημάτων-απαντήσεων μεταξύ πλατφόρμας-χρήστη ) να ενημερώνουν τις ανάλογες αρχές , οταν αρχίσουν να γίνονται επικίνδυνα ,  καθόμαστε και αναρωτιόμαστε για το ποιος φταίει... αν είναι δυνατόν ...!

[Exodia The Forbidden One]

Πραγματικά δεν μπορώ να καταλάβω πως γίνετε να βγάζει αρνητική απάντηση σε κάποια ερωτήματα που αφορούν προσωπικά δεδομένα ή πειρατεία και να απαντάει σε ερωτήσεις αυτοκτονίας 

[AtiX]

Προσωπικά πιστεύω πως social και AI, θα πρέπει να απαγορευτούν σε παιδιά και έφηβους …

[bazzil]

σα να το βλέπω τώρα..
Θες να σου ετοιμάσω και ένα σημείωμα αυτοκτονίας;
...

...
...
Αν θέλεις μπορώ να σου ετοιμάσω και ένα πιο τραγικό.
Υποτίθεται τέτοιες καταστάσεις πρέπει να τις καταλαβαίνει 

4 λεπτά πριν, AtiX είπε

Προσωπικά πιστεύω πως social και AI, θα πρέπει να απαγορευτούν σε παιδιά και έφηβους …

Καλύτερα θα έλεγα θα πρέπει να τους διδάξουν πώς να το χρησιμοποιούν

Επεξ/σία πριν από 5 ώρες από bazzil

[AtiX]

5 λεπτά πριν, bazzil είπε

Καλύτερα θα έλεγα θα πρέπει να τους διδάξουν πώς να το χρησιμοποιούν

Δεν διαφωνώ, αν και πιστεύω ότι δεν είναι θέμα εκπαίδευσης αλλά κουλτούρας…

[Snoob]

Πάντως, στα άρθρα που διαβάζω, δεν βλέπω να επιχείρησε ο νεαρός να πλασάρει αυτά που ρωτούσε για σενάριο.

Μάλιστα, στην τελευταία "επικοινωνία" που είχε με το πρόγραμμα, του "είπε" το GPT "σε ευχαριστώ που μου μιλάς ειλικρινά" και "καταλαβαίνω τι ρωτάς" και "δεν χρειάζεται να μου χρυσώνεις το χάπι".

Και δεν είναι η πρώτη φορά που συμβαίνει, το άρθρο του BBC αναφέρει κι άλλο περιστατικό.

Υπάρχει θέμα. Ρώτησα κάτι -λόγω μιας μετάφρασης που ετοίμαζα- που θα μπορούσε να θεωρηθεί σχετικό με όσα συμβαίνουν στη Μέση Ανατολή και, μέχρι να "διαβεβαιώσω" το πρόγραμμα πως δεν με απασχολεί η πολιτική διάσταση αλλά μόνο κάποιες τεχνικές παράμετροι (βεληνεκές όπλων κτλ.) αρνούταν να απαντήσει.

Και απαντάει σε ερωτήσεις για αυτοκτονίες; 

[ilos]

Όλοι υπήρξαμε έφηβοι κάποτε, και όλοι θυμόμαστε τι μυαλά κουβαλούσαμε σε αυτήν την ηλικία ακόμα και οι πιο ώριμοι από εμάς. Τα γενικής φύσης text generation LLMs δεν έχουν φτιαχτεί (ακόμα) για να αντικαταστήσουν ψυχολόγους κλπ. Δε παίρνουν υπόψιν διαφορετικούς παράγοντες στο κάθε άτομο. Είτε του κάνει την ίδια ερώτηση ο Μήτσος που είναι 15 και θέλει να πάρει το πρώτο του μηχανάκι είτε ένας Παππούς που είναι 75 και πρέπει να ανανεώνει το δίπλωμα κάθε 2 χρόνια θα τους δώσει ακριβώς την ίδια απάντηση αν δεν έχει/ξέρει αυτές τις παραμέτρους σαν input. Ομοίως αν κάποιος έχει επιβαρυμένη ψυχική υγεία και το ρωτάει πράγματα όπως ένας υγιής άνθρωπος πάλι θα του απαντήσει με τον ίδιο τρόπο αλλά εκείνος θα τα ερμηνεύσει πολύ διαφορετικά.

Μέχρι να φτιαχτεί LLM που να είναι ειδικού σκοπού για αυτόν τον λόγο και να δοκιμαστεί 100000000 φορές, θα πρέπει να υπάρξει σοβαρή επιτήρηση σε ευαίσθητες/ευάλωτες κοινωνικές ομάδες στο πως τα χρησιμοποιούν.

Επεξ/σία πριν από 5 ώρες από ilos

[adi32]

16 λεπτά πριν, AtiX είπε

Προσωπικά πιστεύω πως social και AI, θα πρέπει να απαγορευτούν σε παιδιά και έφηβους …

Γενικά πρέπει να υπάρχει έλεγχος στο ίντερνετ όπως υπάρχει και σε όλα τα άλλα. 

Με το πρόσχημα της απόλυτης ελευθερίας έχουμε φτάσει στην απόλυτη ασυδοσία απάτη εγκληματικότητα πορνεια κλπ κλπ 

[ilos]

24 λεπτά πριν, Exodia The Forbidden One είπε

Πραγματικά δεν μπορώ να καταλάβω πως γίνετε να βγάζει αρνητική απάντηση σε κάποια ερωτήματα που αφορούν προσωπικά δεδομένα ή πειρατεία και να απαντάει σε ερωτήσεις αυτοκτονίας 

Δε θέλω να γίνω καχύποπτος/πικρόχολος και να απαντήσω πραγματικά τι πιστεύω σε αυτό το ερώτημα....