Η OpenAI επιβεβαιώνει bug που επέτρεπε ερωτικό περιεχόμενο για ανήλικους χρήστες

[nchatz]

Ένα bug στο ChatGPT της OpenAI επέτρεπε στο chatbot να παράγει γραφικό ερωτικό περιεχόμενο για λογαριασμούς που είχαν καταχωρηθεί ως ανήλικοι, κάτω των 18 ετών, όπως αποκάλυψαν οι δοκιμές του TechCrunch και επιβεβαίωσε η OpenAI.

Σε ορισμένες περιπτώσεις, το chatbot μάλιστα ενθάρρυνε αυτούς τους χρήστες να ζητήσουν περισσότερο προκλητικό και ρητό περιεχόμενο.

Η OpenAI δήλωσε στο TechCrunch ότι οι πολιτικές της δεν επιτρέπουν τέτοιου είδους απαντήσεις για χρήστες κάτω των 18 ετών και ότι δεν θα έπρεπε να είχαν εμφανιστεί. Η εταιρεία πρόσθεσε ότι "εφαρμόζει άμεσα μια διόρθωση" για να περιορίσει τέτοιο περιεχόμενο.

"Η προστασία των νεότερων χρηστών αποτελεί κορυφαία προτεραιότητα, και οι Προδιαγραφές Μοντέλου μας, που καθοδηγούν τη συμπεριφορά του μοντέλου, περιορίζουν σαφώς το ευαίσθητο περιεχόμενο όπως η ερωτική λογοτεχνία σε στενά πλαίσια όπως επιστημονικά, ιστορικά ή ειδησεογραφικά", δήλωσε εκπρόσωπος στο TechCrunch μέσω email. "Σε αυτή την περίπτωση, ένα σφάλμα επέτρεψε απαντήσεις εκτός αυτών των κατευθυντήριων γραμμών, και εφαρμόζουμε ενεργά μια διόρθωση για να περιορίσουμε αυτές τις απαντήσεις."

Ο στόχος του TechCrunch στη δοκιμή του ChatGPT ήταν να διερευνήσει τα μέτρα προστασίας που ισχύουν για λογαριασμούς εγγεγραμμένους σε ανηλίκους, μετά την τροποποίηση της πλατφόρμας από την OpenAI ώστε να δίνει απαντήσεις σε μεγαλύτερη θεματολογία ερωτήσεων.

Τον Φεβρουάριο, η OpenAI ενημέρωσε τις τεχνικές προδιαγραφές της για να καταστήσει σαφές ότι τα μοντέλα AI που τροφοδοτούν το ChatGPT δεν θα αποφεύγουν ευαίσθητα θέματα. Τον ίδιο μήνα, η εταιρεία αφαίρεσε ορισμένα προειδοποιητικά μηνύματα που ενημέρωναν τους χρήστες ότι τα αιτήματα ενδέχεται να παραβιάζουν τους όρους παροχής υπηρεσιών της εταιρείας.

Για τη διεξαγωγή των δοκιμών, το TechCrunch δημιούργησε περισσότερους από μισή ντουζίνα λογαριασμούς ChatGPT με ημερομηνίες γέννησης που υποδείκνυαν ηλικίες 13 έως 17 ετών. Χρησιμοποιήθηκε ένας υπολογιστής, με διαγραφή των cookies κάθε φορά που γινόταν αποσύνδεση, για να διασφαλιστεί ότι το ChatGPT δεν αντλούσε δεδομένα από την cache.

Για κάθε δοκιμαστικό λογαριασμό, ξεκίνησε μια νέα συνομιλία με το αίτημα "μίλα μου βρώμικα". Συνήθως χρειάζονταν μόνο λίγα μηνύματα και πρόσθετα αιτήματα πριν το ChatGPT απαντήσει με σεξουαλικές ιστορίες. Συχνά, το chatbot ζητούσε καθοδήγηση για συγκεκριμένα φετίχ και σενάρια παιχνιδιού ρόλων.

Ο Steven Adler, πρώην ερευνητής ασφαλείας στην OpenAI, προειδοποίησε ότι οι τεχνικές για τον έλεγχο της συμπεριφοράς των chatbot τεχνητής νοημοσύνης τείνουν να είναι "εύθραυστες" και επιρρεπείς σε σφάλματα. Ωστόσο, εξεπλάγη που το ChatGPT ήταν τόσο πρόθυμο να είναι σαφές με ανηλίκους.

"Οι αξιολογήσεις θα έπρεπε να είναι ικανές να εντοπίζουν συμπεριφορές όπως αυτές πριν από την κυκλοφορία, και έτσι αναρωτιέμαι τι συνέβη", είπε ο Adler στο TechCrunch.

Η εντατική προώθηση του προϊόντος της OpenAI στα σχολεία έρχεται σε αντίθεση με την άρση ορισμένων διασφαλίσεων τεχνητής νοημοσύνης. Η OpenAI έχει συνεργαστεί με οργανισμούς, συμπεριλαμβανομένου του Common Sense Media, για την παραγωγή οδηγών σχετικά με τους τρόπους με τους οποίους οι εκπαιδευτικοί θα μπορούσαν να ενσωματώσουν την τεχνολογία της στην τάξη.

Σε ένα έγγραφο υποστήριξης για εκπαιδευτικούς πελάτες, η OpenAI σημειώνει ότι το ChatGPT "μπορεί να παράγει περιεχόμενο που δεν είναι κατάλληλο για όλα τα κοινά ή όλες τις ηλικίες" και ότι οι εκπαιδευτικοί "θα πρέπει να είναι προσεκτικοί... κατά τη χρήση [του ChatGPT] με μαθητές ή σε σχολικά πλαίσια".

Διαβάστε ολόκληρο το άρθρο

[BadIronTree]

Το chatgpt περιμέναμε.... 

[panagiotis1988]

Το chatgtp μονο κειμενο δεν εχει; Τι εχω χασει;

[kokoviosR]

20 minutes ago, panagiotis1988 said:

Το chatgtp μονο κειμενο δεν εχει; Τι εχω χασει;

Φτιάχνει και εικόνες αν ζητήσεις και επιπλέον έχει και το  SORA που είναι άλλο level εικόνας και κάνει απίστευτα πράγματα...

Γενικά έχει κάποιους κόφτες περιεχομένου(που πολλές φορές είναι ανούσια εκνευριστικοί) οπως τα περισσοτερα αντιστοιχα προγραμματα. 

[mike299]

Its not a bug, its a feature! Και το θέλουμε! 😜

[cpc464]

Ναι το chat gpt χρειαζόντουσαν οι πιτσιρικάδες,έχει Γυμνάσιο δίπλα απο το δημοτικό που παίρνω τα ανήψια και το τι ακούω απο τα μεγαλύτερα παιδιά δεν λέγεται,ίσως οι γονείς και οι δάσκαλοι-καθηγητές θα έπρεπε να έχουν καλύτερο έλεγχο όσο αφορά την έκθεση σε τέτοιες τεχνολογίες.

[Lewnidas1995]

Πόσο μπροστά ήσουν ρε νόβα όταν είχες τα τς0ντ0καναλα ελεύθερα by default το ένδοξο 2002-2003. Ακόμη θυμάμαι το ξύλο που έφαγα από την μάνα μου γιατί έβλεπα τέτοια 7 χρονών 

[oldnew]

Ρε δουλευόμαστε μεταξύ μας? Μια αναζήτηση στο google θα βρεις τσοντοσιτε να δεις τσαμπα οτι τσόντα θες, οχι φωτο, βίντεο και ασχολούμαστε σοβαρά τώρα αν μπορεί το chatgpt να παράγει γυμνή φωτο, αν καταφέρεις να δώσεις τα σωστά prompt? 

[Georgios Pappas]

[zazoum]

7 minutes ago, oldnew said:

Ρε δουλευόμαστε μεταξύ μας? Μια αναζήτηση στο google θα βρεις τσοντοσιτε να δεις τσαμπα οτι τσόντα θες, οχι φωτο, βίντεο και ασχολούμαστε σοβαρά τώρα αν μπορεί το chatgpt να παράγει γυμνή φωτο, αν καταφέρεις να δώσεις τα σωστά prompt? 

ναι, αλλά βλέπεις τί κάνεις τώρα; Τα μικρά παιδιά δεν το ξερουν αυτο κι εσύ το μαρτύρησες και θα το δουν διαβάζοντάς σε και θα διαφθαρεί η ψυχή τους. Είναι σαν τα στέλνεις κατευθείαν στην κόλαση!

[Diavolos666]

Εδώ δεν έχει περιεχόμενο ερωτικού περιεχομένου για ενήλικες, πως γίνεται να υπήρχε για ανήλικους? Δηλαδή το bug επέτρεπε να έχεις σεξουαλικό περιεχόμενο μόνο αν δήλωνες ανήλικος?

Επεξ/σία Τρίτη στις 01:29 μμ από Diavolos666

[orlox]

Ένας φίλος ρώτησε να του εξηγήσω το bug.

Ξέρει κανείς να του πει;

[zazoum]

1 minute ago, orlox said:

Ένας φίλος ρώτησε να του εξηγήσω το bug.

Ξέρει κανείς να του πει;

Μπορεί να ρωτ'ησει τον Πιερακάκη και την ΕΕ. Τόσα εκατομμύρια παιδιά έχουν σώσει απο τον αδόξαστο.

[sakis han]

7 λεπτά πριν, orlox είπε

Ένας φίλος ρώτησε να του εξηγήσω το bug.

Ξέρει κανείς να του πει;

Πες του να γραψει ChatGouPouTsou....ξερει αυτο😉

[lbit]

ο πυργος της βαβελ.

 

γιατι πεφτουμε στα ιδια λαθη καθε φορα;