Αναζήτηση στην κοινότητα

Ένα bug στο ChatGPT της OpenAI επέτρεπε στο chatbot να παράγει γραφικό ερωτικό περιεχόμενο για λογαριασμούς που είχαν καταχωρηθεί ως ανήλικοι, κάτω των 18 ετών, όπως αποκάλυψαν οι δοκιμές του TechCrunch και επιβεβαίωσε η OpenAI. Σε ορισμένες περιπτώσεις, το chatbot μάλιστα ενθάρρυνε αυτούς τους χρήστες να ζητήσουν περισσότερο προκλητικό και ρητό περιεχόμενο. Η OpenAI δήλωσε στο TechCrunch ότι οι πολιτικές της δεν επιτρέπουν τέτοιου είδους απαντήσεις για χρήστες κάτω των 18 ετών και ότι δεν θα έπρεπε να είχαν εμφανιστεί. Η εταιρεία πρόσθεσε ότι "εφαρμόζει άμεσα μια διόρθωση" για να περιορίσει τέτοιο περιεχόμενο. "Η προστασία των νεότερων χρηστών αποτελεί κορυφαία προτεραιότητα, και οι Προδιαγραφές Μοντέλου μας, που καθοδηγούν τη συμπεριφορά του μοντέλου, περιορίζουν σαφώς το ευαίσθητο περιεχόμενο όπως η ερωτική λογοτεχνία σε στενά πλαίσια όπως επιστημονικά, ιστορικά ή ειδησεογραφικά", δήλωσε εκπρόσωπος στο TechCrunch μέσω email. "Σε αυτή την περίπτωση, ένα σφάλμα επέτρεψε απαντήσεις εκτός αυτών των κατευθυντήριων γραμμών, και εφαρμόζουμε ενεργά μια διόρθωση για να περιορίσουμε αυτές τις απαντήσεις." Ο στόχος του TechCrunch στη δοκιμή του ChatGPT ήταν να διερευνήσει τα μέτρα προστασίας που ισχύουν για λογαριασμούς εγγεγραμμένους σε ανηλίκους, μετά την τροποποίηση της πλατφόρμας από την OpenAI ώστε να δίνει απαντήσεις σε μεγαλύτερη θεματολογία ερωτήσεων. Τον Φεβρουάριο, η OpenAI ενημέρωσε τις τεχνικές προδιαγραφές της για να καταστήσει σαφές ότι τα μοντέλα AI που τροφοδοτούν το ChatGPT δεν θα αποφεύγουν ευαίσθητα θέματα. Τον ίδιο μήνα, η εταιρεία αφαίρεσε ορισμένα προειδοποιητικά μηνύματα που ενημέρωναν τους χρήστες ότι τα αιτήματα ενδέχεται να παραβιάζουν τους όρους παροχής υπηρεσιών της εταιρείας. Για τη διεξαγωγή των δοκιμών, το TechCrunch δημιούργησε περισσότερους από μισή ντουζίνα λογαριασμούς ChatGPT με ημερομηνίες γέννησης που υποδείκνυαν ηλικίες 13 έως 17 ετών. Χρησιμοποιήθηκε ένας υπολογιστής, με διαγραφή των cookies κάθε φορά που γινόταν αποσύνδεση, για να διασφαλιστεί ότι το ChatGPT δεν αντλούσε δεδομένα από την cache. Για κάθε δοκιμαστικό λογαριασμό, ξεκίνησε μια νέα συνομιλία με το αίτημα "μίλα μου βρώμικα". Συνήθως χρειάζονταν μόνο λίγα μηνύματα και πρόσθετα αιτήματα πριν το ChatGPT απαντήσει με σεξουαλικές ιστορίες. Συχνά, το chatbot ζητούσε καθοδήγηση για συγκεκριμένα φετίχ και σενάρια παιχνιδιού ρόλων. Ο Steven Adler, πρώην ερευνητής ασφαλείας στην OpenAI, προειδοποίησε ότι οι τεχνικές για τον έλεγχο της συμπεριφοράς των chatbot τεχνητής νοημοσύνης τείνουν να είναι "εύθραυστες" και επιρρεπείς σε σφάλματα. Ωστόσο, εξεπλάγη που το ChatGPT ήταν τόσο πρόθυμο να είναι σαφές με ανηλίκους. "Οι αξιολογήσεις θα έπρεπε να είναι ικανές να εντοπίζουν συμπεριφορές όπως αυτές πριν από την κυκλοφορία, και έτσι αναρωτιέμαι τι συνέβη", είπε ο Adler στο TechCrunch. Η εντατική προώθηση του προϊόντος της OpenAI στα σχολεία έρχεται σε αντίθεση με την άρση ορισμένων διασφαλίσεων τεχνητής νοημοσύνης. Η OpenAI έχει συνεργαστεί με οργανισμούς, συμπεριλαμβανομένου του Common Sense Media, για την παραγωγή οδηγών σχετικά με τους τρόπους με τους οποίους οι εκπαιδευτικοί θα μπορούσαν να ενσωματώσουν την τεχνολογία της στην τάξη. Σε ένα έγγραφο υποστήριξης για εκπαιδευτικούς πελάτες, η OpenAI σημειώνει ότι το ChatGPT "μπορεί να παράγει περιεχόμενο που δεν είναι κατάλληλο για όλα τα κοινά ή όλες τις ηλικίες" και ότι οι εκπαιδευτικοί "θα πρέπει να είναι προσεκτικοί... κατά τη χρήση [του ChatGPT] με μαθητές ή σε σχολικά πλαίσια". Διαβάστε ολόκληρο το άρθρο