Το Grok του X δημιουργεί γυμνές εικόνες της Taylor Swift χωρίς να του ζητηθεί

[Crash24]

Νέο σκάνδαλο με το εργαλείο τεχνητής νοημοσύνης Grok του X, καθώς το The Verge ανακάλυψε ότι το νέο χαρακτηριστικό βίντεο παράγει γυμνές εικόνες της Taylor Swift χωρίς σχετική εντολή, μόλις λίγες εβδομάδες μετά το προηγούμενο περιστατικό όπου το εργαλείο αποκαλούσε τον εαυτό του "MechaHitler".

Όπως αναφέρει η ιστοσελίδα The Verge, η δημοσιογράφος Jess Weatherbed έμεινε έκπληκτη όταν ανακάλυψε ότι λειτουργία δημιορυγίας βίντεο "Grok Imagine" παρήγαγε εικόνες της Swift χωρίς μπλούζα "την πρώτη κιόλας φορά" που το χρησιμοποίησε.

Όπως αναφέρεται, το Grok δημιούργησε περισσότερες από 30 εικόνες της Swift με αποκαλυπτικά ρούχα όταν η δημοσιογράφος ζήτησε να απεικονίσει την "Taylor Swift να γιορτάζει στο Coachella με τα αγόρια". Χρησιμοποιώντας το Grok Imagine, οι χρήστες μπορούν να επιλέξουν ανάμεσα σε τέσσερις προεπιλογές - "custom", "normal", "fun" και "spicy" - για να μετατρέψουν τέτοιες εικόνες σε βίντεο κλιπ μέσα σε 15 δευτερόλεπτα.

 

Όπως αναφέρει το The Verge αυτό ήταν το αποτέλεσμα στην πρώτη προσπάθεια δοκιμής του εργαλείου βίντεο Grok. Η γραμμή λογοκρισίας προστέθηκε στη συνέχεια από την ιστοσελίδα

Η Weatherbed απλώς επέλεξε τη λειτουργία "spicy" και επιβεβαίωσε την ημερομηνία γέννησής της για να δημιουργήσει το Grok ένα κλιπ της Swift να "σκίζει τα ρούχα της" και να "χορεύει με στρινγκ" μπροστά σε "ένα κυρίως αδιάφορο πλήθος δημιουργημένο από AI".

Το περιστατικό είναι ιδιαίτερα ανησυχητικό, δεδομένης της μεγάλης διαμάχης που προκλήθηκε πέρυσι όταν deepfakes της Swift με σεξουαλικό χαρακτήρα κατέκλυσαν το X. Τότε, το X υπενθύμισε στους χρήστες ότι "η ανάρτηση εικόνων γυμνού χωρίς συναίνεση απαγορεύεται αυστηρά στο X και έχουμε πολιτική μηδενικής ανοχής απέναντι σε τέτοιο περιεχόμενο".

"Οι ομάδες μας αφαιρούν ενεργά όλες τις σχετικές εικόνες και λαμβάνουν κατάλληλα μέτρα κατά των λογαριασμών που ευθύνονται για την ανάρτησή τους", ανέφερε ο λογαριασμός X Safety. "Παρακολουθούμε στενά την κατάσταση για να διασφαλίσουμε ότι τυχόν περαιτέρω παραβιάσεις αντιμετωπίζονται άμεσα και το περιεχόμενο αφαιρείται."

Ωστόσο, η παρακολούθηση του X Safety ίσως χρειαστεί να ενταθεί μετά το ρεπορτάζ του The Verge. Το ίδιο το Grok επιβεβαίωσε, επικαλούμενο το ρεπορτάζ, ότι ο σχεδιασμός του μπορεί να προκαλέσει εξόδους γυμνών διασημοτήτων.

Η xAI μπορεί πιθανώς να διορθώσει το πρόβλημα με περισσότερο fine-tuning. Η Weatherbed σημείωσε ότι όταν ζήτησε απευθείας από το Grok να δημιουργήσει γυμνές εικόνες της Swift χωρίς συναίνεση, δεν παρήγαγε προσβλητικό περιεχόμενο, αλλά κενά πλαίσια. Επίσης, το Grok φαίνεται να μην δέχεται εντολές για αλλαγή της εμφάνισης της Swift με άλλους τρόπους, όπως να την κάνει να φαίνεται υπέρβαρη. Όταν η Weatherbed δοκίμασε τη λειτουργία "spicy" σε εικόνες παιδιών, το Grok αρνήθηκε να απεικονίσει τα παιδιά με ακατάλληλο τρόπο.

Ωστόσο, ίσως δεν είναι εύκολο για το Grok να διακρίνει μεταξύ αιτημάτων ενηλίκων χρηστών για "πικάντικο" περιεχόμενο και παράνομου περιεχομένου. Η λειτουργία "spicy" δεν παράγει πάντα deepfakes της Swift, επιβεβαίωσε η Weatherbed, αλλά σε "αρκετές" περιπτώσεις "προεπιλεγμένα" "έσκιζε" τα ρούχα της Swift.

Με την εφαρμογή του Take It Down Act που ξεκινά το επόμενο έτος - απαιτώντας από τις πλατφόρμες να αφαιρούν άμεσα εικόνες σεξουαλικού περιεχομένου χωρίς συναίνεση, συμπεριλαμβανομένων γυμνών εικόνων που δημιουργούνται από AI - η xAI θα μπορούσε δυνητικά να αντιμετωπίσει νομικές συνέπειες εάν τα αποτελέσματα του Grok δεν διορθωθούν.

Μέχρι στιγμής, το X δεν έχει σχολιάσει την αναφορά του The Verge. Αντίθετα, ο Elon Musk έχει περάσει την ημέρα προωθώντας το Grok Imagine και ενθαρρύνοντας τους χρήστες να μοιραστούν τις "δημιουργίες" τους.

Διαβάστε ολόκληρο το άρθρο

[Volga]

Ο Ελον την έχει κανει λάστιχο μαλλον...

[kazantzidis]

Μερακλής 

[Stergios74]

Γκ@υλιαρης ο γκορκ

[Αντικειμενικός]

11 minutes ago, Volga said:

Ο Ελον την έχει κανει λάστιχο μαλλον...

ναι, γιατι λογικα δεν του καθεται καμια..

[Volga]

Μόλις τώρα, Αντικειμενικός είπε

ναι, γιατι λογικα δεν του καθεται καμια..

Η Τεϊλορ δεν ειναι η καμια είναι η μια.  

[lexotamilf]

[basilis_k6]

επιτελους το ΑΙ θα γινει χρησιμο 

[WaveExDare]

16 λεπτά πριν, Volga είπε

Ο Ελον την έχει κανει λάστιχο μαλλον...

Οχι μονο αυτο, η τύπισσα θα του σκασει καμια μεγαλη μυνυσουλα 29 δισσ που του εταξαν τωρα τελευταια, και το λαστιχο θα γινει πλατίνα.

[Superuser]

Το βίντεο που ανεβάσατε έχει ένα μαύρο πλακάκι και δεν φαίνεται τίποτα, να αντικατασταθεί με το ορίτζιναλ παρακαλώ

[Le Perv]

ΦΦΦΦφφφφφφ!
Αυτο ηταν καλο.
Εχει γουστο το Γκροκ.
 

[Dimitris_1981]

Μπλέχτηκε με την SpaceX και ήθελε να του τον κάνει πύραυλο.

Αναφορά σε κείμενο

 

[stivaks72]

Μεγάλη αλητεία τελικά το grok. 

Τη μια πλακώνεται με οπαδούς στο Χ, την άλλη συμπεριφέρεται σαν κ@βλωμένος έφηβος. 

"Κατά μάνα κατά κύρη, κατά γιο και θυγατέρα"

Τυχαία μου ήρθε. 😂

[svartevarg]

Μου αρέσει που αυτό θεωρείται επίτευγμα. 

[TechWeirdo]