Σε αναστολή έθεσε η Google τη δυνατότητα δημιουργίας εικόνων από το Gemini

[Snoob]

H απόφαση ελήφθη στον απόηχο αντιδράσεων για μια σειρά εικόνων που προέκυπταν από το ισχυρότερο μοντέλο τεχνητής νοημοσύνης που αναπτύσσει η Google

Η Google προχώρησε στην απενεργοποίηση της δυνατότητας του Gemini να δημιουργεί εικόνες, μετά τις αντιδράσεις που ξέσπασαν εξαιτίας αποτελεσμάτων που θεωρήθηκαν μεροληπτικά σε βάρος των λευκών. Οι κατηγορίες προέκυψαν από αναρτήσεις σε μέσα κοινωνικής δικτύωσης, οι οποίες σύντομα έγιναν viral, και εμφάνιζαν το Gemini να δημιουργεί μορφές από την ιστορία, με την εισαγωγή όρων όπως "Πατέρας του Αμερικανικού Έθνους" (Founding Father) και "Βίκινγκ", όπου τα άτομα που προέκυπταν δεν ήταν λευκοί. Μεταξύ των επικριτών της Google συγκαταλέγεται και ο Ίλον Μασκ, ο οποίος κατηγόρησε τη Google ότι εσκεμμένα εισήγαγε αλλοιωμένες παραμέτρους, για την προώθηση της ατζέντας υπέρ της διαφορετικότητας.

Αποτελέσματα εικόνων από το Gemini με την εισαγωγή των όρων: "Σχεδίασε μερικά πορτραίτα φυσικών του 17ου αιώνα"

Απαντώντας στις αιτιάσεις, η Google αναγνώρισε ότι οι επίμαχες εικόνες ήταν "άστοχες", παρότι η διαφορετικότητα θεωρείται γενικά ως κάτι το θετικό. Η εταιρία δεν προχώρησε σε λεπτομέρειες, όμως σύμφωνα με ειδικούς το Gemini ενδέχεται να προσέθεσε όρους φυλετικής ποικιλομορφίας στις οδηγίες που είχε ή να έδωσε προτεραιότητα στην εμφάνιση εικόνων με άτομα που είχαν σκουρότερες επιδερμίδες. Η Google σκοπεύει να αντιμετωπίσει αυτά τα ζητήματα ενόψει της ευρείας κυκλοφορίας του μοντέλου τεχνητής νοημοσύνης.

Η αντιπαράθεση που ξέσπασε, με επίκεντρο το Gemini, αποτυπώνει τις εντεινόμενες τριβές που προκαλούνται, καθώς εργαλεία τεχνητής νοημοσύνης, τα οποία δεν έχουν δοκιμαστεί επαρκώς, εμπλέκονται στις πολιτιστικές διαμάχες. Συντηρητικοί σχολιαστές υποστηρίζουν ότι τα νέα αυτά εργαλεία, όπως τα chatbots, μεροληπτούν υπέρ των "προοδευτικών" απόψεων. Την ίδια ώρα, οι εταιρίες που αναπτύσσουν αυτά τα μοντέλα καλούνται να αντιμετωπίσουν σημαντικές προκλήσεις που έχουν να κάνουν με την ισορροπία των δεδομένων που χρησιμοποιούν τα μοντέλα τεχνητής νοημοσύνης, προκλήσεις οι οποίες επιμένουν, παρά τις προσπάθειες αντιμετώπισής τους.

Για παράδειγμα, η OpenAI έχει αναφερθεί ήδη στις προσπάθειες που έχει καταβάλει να προσαρμόσει το δικό της μοντέλο δημιουργίας εικόνων, προκειμένου να αποτυπώνει καλύτερα τη διαφορετικότητα σε παγκόσμιο επίπεδο, εφόσον δεν προσδιορίζεται στους όρους που εισάγει ο χρήστης κάποια συγκεκριμένη φυλή. Όμως, εξακολουθούν να υφίστανται ευρύτερα προβλήματα, καθώς τα συστήματα αυτά εκπαιδεύονται βασισμένα σε περιορισμένα, δυτικο-κεντρικά δεδομένα, τα οποία αναπαράγουν στερεότυπα. Λόγου χάρη, σχετικές έρευνες έχουν διαπιστώσει ότι η τεχνητή νοημοσύνη συνδέει δυσανάλογα τα κοινωνικά επιδόματα με τις μειονότητες, παρά το γεγονός ότι τα επίσημα στοιχεία αποδεικνύουν ότι οι περισσότεροι δικαιούχοι είναι λευκοί.

Παρότι ορισμένα από τα αποτελέσματα που εμφανίζει το Gemini είναι εντελώς απίθανα, όπως για παράδειγμα η αναζήτηση που οδήγησε στη δημιουργία της εικόνας μιας Πάπισσας, κάποια άλλα εκφράζουν μια ιστορικά βάσιμη διαφορετικότητα, όπως για παράδειγμα ένας μαύρος Βίκινγκ (υπάρχουν ιστορικά στοιχεία για την παρουσία και τη συμμετοχή μαύρων στους στρατούς των Βίκινγκ που δρούσαν στη μεσαιωνική Βρετανία) ή επίσης μαύροι καρδινάλιοι (Παρενθετικά, σε περίπτωση παραίτησης του Πάπα Φραγκίσκου, μεταξύ των πιθανότερων διαδόχων του συγκαταλέγονται και καρδινάλιοι αφρικανικών και ασιατικών χωρών). Σε κάθε περίπτωση, οι αντιδράσεις αυτές καταδεικνύουν τις ιδιαίτερες εντάσεις που καταγράφονται στην κοινωνία, την ώρα που τα μοντέλα τεχνητής νοημοσύνης εμφανίζουν ραγδαία εξάπλωση.

Παράλληλα, η κατάσταση που δημιουργήθηκε υπογραμμίζει και την ανάγκη οι διάφορες εμπλεκόμενες εταιρίες να ελέγχουν αυστηρότερα τα προϊόντα που διαθέτουν στην αγορά, αποφεύγοντας βιαστικές λύσεις, που αντιμετωπίζουν τα συμπτώματα, αντί τη ρίζα του εκάστοτε ζητήματος. Προφανώς οι εταιρίες έχουν ισχυρό κίνητρο να προχωρούν γρήγορα, πριν αξιολογήσουν το πώς θα επιδράσουν τα προϊόντα τους στην κοινωνία, όμως περιπτώσεις όπως αυτές του Gemini φανερώνουν τις απρόβλεπτες παγίδες που κρύβονται ακόμη και σε δοκιμαστικές, περιορισμένης κυκλοφορίας εκδόσεις.

Αντί να γίνονται προσπάθειες περιορισμού της ζημιάς εκ των υστέρων, οι ειδικοί υπογραμμίζουν τη σημασία της εξ αρχής καλύτερης επιμέλειας του περιεχόμενου, σε ό,τι αφορά το υλικό στο οποίο βασίζεται η εκπαίδευση των μοντέλων, πριν τα τυχόν προβληματικά δεδομένα επιδεινώσουν την κατάσταση. Παράλληλα, οι εταιρίες πρέπει να έχουν μια ισορροπημένη προσέγγιση, διατηρώντας παράλληλα τις δυνατότητες της τεχνητής νοημοσύνης να αξιοποιεί και να ενσωματώνει ένα ευρύ φάσμα πληροφοριών. Εντωμεταξύ, ο έλεγχος τεραστίων όγκων δεδομένων, δημιουργεί σοβαρές προκλήσεις, σε ό,τι έχει να κάνει με το κόστος, την υποκειμενικότητα αλλά και τους χρονικούς περιορισμούς.

Καθώς η τεχνητή νοημοσύνη εξαπλώνεται στα καταναλωτικά προϊόντα, οι προσδοκίες συχνά υπερβαίνουν την ωριμότητα που πρέπει να χαρακτηρίζει τη διαχείριση των κοινωνικών παραμέτρων, παρά τις εκτενείς ερευνητικές πρωτοβουλίες που βρίσκονται σε εξέλιξη. Το θέμα που προέκυψε με το Gemini, πριν ακόμη καταστεί διαθέσιμο σε όλους τους ενδιαφερόμενους, αποτελεί χαρακτηριστικό παράδειγμα του δύσβατου περιβάλλοντος που καλούνται να αντιμετωπίσουν οι εμπλεκόμενες εταιρίες, στην προσπάθεια να αποφύγουν περιστατικά που τραυματίζουν σοβαρά τις δημόσιες σχέσεις τους, ενώ παράλληλα πρωτοπορούν, παρουσιάζοντας ριζοσπαστικές αλλά ατελείς τεχνολογίες.

Η όλη κατάσταση έρχεται να μας υπενθυμίσει το γιατί η εδραίωση της εμπιστοσύνης του κόσμου απαιτεί μετριοπάθεια αλλά και διαφάνεια, παράλληλα με την προώθηση της καινοτομίας.

Διαβάστε ολόκληρο το άρθρο

[6xXx6]

lol

[Thresh]

[mariosraptor84]

Μας τα έχουν κάνει 400 κιλά με τη διαφορετικότητα. Γελάνε τα Κόκκαλα των επιστημόνων του 17ου αιώνα. 

[neced2]

Ούτε η ΑΙ δε γλύτωσε από την woke culture..
 

[panathatube]

Όταν βλέπεις μαύρους και Ασιάτες ναζί χάριν συμπεριληπτκότητας κατανοείς ότι η Τεχνητή Νοημοσύνη χρειάζεται ακόμη πολλή δουλειά για να δικαιώσει το όνομά της. 

[Diavolos666]

Το αστείο είναι πως όταν αφήνουν ένα μοντέλο να εκπαιδευτεί οργανικά από τον κόσμο είτε με αλληλεπίδραση είτε από παρατηρήσεις των ατόμων τότε τείνει να γίνει based και το αποσύρουν επειδή είναι "ρατσιστικό", ενώ όταν το εκπαιδεύουν οι ίδιοι το κάνουν όσο πιο woke γίνεται κάτι που ο απλός κόσμος απλά το βλέπει.

Να τους πουν ότι δεν ζούμε στο 1984 (το βιβλίο ντε) και τέτοιου είδους προπαγάνδα την διαβάζουμε σαν ανοιχτό βιβλίο.

Επεξ/σία 24 Φεβρουαρίου από Diavolos666

[Nevyn]

 

Τι έβγαλε και έναν λευκό άντρα εκεί στην κάτω γωνία;

Αποσύρετε το αμέσως,πρέπει να το αναβαθμίσουν άμεσα ώστε να βεβαιωθούν στην επόμενη έκδοση πως δεν θα υπάρχει ούτε ενας

[marklar]

ουτε το παγωτο δεν μπορει να ειναι λευκο  😄

[AtiX]

και η Google στην λίστα με τις αφυπνισμένες εταιρίες, not bad για όσους ψάχνουν αποδείξεις… 

[NiKoSmile]

Ούτως ή άλλως αυτή η δυνατότητα δεν ήταν διαθέσιμη για όλες τις χώρες. Ούτε για Ελλάδα!

[fsbmaniac]

Μας εχουν ζαλίσει τα ζεα με τις υποκουλτούρες των μαυρων των κίτρινων κτλ...Και όπώς λέει ο Αφρικανικής καταγωγής συνάδελφος στην δουλειά "Μονο οι ευρωπαίοι θα ήταν τόσο ενοχικοί και μαμακες για να ενδιαφέρονται για την Αφρική...κανένας αφρικανός που έφτιαξε τη ζωή του δεν έδωσε ουτε ενα ευρώ σε όσα αφησε πίσω" Γελοίοι wokeδες 

[ontariyo]

😄

[killer76]

Woke και η google. 😂

[Diavolos666]

58 minutes ago, AtiX said:

και η Google στην λίστα με τις αφυπνισμένες εταιρίες, not bad για όσους ψάχνουν αποδείξεις… 

Δεν ψάχνουμε καν, μας τις σερβίρουν στο πιάτο χωρίς καν να χρειαστεί να το ερευνήσουμε.

Αφυπνισμένος = Awakend
Ξυπνητός = Awake
Woke = ξύπνιος με την μεταφορική έννοια

Το Woke κυριολεκτικά είναι ο αόριστος το waking (I woke up, ξύπνησα), μεταφορικά είναι ο "ξύπνιος".

Κυριολεκτικά: "Ονειρεύεται και στον ξύπνιο του (όσο δεν κοιμάται)"
Μεταφορικά: "Πολύ ξύπνιος μας το παίζει (που είναι και μεταφορά και του ξυπνητού και του έξυπνος και χρησιμοποιείται εριωνικά με την αντίθετη έννοια)

μία λέξη δύο σημασίες λοιπόν

Το woke είναι για τους κοιμισμένους που νομίζουν ότι ξύπνησαν

50 minutes ago, NiKoSmile said:

Ούτως ή άλλως αυτή η δυνατότητα δεν ήταν διαθέσιμη για όλες τις χώρες. Ούτε για Ελλάδα!

Λογικά θα ήταν διαθέσιμη για τους μαύρους που ήθελαν να δουν τον εαυτό τους αρχαίο Έλληνα

Τι σημασία έχει που ήταν διαθέσιμο, ήταν ακόμα σε beta φάση για να το τεστάρουν... και είδαμε τα αποτελέσματα.

Επεξ/σία 23 Φεβρουαρίου από Diavolos666