Η νέα AI της Google δεν θα μετατρέπει κείμενο σχετικό με εγκλήματα, πορνογραφία και ρατσισμό σε βίντεο

[polemikos]

Η Google εργάζεται στην ανάπτυξη μίας νέας «video-generating» Τεχνητής Νοημοσύνης (AI).

Η Τεχνητή Νοημοσύνη σχεδιάστηκε για να μετατρέπει κείμενο σε βίντεο και έχει την ονομασία «Imagen Video». Η γνωστή εταιρεία έκανε γνωστό πάντως ότι δεν θα επιτρέψει τη μετατροπή κειμένου που σχετίζεται με το έγκλημα, τον ρατσισμό ή την πορνογραφία από την «Imagen Video».

H Google εργάζεται εδώ και πολλά χρόνια σε διάφορα συστήματα Τεχνητής Νοημοσύνης που έχουν σχεδιαστεί για την παραγωγή εικόνων από μηνύματα κειμένου. Ένα από αυτά τα συστήματα είναι και το Dream Fields, το οποίο πρωτοπαρουσιάστηκε το 2021 και παράγει τρισδιάστατες εικόνες.

Όμως, τώρα, αρχίζουμε να ακούμε για το σύστημα «Imagen Video», και ενδεχομένως για τους λάθος λόγους, με την Google να αναφέρει σε μία πρόσφατη ερευνητική εργασία που δημοσίευσε για το σύστημα Imagen Video ότι δεν πρόκειται να το διαθέσει ευρέως ωσότου διορθωθούν όλα τα παραπάνω ζητήματα.

Στην ενότητα «Περιορισμοί και κοινωνικός αντίκτυπος» στο κείμενο που δόθηκε στη δημοσιότητα, η Google επισημαίνει ότι η διάθεση μοντέλων τεχνητής νοημοσύνης όπως το Imagen Video έχει αντίκτυπο στην κοινωνία, τόσο θετικό όσο και αρνητικό, καθώς το σύστημα τεχνητής νοημοσύνης αποτελεί στην ουσία έναν ενισχυτή της ανθρώπινης δημιουργικότητας. Η Google εξηγεί ότι τέτοια «generative» μοντέλα Τεχνητής Νοημοσύνης χρησιμοποιούνται πολλές φορές καταχρηστικά από άτομα για την παραγωγή ψευδούς, ακατάλληλου, και επιβλαβούς περιεχομένου, που πολλές φορές προάγει το μίσος.

Έχοντας επίγνωση των παγίδων, η Google δηλώνει ότι έχει λάβει μέτρα για να ελαχιστοποιήσει τις όποιες ανησυχίες και πως κατά τη διάρκεια των εσωτερικών δοκιμών, εφάρμοσε φιλτράρισμα κειμένου και φιλτράρισμα περιεχομένου βίντεο για να αποτρέψει την παραγωγή επιβλαβούς περιεχομένου από την Τεχνητή Νοημοσύνη.

Δυστυχώς, δεν είναι τόσο απλό, ακόμα και για την Google, να δώσει τις κατευθυντήριες γραμμές στην Τεχνητή Νοημοσύνη ώστε να την αποτρέψει από το να παράγει περιεχόμενο το οποίο οι άνθρωποι ενδέχεται να θεωρήσουν προσβλητικό. Η Google πάντως δηλώνει ότι το σύστημα εκπαιδεύτηκε σε «προβληματικά δεδομένα» και ότι, ενώ τα αποτελέσματα των εσωτερικών δοκιμών δείχνουν ότι μεγάλο μέρος του προβληματικού περιεχομένου καταργήθηκε ή αποτράπηκε, εντούτοις εξακολουθεί να παράγει περιεχόμενο που ορισμένοι μπορεί να θεωρήσουν στερεοτυπικό ή κοινωνικά προκατειλημμένο. Δεδομένου ότι οι κοινωνικές προκαταλήψεις και τα στερεότυπα παραμένουν επί του παρόντος, η Google αποφάσισε να μην διαθέσει το μοντέλο Τεχνητής Νοημοσύνης «Imagen Video» ή τον πηγαίο κώδικα του μέχρι να αντιμετωπίσει πλήρως ή έστω να μετριάσει τα συγκεκριμένα ζητήματα.

Η Google δικαίως ανησυχεί για τη δύναμη του μοντέλου «Imagen Video», και ότι το γεγονός ότι παραδέχεται στην ερευνητική της εργασία ότι αγωνίζεται να μειώσει τις πιθανότητες παραγωγής επιβλαβούς περιεχομένου από την Τεχνητή Νοημοσύνη, υπογραμμίζει έναν απλό αλλά σημαντικό παράγοντα για τα συστήματα τεχνητής νοημοσύνης που εκπαιδεύονται χρησιμοποιώντας μεγάλες δεξαμενές δεδομένων. Αν και μπορεί να αποτελεί εξαιρετικά μεγάλο επίτευγμα η δημιουργία ενός συστήματος Τεχνητής Νοημοσύνης που είναι ικανό να παράγει περιεχόμενο βίντεο από μηνύματα κειμένου, πρέπει να ληφθεί υπόψη και ο αντίκτυπος του στην κοινωνία. Ευτυχώς, αυτό είναι κάτι που φαίνεται να λαμβάνει υπόψη της η Google.

Διαβάστε ολόκληρο το άρθρο

[pcos]

boring 

[stivaks72]

Δηλαδή η φράση "Ο Ολυμπιακός είναι σουρωτήρι" δεν θα περνάει; 🤣

[panos2310]

Θα δημοσιοποιηθει ο πηγαιος κωδικας; Εχει καμια ιδιαιτερη αξια; Το μοντελο δεν ειναι το σημαντικο; 
 

επισης πως μπορεις να αφαιρεσεις στοιχεια που παραγουν προσβλητικο περιεχομενο; Μπορει καποιος να κανει παρεμβαση σε εκπαιδευμενο μοντελο και να αλλαξει τα αποτελεσματα που δινει; Να φιλτραρει input output ισως εννοει; Να το εξπαιδευσει ξανα με τροποποιημενα δεδομενα ισως;  Ξερει κανεις (ανθρωπος) τι γινεται μεσα σε ενα μοντελο; 

Μηπως η πραγματικη ειδηση ειναι ηδημοσιοποιηση του dalle;

 

 

 

Επεξ/σία 12 Οκτωβρίου 2022 από panos2310

[Giannis_siag]

ασε τις βλακειες google και φερε pixel στην ελλαδα

αντε αρκετα ασχοληθήκαμε με τα xiaomi και samsung

[dum83]

Το πρόβλημα δεν είναι να μην περιέχονται τέτοια θέματα, το θέμα είναι ποια βίντεο θα τοποθετεί σε αυτές τις κατηγορίες και θα τα ακυρώνει.

[basilis_k6]

αν και καταλαβαινω το σκεπτικο και συμφωνω εν μέρη, με ενοχλεί πολύ που η πορνογραφία εξισώνεται με παράνομες, ανηθικες και εγκληματικές συνήθειες. 

[mastros7]

Δώρον αδωρον!.. χίλιες φορές να τα αφήνει και μόλις οι πιάσει κάτι ανάλογο να στέλνει της IP στις αρμόδιες αρχές για να πιάσουν και κανέναν!..

[loulakion]

7 ώρες πριν, pcos είπε

boring 

ίσα ίσα, θα είχε και χώρο να ξεδώσει κάθε διαστροφή, από το να την κρατάνε αποθημένο 

 

[ckom26]

> περιεχόμενο που ορισμένοι μπορεί να θεωρήσουν προσβλητικό

Ναι, μην στάξει του γαϊδάρου η ουρά...

[MixalisX]

προτεινόμενα tags porn : #RTX 4090  #150$ #instock