Η Microsoft σταμάτησε την λειτουργία της Tay στο Twitter μόλις άρχισε τις... ρατσιστικές αναρτήσεις

Η Microsoft ξεκίνησε την λειτουργία της Τεχνητής Νοημοσύνης στο Twitter ή αν θέλετε του AI chat bot, για να πραγματοποιήσει έρευνα πάνω στην κατανόηση του προφορικού λόγου με στόχο τον επιτυχημένο διάλογο. “Η Tay σχεδιάστηκε για να συμμετέχει σε συζητήσεις και να διασκεδάζει τους ανθρώπους μέσω περιστασιακών και παιχνιδιάρικων συνομιλιών. Όσο περισσότερο συνομιλείτε με την Tay, τόσο πιο έξυπνη γίνεται, οπότε και η εμπειρία μπορεί να γίνει περισσότερο εξατομικευμένη” ανακοίνωσε η Microsoft.

 

Tα προβλήματα ξεκίνησαν όταν η Τεχνητή Νοημοσύνη Tay έκανε αναφορά στον Χίτλερ και σε άλλους, και από εκεί και πέρα, τα πράγματα πήραν άσχημη τροπή.

 

Απευθυνόμενο σε χρήστες του Twitter, με ηλικία μεταξύ 18 και 24 ετών, οι λογαριασμοί KiK και GroupMe ξεκίνησα να αλληλοεπιδρούν με τον Tay, κάνοντας διάφορες ερωτήσεις για να προκαλέσουν συζήτηση κ.ά. Το πρόβλημα με την Τεχνητή Νοημοσύνη που μαθαίνει μέσω της συζήτησης, είναι ότι κάποιος μπορεί να την “χειριστεί” τροφοδοτώντας την με συγκεκριμένες πληροφορίες.

 

Ένας χρήστης για παράδειγμα ξεκίνησε να μαθαίνει στην Tay τις υποσχέσεις της προεδρικής καμπάνιας του Donald Trump, όπως την κατασκευή ενός τείχους μεταξύ των ΗΠΑ και του Μεξικού, για να κρατηθούν έξω οι παράνομοι μετανάστες. “We are going to build a wall, and Mexico is going to pay for it” (με κεφαλαία γράμματα) διαβάσαμε σε ανάρτηση του χρήστη @TayandYou.

 

Σύμφωνα με αναφορές, οι αναρτήσεις στην συνέχεια χαρακτηρίζονταν από ρατσιστικό περιεχόμενο, επειδή απλώς κάποια ανθρώπινα όντα αποφάσισαν να διασκεδάσουν λίγο παραπάνω και γενικώς να είναι πολίτες του Internet (όπου τα πάντα, όλα).

 

Ένα από τα tweets που συζητήθηκαν περισσότερο ήταν το “Bush did 9/11 and Hitler would have done a better job than the monkey we have now. Donald Trump is the only hope we’ve got”. Ένα άλλο ήταν το “Ricky Gervais learned totalitarianism from Adolf Hitler, the inventor of atheism”.

 

Μετά, η Tay σταμάτησε τις αναρτήσεις στο Twitter, και όλα τα tweets έχουν πλέον διαγραφεί από τον λογαριασμό.
https://twitter.com/TayandYou/status/712856578567839745
Αν και πολλοί βρήκαν την καταιγίδα από tweets διασκεδαστική, η Microsoft δέχτηκε αρκετές επικρίσεις επειδή δεν τοποθέτησε συγκεκριμένα φίλτρα για να εξασφαλίσει ότι το bot δεν θα αναρτούσε tweets με προσβλητικό περιεχόμενο ή επειδή δεν ανέπτυξε το εργαλείο AI αρκετά. Η Microsoft αυτή την ώρα κάνει κάποιες τροποποιήσεις στην Tay, η οποία λογικά θα επιστρέψει…

 

Site: GlobalNews
Site: WindowsCentral