Προσθήκη σχολίου (13 σχόλια)

Μια νέα μελέτη διαπίστωσε ότι οι άνθρωποι είναι πιο πιθανό να εμπιστευτούν τα tweets που έχουν γραφτεί από γλωσσικά μοντέλα AI παρά από ανθρώπους, ανεξάρτητα από το πόσο ακριβή είναι.

Η μελέτη, που δημοσιεύθηκε στο Science Advances, συνέκρινε tweets που γράφτηκαν από πραγματικούς χρήστες του Twitter και από το μοντέλο GPT-3 της OpenAI για διάφορα επιστημονικά θέματα, όπως τα εμβόλια και η κλιματική αλλαγή.

Οι ερευνητές έκαναν έρευνα σε 697 άτομα στο διαδίκτυο και τους ζήτησαν να κρίνουν αν κάθε tweet είχε γραφτεί από άνθρωπο ή από το GPT-3 και αν περιείχε αληθινές ή ψευδείς πληροφορίες. Τα αποτελέσματα έδειξαν ότι οι άνθρωποι δυσκολεύονταν να διακρίνουν τη διαφορά μεταξύ των tweets που δημιουργούσε ο άνθρωπος και της τεχνητής νοημοσύνης και ότι εξαπατούνταν πιο εύκολα από ψευδείς πληροφορίες αν αυτές είχαν γραφτεί από το GPT-3. Αντίθετα, ήταν επίσης πιο πιθανό να αναγνωρίσουν αληθινές πληροφορίες εάν είχαν γραφτεί από το GPT-3.

Η μελέτη υποδηλώνει ότι τα γλωσσικά μοντέλα ΤΝ μπορούν να αποτελέσουν πολύ ισχυρά εργαλεία είτε για την ενημέρωση είτε για την παραπλάνηση του κοινού, ανάλογα με τον τρόπο χρήσης τους. Οι συγγραφείς προειδοποιούν ότι αυτές οι τεχνολογίες θα μπορούσαν να αποτελέσουν όπλο για τη διάδοση της παραπληροφόρησης σε οποιοδήποτε θέμα της επιλογής τους, ειδικά από τη στιγμή που γίνονται όλο και πιο προηγμένες και προσιτές. Για παράδειγμα, το ChatGPT είναι μια εφαρμογή που επιτρέπει στους χρήστες να γράφουν tweets με τη βοήθεια των μοντέλων GPT-3.5 ή GPT-4.

Ωστόσο, η μελέτη προσφέρει επίσης ορισμένους τρόπους για την πρόληψη ή την αντιμετώπιση αυτής της απειλής. Ένας από αυτούς είναι η βελτίωση των συνόλων δεδομένων εκπαίδευσης που χρησιμοποιούνται για την ανάπτυξη γλωσσικών μοντέλων, ώστε να περιέχουν πιο ακριβείς και αξιόπιστες πληροφορίες. Ένας άλλος είναι η ενθάρρυνση των δεξιοτήτων κριτικής σκέψης μεταξύ των ανθρώπων, ώστε να μπορούν να διακρίνουν καλύτερα μεταξύ γεγονότων και μυθοπλασίας. Μια τρίτη είναι η χρήση γλωσσικών μοντέλων σε συνδυασμό με ανθρώπινους “ελεγκτές γεγονότων” για τη βελτίωση των νόμιμων εκστρατειών ενημέρωσης του κοινού.

Ο επικεφαλής συγγραφέας της μελέτης, Giovanni Spitale, δηλώνει ότι είναι μεγάλος οπαδός των γλωσσικών μοντέλων τεχνητής νοημοσύνης και ότι έχουν τη δυνατότητα να αλλάξουν τον κόσμο προς το καλύτερο. Λέει ότι εναπόκειται σε εμάς να αποφασίσουμε πώς θα τα χρησιμοποιήσουμε και τι είδους σκοπιμότητα θα ενισχύσουμε με αυτά.