Προσθήκη σχολίου (15 σχόλια)

Η Deloitte θα επιστρέψει μέρος του ποσού που έλαβε για έκθεση αξίας 440.000 δολαρίων η οποία περιείχε πολλαπλά σφάλματα, αφού παραδέχτηκε ότι χρησιμοποίησε τεχνητή νοημοσύνη για τη δημιουργία της.

Η συμβουλευτική εταιρεία αναγνώρισε τη χρήση generative AI στην εκπόνηση της μελέτης, η οποία ανατέθηκε από το Υπουργείο Απασχόλησης και Εργασιακών Σχέσεων της Αυστραλίας. Το Υπουργείο επιβεβαίωσε ότι η Deloitte θα επιστρέψει χρήματα ισοδύναμα με την τελική δόση του συμβολαίου, η οποία θα γίνει δημόσια μετά την ολοκλήρωση της συναλλαγής. Γερουσιαστής του Εργατικού Κόμματος κατηγόρησε την εταιρεία ότι έχει "πρόβλημα ανθρώπινης νοημοσύνης".

Η Deloitte είχε αναλάβει τον Δεκέμβριο του 2024 την αξιολόγηση του πλαισίου στοχευμένης συμμόρφωσης και του συστήματος πληροφορικής, που χρησιμοποιείται για την αυτοματοποίηση ποινών στο σύστημα κοινωνικής πρόνοιας όταν οι αναζητούντες εργασία δεν πληρούν τις αμοιβαίες τους υποχρεώσεις.

Όπως αναφέρει ο Guardian, η Deloitte ανέλαβε τον Δεκέμβριο του 2024 να αξιολογήσει το πληροφοριακό σύστημα που χρησιμοποιείται για την επιβολή κυρώσεων σε ανέργους οι οποίοι δεν τηρούν τις υποχρεώσεις τους στα προγράμματα απασχόλησης. Η αξιολόγηση αποκάλυψε σημαντικά προβλήματα, μεταξύ των οποίων «έλλειψη διαφάνειας» στη σύνδεση του συστήματος με τη νομοθεσία που το διέπει και «τεχνικές δυσλειτουργίες». Σύμφωνα με την έκθεση, το σύστημα φαινόταν να λειτουργεί «υπό την τιμωρητική παραδοχή ότι οι συμμετέχοντες δεν συμμορφώνονται».

Η έκθεση επαναδημοσιεύθηκε στην ιστοσελίδα του Υπουργείου την Παρασκευή, αφού η Australian Financial Review (AFR) τον Αύγουστο ανέφερε ότι εντοπίστηκαν πολλαπλά σφάλματα, συμπεριλαμβανομένων ανύπαρκτων αναφορών και παραπομπών.

Ο ακαδημαϊκός από το Πανεπιστήμιο του Σίδνεϊ, Δρ Christopher Rudge, που πρώτος εντόπισε τα σφάλματα, δήλωσε ότι η έκθεση περιείχε "παραισθήσεις" όπου τα μοντέλα τεχνητής νοημοσύνης μπορεί να συμπληρώνουν κενά, να παρερμηνεύουν δεδομένα ή να προσπαθούν να μαντέψουν απαντήσεις.

"Αντί να αντικαταστήσουν μία παραίσθηση με μία νέα 'πραγματική' αναφορά, αντικατέστησαν τις ψεύτικες αναφορές και στη νέα έκδοση υπάρχουν πέντε, έξι, επτά ή οκτώ στη θέση τους", δήλωσε. "Κάτι τέτοιο υποδηλώνει ότι ο αρχικός ισχυρισμός στο κυρίως σώμα της έκθεσης δεν βασιζόταν σε κάποια συγκεκριμένη πηγή."

Η ενημερωμένη έκδοση σημείωνε "έναν μικρό αριθμό διορθώσεων σε αναφορές και υποσημειώσεις", αλλά το Υπουργείο ανέφερε ότι δεν υπήρξαν αλλαγές στις συστάσεις της έκθεσης.

"Η Deloitte διεξήγαγε την ανεξάρτητη αξιολόγηση και επιβεβαίωσε ότι κάποιες υποσημειώσεις και αναφορές ήταν λανθασμένες", δήλωσε εκπρόσωπος του Υπουργείου. "Η ουσία της ανεξάρτητης αξιολόγησης διατηρείται και δεν υπάρχουν αλλαγές στις συστάσεις."

Στην ενημερωμένη έκδοση, η Deloitte πρόσθεσε αναφορά στη χρήση generative AI στο παράρτημα. Αναφέρει ότι ένα μέρος της έκθεσης "περιελάμβανε τη χρήση ενός εργαλείου που βασίζεται σε μεγάλο γλωσσικό μοντέλο τεχνητής νοημοσύνης (Azure OpenAI GPT-4o) με άδεια από το Υπουργείο και φιλοξενημένο στο Azure tenancy του Υπουργείου."

Η Deloitte δεν δήλωσε ότι η τεχνητή νοημοσύνη ήταν ο λόγος πίσω από τα σφάλματα στην αρχική της έκθεση και υποστήριξε τα αρχικά ευρήματα. "Οι ενημερώσεις που έγιναν δεν επηρεάζουν με κανέναν τρόπο το ουσιαστικό περιεχόμενο, τα ευρήματα και τις συστάσεις στην έκθεση", αναφέρει στην τροποποιημένη έκδοση.

Εκπρόσωπος της Deloitte δήλωσε ότι "το θέμα έχει επιλυθεί απευθείας με τον πελάτη".

Ο Rudge δήλωσε ότι, παρά την κριτική του, διστάζει να πει ότι ολόκληρη η έκθεση θα πρέπει να "θεωρηθεί ως παράνομη", επειδή τα συμπεράσματα συμφωνούν με άλλα ευρέως διαδεδομένα στοιχεία.

Η γερουσιαστής του Εργατικού Κόμματος Deborah O'Neill, που συμμετείχε σε έρευνα της γερουσίας για την ακεραιότητα των εταιρειών συμβούλων, δήλωσε ότι φαίνεται ότι "η AI αναλαμβάνει να κάνει τη βαριά δουλειά".

"Η Deloitte έχει πρόβλημα ανθρώπινης νοημοσύνης. Αυτό θα ήταν γελοίο αν δεν ήταν τόσο αξιολύπητο. Μια μερική επιστροφή μοιάζει με μερική συγγνώμη για κακής ποιότητας εργασία", δήλωσε.

"Όποιος σκέφτεται να συμβληθεί με αυτές τις εταιρείες θα πρέπει να ρωτά ακριβώς ποιος κάνει τη δουλειά για την οποία πληρώνει και να επαληθεύει αυτήν την εμπειρογνωμοσύνη και τη μη χρήση AI. Ίσως αντί για μια μεγάλη εταιρεία συμβούλων, οι αγοραστές θα ήταν καλύτερα να εγγραφούν σε μια συνδρομή του ChatGPT."

Η AFR εντόπισε πολλές εσφαλμένες αναφορές στην αρχική έκθεση, συμπεριλαμβανομένων ανύπαρκτων αναφορών καθηγητών του Πανεπιστημίου του Σίδνεϊ και του Πανεπιστημίου Lund στη Σουηδία. Η εφημερίδα ανέφερε επίσης μια επινοημένη αναφορά σε δικαστική απόφαση σε υπόθεση robodebt, Deanna Amato κατά Commonwealth. Η Deloitte έγραψε στην τελική έκθεση ότι η ενημέρωση "τροποποίησε την περίληψη της υπόθεσης Amato που περιείχε σφάλματα".

  • Sad 1
  • Haha 6