Η Deloitte παραδέχεται χρήση τεχνητής νοημοσύνης σε έκθεση κόστους 440.000 δολαρίων, με πολλαπλά σφάλματα

[Axlmon]

Η Deloitte θα επιστρέψει μέρος του ποσού που έλαβε για έκθεση αξίας 440.000 δολαρίων η οποία περιείχε πολλαπλά σφάλματα, αφού παραδέχτηκε ότι χρησιμοποίησε τεχνητή νοημοσύνη για τη δημιουργία της.

Η συμβουλευτική εταιρεία αναγνώρισε τη χρήση generative AI στην εκπόνηση της μελέτης, η οποία ανατέθηκε από το Υπουργείο Απασχόλησης και Εργασιακών Σχέσεων της Αυστραλίας. Το Υπουργείο επιβεβαίωσε ότι η Deloitte θα επιστρέψει χρήματα ισοδύναμα με την τελική δόση του συμβολαίου, η οποία θα γίνει δημόσια μετά την ολοκλήρωση της συναλλαγής. Γερουσιαστής του Εργατικού Κόμματος κατηγόρησε την εταιρεία ότι έχει "πρόβλημα ανθρώπινης νοημοσύνης".

Η Deloitte είχε αναλάβει τον Δεκέμβριο του 2024 την αξιολόγηση του πλαισίου στοχευμένης συμμόρφωσης και του συστήματος πληροφορικής, που χρησιμοποιείται για την αυτοματοποίηση ποινών στο σύστημα κοινωνικής πρόνοιας όταν οι αναζητούντες εργασία δεν πληρούν τις αμοιβαίες τους υποχρεώσεις.

Όπως αναφέρει ο Guardian, η Deloitte ανέλαβε τον Δεκέμβριο του 2024 να αξιολογήσει το πληροφοριακό σύστημα που χρησιμοποιείται για την επιβολή κυρώσεων σε ανέργους οι οποίοι δεν τηρούν τις υποχρεώσεις τους στα προγράμματα απασχόλησης. Η αξιολόγηση αποκάλυψε σημαντικά προβλήματα, μεταξύ των οποίων «έλλειψη διαφάνειας» στη σύνδεση του συστήματος με τη νομοθεσία που το διέπει και «τεχνικές δυσλειτουργίες». Σύμφωνα με την έκθεση, το σύστημα φαινόταν να λειτουργεί «υπό την τιμωρητική παραδοχή ότι οι συμμετέχοντες δεν συμμορφώνονται».

Η έκθεση επαναδημοσιεύθηκε στην ιστοσελίδα του Υπουργείου την Παρασκευή, αφού η Australian Financial Review (AFR) τον Αύγουστο ανέφερε ότι εντοπίστηκαν πολλαπλά σφάλματα, συμπεριλαμβανομένων ανύπαρκτων αναφορών και παραπομπών.

Ο ακαδημαϊκός από το Πανεπιστήμιο του Σίδνεϊ, Δρ Christopher Rudge, που πρώτος εντόπισε τα σφάλματα, δήλωσε ότι η έκθεση περιείχε "παραισθήσεις" όπου τα μοντέλα τεχνητής νοημοσύνης μπορεί να συμπληρώνουν κενά, να παρερμηνεύουν δεδομένα ή να προσπαθούν να μαντέψουν απαντήσεις.

"Αντί να αντικαταστήσουν μία παραίσθηση με μία νέα 'πραγματική' αναφορά, αντικατέστησαν τις ψεύτικες αναφορές και στη νέα έκδοση υπάρχουν πέντε, έξι, επτά ή οκτώ στη θέση τους", δήλωσε. "Κάτι τέτοιο υποδηλώνει ότι ο αρχικός ισχυρισμός στο κυρίως σώμα της έκθεσης δεν βασιζόταν σε κάποια συγκεκριμένη πηγή."

Η ενημερωμένη έκδοση σημείωνε "έναν μικρό αριθμό διορθώσεων σε αναφορές και υποσημειώσεις", αλλά το Υπουργείο ανέφερε ότι δεν υπήρξαν αλλαγές στις συστάσεις της έκθεσης.

"Η Deloitte διεξήγαγε την ανεξάρτητη αξιολόγηση και επιβεβαίωσε ότι κάποιες υποσημειώσεις και αναφορές ήταν λανθασμένες", δήλωσε εκπρόσωπος του Υπουργείου. "Η ουσία της ανεξάρτητης αξιολόγησης διατηρείται και δεν υπάρχουν αλλαγές στις συστάσεις."

Στην ενημερωμένη έκδοση, η Deloitte πρόσθεσε αναφορά στη χρήση generative AI στο παράρτημα. Αναφέρει ότι ένα μέρος της έκθεσης "περιελάμβανε τη χρήση ενός εργαλείου που βασίζεται σε μεγάλο γλωσσικό μοντέλο τεχνητής νοημοσύνης (Azure OpenAI GPT-4o) με άδεια από το Υπουργείο και φιλοξενημένο στο Azure tenancy του Υπουργείου."

Η Deloitte δεν δήλωσε ότι η τεχνητή νοημοσύνη ήταν ο λόγος πίσω από τα σφάλματα στην αρχική της έκθεση και υποστήριξε τα αρχικά ευρήματα. "Οι ενημερώσεις που έγιναν δεν επηρεάζουν με κανέναν τρόπο το ουσιαστικό περιεχόμενο, τα ευρήματα και τις συστάσεις στην έκθεση", αναφέρει στην τροποποιημένη έκδοση.

Εκπρόσωπος της Deloitte δήλωσε ότι "το θέμα έχει επιλυθεί απευθείας με τον πελάτη".

Ο Rudge δήλωσε ότι, παρά την κριτική του, διστάζει να πει ότι ολόκληρη η έκθεση θα πρέπει να "θεωρηθεί ως παράνομη", επειδή τα συμπεράσματα συμφωνούν με άλλα ευρέως διαδεδομένα στοιχεία.

Η γερουσιαστής του Εργατικού Κόμματος Deborah O'Neill, που συμμετείχε σε έρευνα της γερουσίας για την ακεραιότητα των εταιρειών συμβούλων, δήλωσε ότι φαίνεται ότι "η AI αναλαμβάνει να κάνει τη βαριά δουλειά".

"Η Deloitte έχει πρόβλημα ανθρώπινης νοημοσύνης. Αυτό θα ήταν γελοίο αν δεν ήταν τόσο αξιολύπητο. Μια μερική επιστροφή μοιάζει με μερική συγγνώμη για κακής ποιότητας εργασία", δήλωσε.

"Όποιος σκέφτεται να συμβληθεί με αυτές τις εταιρείες θα πρέπει να ρωτά ακριβώς ποιος κάνει τη δουλειά για την οποία πληρώνει και να επαληθεύει αυτήν την εμπειρογνωμοσύνη και τη μη χρήση AI. Ίσως αντί για μια μεγάλη εταιρεία συμβούλων, οι αγοραστές θα ήταν καλύτερα να εγγραφούν σε μια συνδρομή του ChatGPT."

Η AFR εντόπισε πολλές εσφαλμένες αναφορές στην αρχική έκθεση, συμπεριλαμβανομένων ανύπαρκτων αναφορών καθηγητών του Πανεπιστημίου του Σίδνεϊ και του Πανεπιστημίου Lund στη Σουηδία. Η εφημερίδα ανέφερε επίσης μια επινοημένη αναφορά σε δικαστική απόφαση σε υπόθεση robodebt, Deanna Amato κατά Commonwealth. Η Deloitte έγραψε στην τελική έκθεση ότι η ενημέρωση "τροποποίησε την περίληψη της υπόθεσης Amato που περιείχε σφάλματα".

View full article

[M A T R I X]

[fylatos]

Με gpt 4mini local και χωρίς plugin δεν γμσ κάνεις.

Επεξ/σία πριν από 18 ώρες από fylatos

[Arkin]

Σε πιανει μια αηδια κυριολεκτικα ρε παιδια με το ολο AI thing. Μηδεν ταυτοτητα στα παντα μηδεν δουλεια στα παντα. Τα πετανε ολα στο ΑΙ και οτι βγαλει παει και η ελευθερη βουληση και ο χαρακτηρας και ολα. Ερχονται δυσκολες μερες σε πολλα πραγματα στην τεχνη. Ελπιζω να σταματησει αυτο το πραγμα γιατι θα εξαφανιστουν τα παντα σε λιγα χρονια. 

[mariosnik_]

11 λεπτά πριν, Arkin είπε

Σε πιανει μια αηδια κυριολεκτικα ρε παιδια με το ολο AI thing. Μηδεν ταυτοτητα στα παντα μηδεν δουλεια στα παντα. Τα πετανε ολα στο ΑΙ και οτι βγαλει παει και η ελευθερη βουληση και ο χαρακτηρας και ολα. Ερχονται δυσκολες μερες σε πολλα πραγματα στην τεχνη. Ελπιζω να σταματησει αυτο το πραγμα γιατι θα εξαφανιστουν τα παντα σε λιγα χρονια. 

Η ΑΙ είναι ένα καλό εργαλείο αν αξιοποιειται σωστά. 

Αν αξιοποιειται με σκοπό πως να λουφαρουμε από την δουλειά και πως να μην κουραστούμε χωρίς να μας ενδιαφέρει τίποτε άλλο, εκεί αρχίζουν αλλα προβλήματα. 

[Arkin]

Μόλις τώρα, mariosnik_ είπε

Η ΑΙ είναι ένα καλό εργαλείο αν αξιοποιειται σωστά. 

Αν αξιοποιειται με σκοπό πως να λουφαρουμε από την δουλειά και πως να μην κουραστούμε χωρίς να μας ενδιαφέρει τίποτε άλλο, εκεί αρχίζουν αλλα προβλήματα. 

Ο ανθρωπος εχει την ταση να αυτοκαταστρεφετε. Το ΑΙ ειναι μια ακομα επιλογη για να το κανει αυτο. Τραγικο αλλα αληθινο. Εγω απλα ελπιζω να μην καταστρεψουν την τεχνη και να συνεχισουμε να βλεπουμε ταινιες σειρες παιχνιδια με ταυτοτητα και χαρακτηρα. Αλλιως ζητω που καηκαμε. Απο εκει και περα ο καθενας μπορει να το κανει οτι γουσταρει απλα να το παρει χαμπαρι τι ειναι το ΑΙ πριν να ειναι αργα. 

[cpc464]

Τι σόι έκθεση είναι αυτή που πληρώνεται τόσο;, απο ότι κατάλαβα το αντικείμενο ήταν το TCF,αυτόματο σύστημα που ελέγχει πληρωμές και συμμόρφωση των ανέργων, επίσης έχουν κάνει έργο και για Ελλάδα, μελέτη με τίτλο «Η Επίδραση της Δημιουργικής Τεχνητής Νοημοσύνης (Gen AI) στην ελληνική οικονομία», που στηρίχθηκε σε έρευνα μεταξύ επιχειρήσεων και εκτιμά την επίδραση του Gen AI στο ΑΕΠ έως το 2030, να ανησυχούμε;.

Επεξ/σία πριν από 17 ώρες από cpc464

[panagiotis1988]

Η ΑΙ ειναι ενα εξαιρετικο εργαλείο. Η generative Ai ειναι προβληματικη που ειναι σαν να έχει iq κοντά στο 0. 

Επεξ/σία πριν από 17 ώρες από panagiotis1988

[dasimo]

επρεπε να "τρεχουν" σε GPT5.....αυτό ηταν το λάθος!

[butters]

45 λεπτά πριν, mariosnik_ είπε

Η ΑΙ είναι ένα καλό εργαλείο αν αξιοποιειται σωστά. 

Αν αξιοποιειται με σκοπό πως να λουφαρουμε από την δουλειά και πως να μην κουραστούμε χωρίς να μας ενδιαφέρει τίποτε άλλο, εκεί αρχίζουν αλλα προβλήματα. 

Η Deloitte έχει φήμη σκληρής γαλέρας. Ο σκοπός δεν είναι η λούφα, είναι η αισχροκέρδεια. Εξάλλου ίσως, ίσως κάποιες συμβουλευτικές να χρεώνουν εργατοώρες senior για δουλειά που γίνεται από associates.   

40 λεπτά πριν, cpc464 είπε

Τι σόι έκθεση είναι αυτή που πληρώνεται τόσο;

Deloitte's global revenue in FY2025 was $70.5 billion. Ήταν μια από τις πολλές εκθέσεις και project που τρέχει η Deloitte παγκοσμίως. Ίσως να υπάρχει και pattern που θα εμφανιστεί και σε άλλες εκθέσεις / πονήματά της. 

Στο τέλος, η ποιότητα θα παραμείνει το ζητούμενο, πιθανότατα με τη συνδρομή της τεχνητής νοημοσύνης. Και όλος ο κύκλος AI πληροφοριών που είναι λάθος θα απαξιωθεί. 

Επεξ/σία πριν από 16 ώρες από butters

[Marrio]

Όποιος βιάζεται (για χρήμα) σκοντάφτει 

[kinitos]

Εγώ δεν θα σχολιάσω το λάθος του να δίνεις σε αι τα παντα αλλα αν αυτό γίνονταν στην ελλαδα νομίζω οτι θα δίναμε και έξτρα λεφτα για να γίνει σωστότερη εκθεση ίσως με αλλο αι μοντέλο. Και αλλη μια μετα ίσως χωρίς μοντέλο. 

Τον σίγουρο ειναι οτι λεφτά δεν θα έδινε η εταιρεία πισω 

[freegr]

Δηλαδή με άλλα λόγια πολλά πεταμένα λεφτά 

[mariosnik_]

3 ώρες πριν, Arkin είπε

Ο ανθρωπος εχει την ταση να αυτοκαταστρεφετε. Το ΑΙ ειναι μια ακομα επιλογη για να το κανει αυτο. Τραγικο αλλα αληθινο. Εγω απλα ελπιζω να μην καταστρεψουν την τεχνη και να συνεχισουμε να βλεπουμε ταινιες σειρες παιχνιδια με ταυτοτητα και χαρακτηρα. Αλλιως ζητω που καηκαμε. Απο εκει και περα ο καθενας μπορει να το κανει οτι γουσταρει απλα να το παρει χαμπαρι τι ειναι το ΑΙ πριν να ειναι αργα. 

Προς το παρών, την ΑΙ ας την ξεχάσουμε για μεγάλης κλίμακας games, video και άλλα είδη τέχνης. Μόνο στις εικόνες μπορεί να προσφέρει κάτι αλλά ένα έμπειρο μάτι την αντιλαμβάνεται σχετικά. Αν όμως εξελιχτεί πολύ, θα υπάρχει πρόβλημα σε όλα αυτά. 

[spectaculator]

Μεγάλη βοήθεια η ΤΝ. Όταν όμως το σκαρίφημά της σε ξεπερνά σε τέτοιο βαθμό που δεν μπορείς να επαληθεύσεις, ή να αναπροσαρμόσεις αυτό που θα σου δώσει στις απαιτήσεις της εφαρμογής του, τότε γίνεται πρόβλημα. Κάπου στο μέλλον θα ξεπεραστεί κι αυτό. Ήδη υπάρχουν ΤΝ που επαληθεύουν αυτά που παράγουν άλλες ΤΝ. Ακούγεται κομμάτι οξύμωρο, αλλά...