Ένοχη δήλωσε η οδηγός ασφαλείας του αυτόνομου οχήματος της Uber που ενεπλάκη σε θανατηφόρο τροχαίο ατύχημα

[Armoral]

3 ώρες πριν, Reptile47 είπε

Αν η safety driver εκανε σωστα τη δουλεια της, δεν θα σκοτωνε κανεναν... Το συστημα ειχε σχεδιαστει με τον safety driver in the loop. Απο τη στιγμη που η safety driver εβεπε βιντεακια και δεν ηταν engaged στην οδηγηση, μιλαμε για αλλο συστημα.
Για παραδειγμα, ενα συμβατικό αυτοκινητο με απλο cruise control εχει σχεδιαστει με τον οδηγο in the loop: αν πλησιασει πολυ κοντα στο προπορευομενο οχημα πρεπει ο οδηγος να παρεμβει και να μειωσει ταχυτητα αλλιως θα συγκρουστουν.  Δεν μπορεις να πεις οτι φταιει το συστημα αν ο οδηγος δεν κανει αυτο που πρεπει, για τον οποιονδηποτε λογο...
Το δυσκολο με αυτα τα trials ειναι οτι ο safety driver μετα απο μερες/μηνες οδηγησης εμπιστευεται τοσο πολυ το συστημα που η προσοχη του αποσπαται απο την οδηγηση ολο και περισσοτερο. Πλεον στα trials οι εταιρειες εγκαθιστουν συστηματα που παρακολουθουν την ιριδα του safety driver και μπορουν να εξασφαλισουν οτι τουλαχιστον κοιταει το δρομο και δεν χαζευει στο κινητο ή κοιμαται...
 

Ο πιθανοτερος λογος που το συστημα δεν ενεργησε στον στοχο ειναι οτι τον θεωρησε false positive. To object recognition γινεται μεσα απο deep learning αλγοριθμο και μαλλον το δειγμα που χρησιμοποιηθηκε δεν ηταν επαρκες ωστε να αναγνωριστει ο ανθρωπος σωστα.
Τα false positive ειναι τα πιο δυσκολα στην αντιμετωπιση. Αν το οχημα φρεναρε σε οτιδηποτε αγνωστο εβλεπε στο δρομο τα ατυχηματα θα ηταν πολυ περισσοτερα. Σκεψου για παραδειγμα οδηγη στην Εθνικη, ο μπροστινος παταει ενα σκουπιδι (μια σακουλα πχ) και το οχημα ξαφνικα φρεναρει απο το πουθενα με 120 km/h. Ή ακομα οδγηση στην πολη και πεφτουν φυλλα απο ενα δεντρο...
Σιγουρα το συστημα θα επρεπε σε 5.6 δευτερολεπτα να αναγνωρισει τον ανθρωπο αλλα γι'αυτο εχεις στα trials εναν safety driver. Η διαδικασια θα ηταν να αναλαβει τον ελεγχο, να κανει report το περιστατικο και μετα η AI team εμπλουτιζει το perception data set με αντιπροσωπευτικο υλικο ωστε να αναγνωριζονται και οι πεζοι που κρατανε το ποδηλατο στο χερι... 

Τι ωραία και χαλαρά μιλάμε όταν ο άνθρωπος που χάνεται δεν είναι δικός μας ή ακόμα χειρότερα εμείς πάντως. Σας πάω που έλεγε και ο Χριστόδουλος.

[sv398]

7 minutes ago, Tlykog said:

Αυτό που απαντάς είναι άσχετο.

Δεν έκανα καμία σύγκριση. Μίλησα καθαρά για την αυτόνομη οδήγηση.

Αυτό που απαντάς είναι άσχετο.

Δεν έκανα καμία σύγκριση. Σχόλιο έκανα.

[Tlykog]

9 λεπτά πριν, sv398 είπε

Αυτό που απαντάς είναι άσχετο.

Δεν έκανα καμία σύγκριση. Σχόλιο έκανα.

Όταν μιλάμε για αυτόνομη οδήγηση, εννοούμε αυτόνομη. Δηλαδή να μην χρειάζεται και άνθρωπο να επιτηρεί. Εδώ είχαμε, πρακτικά, ημιαυτόνομη και ο άνθρωπος χάζευε γιατί πίστεψε ότι η "αυτόνομη" οδήγηση ήταν ασφαλής και η δική του συνδρομή δεν είναι απαραίτητη. 

Άρα δεν υπάρχει ακόμα αυτόνομη οδήγηση. Αυτό είπα.

Σχόλιο σε κάτι που μετέφρασες εσύ με το δικό σου τρόπο και όχι σύμφωνα με αυτό που έγραψα.

Γι αυτό και σου απαντάω.

Με την ίδια λογική, τη δική σου, αν αυτό που απαντάω τώρα είναι άσχετο, δεν ισχύει. Αυτό που έγραψες τώρα είναι άσχετο...

Και εγώ σχόλιο έκανα....

Όπως καταλαβαίνεις δεν είναι έτσι...

Κάνε όσα σχόλια θέλεις. Δικαίωμά σου. Όταν παραθέτεις κάτι που έχει γράψει κάποιος άλλος σημαίνει ότι το σχόλιό σου αφορά αυτό που έγραψε. 

Επεξ/σία 2 Αυγούστου 2023 από Tlykog

[james01gr]

8 ώρες πριν, filip123go είπε

Εαν στην Ελλάδα οδηγούσαμε όλοι αυτόνομα, τα θανατηφόρα ατυχήματα θα μειωνόταν. 

Εγώ πιστεύω πως θα έψαχναν τρόπο νλνα χακαρουν το σύστημα για να οδηγάει το πνεύμα του Σένα ή ο κλώνος του Φερσταπεν. 

5 ώρες πριν, anax111 είπε

.....Το αυτοκίνητο εντόπισε την Elaine Herzberg να διασχίζει τον δρόμο με το ποδήλατό της 5,6 δευτερόλεπτα πριν από την πρόσκρουση ωστόσο παρόλο που το σύστημα συνέχισε να την παρακολουθεί μέχρι τελικά να την χτυπήσει θανάσιμα, δεν κατάφερε να την αναγνωρίσει σωστά ως πεζό για να ενεργοποιηθεί το αυτόματο σύστημα πέδησης αλλά ούτε κατάφερε να εκτιμήσει την πορεία της για να προχωρήσει σε κάποια μανούβρα αποφυγής......

 

Μισό λεπτό να καταλάβω: Το αυτόματο σύστημα εντόπισε ένα κινούμενο εμπόδιο του οποίου δεν μπορούσε να προβλέψει την πορεία και πήγε και στούκαρε επάνω του! Δεν άλλαξε πορεία, δεν πάτησε καν φρένο (!) δεν έκοψε ταχύτητα, απλά το εντόπισε, το παρακολούθησε και στούκαρε πάνω του!  Για ποιο λόγο; Για να το εξολοθρεύσει; Συγνώμη αλλά τι sc@t@ προγραμματισμό έχει αυτό το αυτόματο σύστημα; Ποιος ηλίθιος το προγραμμάτισε;  Η λογική αντίδραση του συστήματος από την στιγμή που εντόπισε ένα απρόβλεπτο εμπόδιο στον δρόμο, οποιουδήποτε είδους,  θα ήταν να κόψει άμεσα ταχύτητα και εάν υπάρχει οποιαδήποτε πιθανότητα σύγκρουσης να σταματήσει τελείως το όχημα. Αντ' αυτού το σύστημα αφού εντόπισε τον πεζό πήγε και έπεσε πάνω του!  Εμένα αυτό δεν μου μοιάζει για σύστημα αυτόματης οδήγησης αλλά για σύστημα εγκλωβισμού στόχων!  Από που διάολο ξεσήκωσε αυτό το πρόγραμμα η Uber; Από τα F16; Αλλοίμονό μας εάν έρθει αυτό το σύστημα και προς τα μας. Έτσι όπως οι πεζοί εδώ πέρα δεν τηρούν ούτε τις διαβάσεις και περνάν τον δρόμο από όπου τους καπνίσει τα αυτόνομα οχήματα της Uber θα τους λιανίσουν!  

Μα αυτό λέει. Πως το αυτοκίνητο αναγνώρισε πως υπήρχε εμπόδιο όμως έπεσε πάνω του. Γιατί δεν κατάλαβε πως ήταν πεζός, προφανώς γιατί είχε το ποδηλατο  μαζί της. Προφανώς το ίδιο θα έκανε εάν στην θέση του πεζού ήταν τοίχος. Θα τον αναγνώριζε και θα έπεφτε πάνω του. Και από ότι είδες έκαναν δοκιμές αλλά η δικλειδα ασφαλείας πέταγε αετό... 

[Just_travel_everywhere]

9 ώρες πριν, Tlykog είπε

Αν μετράνε και σκορ πχ παππούς με μαγκούρα 2000 points, γιαγιά με καροτσάκι 2500 points, προβλέπω high score...

Ειδικά την Κυριακή μετά την εκκλησία και κοντά σε λαϊκές αγορές...

Δεν υπάρχει κουλτούρα. Τί περιμένεις; 

Χάθηκε ο κόσμος να δει Netflix; Disney+;... Ant1+;

 Πέρα από την πλάκα, δυστυχώς, το ατύχημα ήταν θανατηφόρο και ήρθε να μας θυμίσει ότι η αυτόνομη οδήγηση έχει προχωρήσει πολύ, αλλά θέλει ακόμα δουλειά...

Επίσης στο αυτοκίνητο όπως αναφέρεται είχε απενεργοποιηθεί η αυτόματη πέδηση !!! Για να μη προκαλέσει ασυμβατότητα λέει η Uber !! Αν είναι δυνατόν . 

[thanosAIAS]

15 ώρες πριν, Reptile47 είπε

Εχουν γινει οι δοκιμες σε ελεγχομενο περιβαλλον, η εταιρεια εχει συντάξει safety case,  το safety case εχει εγκριθει απο το ελεγκτικο συμβουλιο της πολιτειας, η οποια εκρινε οτι ειναι επαρκες και εδωσε αδεια στην εταιρεια να κανει δοκιμες σε κανονικο δρομο , με τον safety driver να αναλαμβάνει την εποπτεια του συστηματος... 

Δεν προβλεπεται να τιμωρηθει η εταιρεια, οχι σε trial τουλαχιστον. Η Πολιτεια ενεκρινε safety case και risk assessment, στα οποια υπευθυνος ειναι ο safety driver. Εχει λαβει ειδικη εκπαιδευση για να αναλαμβανει τον ελεγχο σε περιπτωση που το συστημα παρουσιασει σφαλμα. 

η εργοστασιακή ρύθμιση του οχήματος όσον αφορά την αυτόματη πέδηση έκτακτης ανάγκης είχε απενεργοποιηθεί από την ίδια την Uber για να αποφευχθεί οποιαδήποτε ασυμβατότητα με το λογισμικό αυτόνομης οδήγησης

[anax111]

13 ώρες πριν, Vasilisxd είπε

"Κάτι ακόμα που έγινε γνωστό, είναι ότι η εργοστασιακή ρύθμιση του οχήματος όσον αφορά την αυτόματη πέδηση έκτακτης ανάγκης είχε απενεργοποιηθεί"

Δεν έχει και πολύ σημασία αυτό που γράφεις. Δεν είναι μόνο ότι το αυτοκίνητο απέτυχε να σταματήσει, απέτυχε επίσης να αλλάξει πορεία και απέτυχε να μειώσει ταχύτητα. Μιλάμε για ολική αποτυχία του συστήματος σε κάθε επίπεδο που οδήγησε στον θάνατο ενός ανθρώπου. 

[mkirikis]

Ένα χρόνο μετά, το 2019, το γραφείο του εισαγγελέα της Αριζόνα κατέληξε στην απόφαση να μην βρεθεί αντιμέτωπη η Uber με ποινικές διώξεις για το δυστύχημα. Παρόλα αυτά, το ίδιο έτος και μετά από σχετική έρευνα για τα αίτια του δυστυχήματος, το Εθνικό Συμβούλιο Ασφάλειας Μεταφορών κατέληξε στο συμπέρασμα ότι η εταιρεία ευθυνόταν για ορισμένα ζητήματα ασφάλειας.

 

Πόσα να πήρε ο εισαγγελέας της Αριζόνα; Οεο;

[Linos_Tsiol]

19 ώρες πριν, bushidocougar είπε

Φερτε τα και στην Ελλάδα να γελάσουμε!

Εδώ..... χωρίς διαγραμμίσεις...... θα φεύγουν εκτός από μόνα τους. 

[koutport]

19 hours ago, bushidocougar said:

Φερτε τα και στην Ελλάδα να γελάσουμε!

Εδω στο γελαδισταν γελαμε και με τα υπαρχοντα καθε μερα με αυτα που βλεπουμε !

[Reptile47]

14 ώρες πριν, apos είπε

Ωραία τα λες, και με τις ορολογίες σου και τα όλα σου. Παρόλα αυτά, ακόμα και αν υπάρχει νομική κάλυψη της εταιρείας (κακώς - με ο,τι κι αν σημαίνει αυτό στο πώς κατέληξε να δοθεί) δεν νοείται να μην έχει ευθύνη ΚΑΙ η εταιρεία. Ο,ΤΙ μα Ο,ΤΙ κι αν έκανε ο οδηγός. Υπάλληλος της εταιρείας είναι, έχει αντικειμενική ευθύνη.

Φυσικα και εχει ευθυνη, ολοι εχουν ευθυνη:
- O safety driver που δεν εκανε τη δουλειά του σωστα (Εφαγε 3 χρονια με αναστολη)
- Η εταιρεια (Εκανε εξωδικαστικο συμβιβασμο με την οικογενεια του θυματος. Αν πηγαινε δικαστικα θα πληρωνε ακομα παραπανω. Επισης, σαν αποτελεσμα του ατυχηματος, τα trials και η εξελιξη του συστηματος σταματησαν.)
- Ο οργανισμος που ενεκρινε την αδειοδοτηση. Εκει δεν την πληρωσε κανενας, αλλα σαν αποτελεσμα εξελιχθηκε η διαδικασια για να παρεις αδεια για trials, και γινεται πλεον ISO standard (Δες PAS-1881, 1882 etc.)

 

14 ώρες πριν, Armoral είπε

Τι ωραία και χαλαρά μιλάμε όταν ο άνθρωπος που χάνεται δεν είναι δικός μας ή ακόμα χειρότερα εμείς πάντως. Σας πάω που έλεγε και ο Χριστόδουλος.

Δεν ειπε κανενας οτι δεν ηταν ενα τραγικο συμβαν και οτι δεν πρεπει να τιμωρηθουν οι υπευθυνοι. Απλα πρεπει να αποδοθουν οι ευθυνες αναλογα.

15 ώρες πριν, klaftop είπε

απο την αλλη , οπως εγινε και με την τεσλα το οτι ουσιαστικα οι μηχανικοι εσωζαν χειροκινητα το autopilot στις δοκιμες εχει προκαλεσει πολλαπλασιους θανατους τους οποιους η τεσλα εχει ειδική ομάδα για να τους κρυβει απο τα Media

το θεμα ειναι αν σκοτωσεις κοσμο με αυτονομη οδηγηση ποιος παει φυλακή εσυ ή η εταιρια;  ΕΣΥ γιατι το AI δεν κατάλαβε κατι που ουτε καν θα παει το μυαλο σου γιατι για εναν ανθρωπο ειναι τοσο αυτονοητο. Ψαξε να δεις πως εχει σκοτωσει το τεσλα και δε θα το πιστευεις για ποιο λογο απετυχε το ΑΙ

Με αυτονομη οδηγηση η ευθυνη ειναι στην εταιρεια. Το προβλημα ειναι οτι αυτη τη στιγμη δεν υπαρχει αυτονομη οδηγηση σε συστημα παραγωγης (Μονο η Mercedes με το Drive Pilot εχει αδεια για Level 3 autonomy-  που σημαινει οτι ο οδηγος δεν ειναι υποχρεωμενος να κοιταζει τον δρομο κατα την οδηγηση, σε αυτοκινητοδρομο και μεχρι 65 km/h ). Ολα τα υπολοιπα συστηματα απαιτουν απο τον οδηγο να εχει τα χερια στο τιμονι, την προσοχη του στο δρομο και ειναι υπευθυνος για την συμπεριφορα του αυτοκινητου.
Για να καταλαβεις προς τα που κινηται η αγορα, η TESLA ξεκιναει στο UK την δικη της ασφαλιστικη εταιρεια ωστε να ασφαλιζει in-house ολα τα αυτονομα αυτοκινητα που ΘΑ πουλαει στο μελλον. Αν ενα αυτονομο συστημα ειναι ενεργοποιημενο κατα το ατυχημα, τοτε θα φταιει αυτοματως η εταιρεια...

2 ώρες πριν, koutport είπε

Εδω στο γελαδισταν γελαμε και με τα υπαρχοντα καθε μερα με αυτα που βλεπουμε !

Στην Ελλαδα, το μεγαλυτερο προβλημα ειναι η οδηγικη κουλτουρα, οι κακης ποιοτητας δρομοι για εμενα ειναι δευτερευον προβλημα. Αν δεν εχεις οδηγησει στην Ινδια, δεν μπορεις να καταλαβεις τι σημαινει πραγματικα δυσκολες συνθηκες οδηγησης...

 

[Tlykog]

21 ώρες πριν, filip123go είπε

Εαν στην Ελλάδα οδηγούσαμε όλοι αυτόνομα, τα θανατηφόρα ατυχήματα θα μειωνόταν. 

Αν στην Ελλάδα είχαμε σωστούς δρόμους και σήμανση, σωστή αστυνόμευση και σωστή οδηγική συμπεριφορά θα μειώναμε τα ατυχήματα.

Δυστυχώς το αυτόνομο όχημα λύνει μόνο ένα μέρος από την οδηγική συμπεριφορά.

15 ώρες πριν, Tetrabitos είπε

Μήπως ήταν άστεγη αυτή που σκότωσε. Αν ήταν, δεν έχει και πολύ αξία η ζωή της, δυστυχώς.

Σκληρό, αλλά για κάποιες χώρες σωστό... Δεν θα έπρεπε να ήταν έτσι, αλλά καταλαβαίνω πως το γράφεις.

Επεξ/σία 3 Αυγούστου 2023 από Tlykog

[electrodemon]

Εντελώς πληροφοριακά, η πρόκληση θανάτου με υπαιτιότητα αλλά χωρίς πρόθεση (οδήγηση υπό επίρρεια αλκοόλ, ουσιών ή όταν χρησιμοποιείται κάποιο δικονομικό τρικ), την ίδια ποινή επιφέρουν, 1-3 χρόνια με αναστολή και αφαίρεση διπλώματος. Οι ασφαλιστικές δε, προσπαθούν να αποποιηθούν την ευθύνη σε τέτοια περίπτωση εστω κι αν ο νόμος προσδιορίζει διαφορετικά.

Τα ελληνικά δικάστήρια παρότι λειτουργούν με την πόρτα ανοιχτή, απαγορεύουν την δημοσίευση των αποφάσεων. Υπάρχουν εξαιρέσεις όταν "πουλάει" η είδηση αλλά σε γενικές γραμμές όποιος ψάξει θα εκπλαγεί από το πόσα κοινά - ή και χειρότερα - έχουμε με όσα περίεργα λέγονται για τους άλλους.   

[toylis]

Ενα χρόνο μετά, το 2019, το γραφείο του εισαγγελέα της Αριζόνα κατέληξε στην απόφαση να μην βρεθεί αντιμέτωπη η Uber με ποινικές διώξεις για το δυστύχημα.

Και ποιος φταιει? η κακια η ωρα? ηρεμα ρωταω!

[Vasilisxd]

10 hours ago, anax111 said:

Δεν έχει και πολύ σημασία αυτό που γράφεις. Δεν είναι μόνο ότι το αυτοκίνητο απέτυχε να σταματήσει, απέτυχε επίσης να αλλάξει πορεία και απέτυχε να μειώσει ταχύτητα. Μιλάμε για ολική αποτυχία του συστήματος σε κάθε επίπεδο που οδήγησε στον θάνατο ενός ανθρώπου. 

Τι δεν έχει σημασία ? Το λογισμικό της Uber απέτυχε να σταματήσει το όχημα. Ο κατασκευαστής είχε ήδη δικό του σύστημα δοκιμασμένο και το είχαν απενεργοποιήσει για να δοκιμάσουν το δικό τους.  

Επεξ/σία 3 Αυγούστου 2023 από Vasilisxd