Τα αυτόνομα αυτοκίνητα κάποια μέρα ενδέχεται να βρεθούν μπροστά στο δίλημμα ποιον να σκοτώσουν ή να σώσουν

[nemo23]

Ελπίζω να μην ζω σε αυτό το μέλλον

αν δεν πας εξωτερικό και ζεις ακόμα Ελλάδα ακόμα και ο Μαθουσάλας να είσαι αποκλείετε να δεις αυτό το τεχνολογικό επίτευγμα με τα ίδια σου τα μάτια εδώ, οπότε μην φοβάσαι, να έχεις το νου σου μόνο αν οδηγάς μηχανάκι.

[Επισκέπτης]

Έκανα ένα πείραμα κάποτε στο εξωτερικό, άκρως επικίνδυνο για ατύχημα.

Σε πόλη της Ιταλίας, όπου δεν κάνουν παραβάσεις στον ΚΟΚ, περνουσαμε με κόκκινο, απλά και μόνο για να δούμε την αντίδραση των οδηγών. Με συντονισμό η ενέργεια μπορεί να προκληθεί θανατηφόρο ατύχημα.

 

Φανταστείτε λοιπόν, να έχουν όλοι αυτοκίνητο αυτόματο, από διαφορετικές εταιρείες. Το ένα αυτοκίνητο θα είναι Mercedes και το άλλο Lada. Ένα μικρό bug και θα γίνει πανολεθρια.

[epicouros]

Θέλουν πολυ δουλειά ακόμα τα αυτόνομα αυτοκίνητα

 

http://tech.in.gr/news/article/?aid=1500087676

[Gi0]

Θέλουν πολυ δουλειά ακόμα τα αυτόνομα αυτοκίνητα

 

http://tech.in.gr/news/article/?aid=1500087676

5 posts νωριτερα.

 

Btw περι τιτλου του παραπανω αρθρου: Kαι οι ανθρωποι-οδηγοι θελουν πολυ δουλεια ακομα, αλλα δεν ιδρωνει τ αυτι μας.

[dimitridegrecia]

Δηλαδή στο αντίστοιχο δίλημμα όταν ο άνθρωπος οδηγάει δεν πρέπει να διαλέξει;;; Τι κάνει δηλαδή, απογειώνει το αυτοκίνητο ή κατεβαίνει και το τραβάει για να σταματήσει πιο γρήγορα; Πετάει καμιά άγκυρα από το παράθυρο; Και αυτό με την προυπόθεση ότι δεν θα ναι κανας άχρηστος και ότι θα μπορέσει να διαλέξει. Πιο πιθανό θα είναι να φάει και τους μεν και τους δε και τον εαυτό του αν κρίνω από μερικά ατυχήματα στην εθνική που έχω δει...Η λύση είναι αυξημένη παθητική και ενεργητική ασφάλεια των αυτοκινήτων, ώστε το αυτοκινούμενο να διαλέξει τον τοίχο αντί για τα παιδάκια και να μην σκοτωθεί κανείς. Δεν είναι δα και κανα Sophie's choice. Ήμαρτον.

[mezger]

Αυτά τα οχήματα (και γενικότερα τα αυτόνομα συστήματα) δεν προγραμματίζονται ακριβώς, χρησιμοποιούν machine learning για να πάρουν τις αποφάσεις τους. Άρα είναι εντελώς άκυρο το ερώτημα - δε θα κάτσει κάποιος προγραμματιστής να γράψει "if this...do that" για κάθε σενάριο που θα συναντήσει το όχημα. 

Το πιο πιθανό σε μια τέτοια περίπτωση είναι ότι θα προσπαθήσει να αποφύγει την οποιαδήποτε σύγκρουση, με όποιο τρόπο θεωρήσει σωστό, μέχρι την τελευταία στιγμή. Δε θα μπει δηλαδή ποτέ σε mode "τώρα είναι σίγουρη η σύγκρουση, να αποφασίσω που θα πέσω".

Εννοείται όμως ότι θα έχει ένα bias προς την προστασία των πεζών, αφού είναι πολύ πιο ευάλωτοι. Ήδη έτσι λειτουργούν τα google cars (προσέχουν περισσότερο πεζούς και ποδηλάτες)

[Haldol]

Η οποιαδήποτε προσπάθεια να προστατευθεί τρίτος (σε βάρος του οδηγού ή των λοιπών επιβαινόντων) παραβιάζει το ανθρώπινο ένστικτο της αυτοσυντήρησης. Εννοείται πως όλοι μας θα προσπαθήσουμε να ελαχιστοποιήσουμε τη ζημιά σε ενδεχόμενη σύγκρουση, αλλά όταν έρθει η ώρα του "είτε εγώ, ή αυτός" ο εγκέφαλός μας θα απαντήσει αυτόματα "αυτός"! Δε χωράει συζήτηση αυτό το πράγμα. Δε θα προλάβουμε καν να σκεφτούμε την ηθική του θέματος εκείνη τη στιγμή, θα ενεργήσουμε αντανακλαστικά προσπαθώντας να σωθούμε.

 

Εννοείται ότι από τον καναπέ πολλοί θα έλεγαν "α, όχι, καλύτερα να πεθάνω εγώ παρά 5 αθώα παιδιά, θα θυσιαζόμουν σίγουρα!". Όμως είναι άλλο πράγμα οι ηθικές θεωρίες που αναπτύσσουμε σε ασφαλείς συνθήκες κι άλλο η ακούσια αντίδραση του σώματος και του μυαλού την ώρα του κινδύνου!

 

Οπότε δε νομίζω ποτέ το λογισμικό των αυτόνομων οχημάτων να λειτουργήσει αξιολογώντας ποιανού η ζωή είναι... πιο σημαντική. Δε θα το αγόραζε και κανείς. Εγώ τουλάχιστον δε θα έμπαινε μέσα σε ένα όχημα το οποίο μπορεί να με εκτελέσει για να σωθεί κάποιος τρίτος.

[V for Vagelis]

Τελος, το παρακατω βιντεο ειναι απο τον ιδιο οδηγο που πεθανε στο ατυχημα, σε αντιστοιχη περιπτωση μερικους μηνες πριν:

 

Ξέρουμε αν η αυτόματη προειδοποίηση "immediately take over" λειτούργησε και αυτή τη φορά; Δηλαδή στο τωρινό θανατηφόρο ατύχημα έφταιγε ας πούμε ο οδηγός λόγω αργής αντίδρασης στο αυτόματο warning ή η προειδοποίηση αυτή δεν ήρθε ποτέ;

 

 

Εντιτ: Από το λινκ που παρατέθηκε λίγο πιο πάνω:

Πάντως, σύμφωνα με τις δηλώσεις αμφότερων των αξιωματούχων και της κατασκευάστριας Tesla το δυστύχημα αποδίδεται στην αποτυχία των καμερών του συστήματος να διακρίνει από τον φωτεινό ουρανό την λευκή πλευρά του φορτηγού-ρυμουλκού που έστριβε μπροστά του με αποτέλεσμα να μην ενεργοποιήσει αυτόματα τα φρένα του αυτοκινήτου.

 

Ο 62χρονος οδηγός του φορτηγού Φρανκ Μπαρέσι ισχυρίζεται πως ο οδηγός του Tesla S παρακολουθούσε ταινία, αφού μετά τη σύγκρουση συνέχισαν να ακούγονται διάλογοι. H Tesla δηλώνει πάντως πως δεν είναι εφικτή η προβολή ταινιών στην οθόνη αφής του αυτοκινήτου και δεν γίνεται σχετική αναφορά από την αστυνομία στην καταγραφή των συνθηκών της σύγκρουσης. Τέλος, ο Μπαρέσι δηλώνει πως το Tesla S κινούνταν τόσο γρήγορα που διαπέρασε το τρέιλερ του φορτηγού του με τέτοια ταχύτητα που δεν έγινε αντιληπτό.

 

Επίσης, σχετικό με το τόπικ αυτό:

Σε ό,τι αφορά την ασφάλεια του συστήματος σε σχέση με τους πιο ευπαθείς χρήστες του δρόμου, ο Elon Musk, δήλωνε κατά τη διάθεση του λογισμικού τον Οκτώβριο του 2015 πως «λογικά θα αποτρέψει ένα ατύχημα με πεζό. Μπορεί να τους ανιχνεύσει. Μπορεί επίσης να ανιχνεύσει τους ποδηλάτες και να φρενάρει πριν τους χτυπήσει. Ωστόσο, οι οδηγίες μας είναι σαφείς, οι οδηγοί θα πρέπει να επαγρυπνούν και να είναι έτοιμοι να πάρουν τον έλεγχο ανά πάσα στιγμή».

 

Επίσης, ο επικεφαλής της Tesla, εφιστούσε από τότε την προσοχή των ιδιοκτητών του Tesla Model S, προειδοποιώντας ότι η Tesla δεν αναλαμβάνει την ευθύνη για τυχόν ατυχήματα που προκύψουν στη λειτουργία Autopilot.

http://tech.in.gr/news/article/?aid=1500087676

 

Δηλαδή έφταιγε το autopilot και ενδεχομένως και ο οδηγός που έτρεχε υπερβολικά και που δεν ήταν σε ετοιμότητα (ενδεχομένως).

[james01gr]

Θέμα χρόνου να συνυπολογίζονται και οι ηλικίες από το a.i. του οχήματος, δηλαδή αν δεν έχει ήδη ξεκινήσει να δοκιμάζεται αναγνώριση ηλικίας στους γύρω πεζούς / ποδηλάτες στα διάφορα τωρινά πρωτότυπα (στο πολύ περίπου βέβαια, απλά να ξεχωρίζει παιδί από ενήλικα κλπ).

Υποθέτω μετά θα παίζει και αυτό ρόλο και όχι μόνο ο αριθμός των ανθρώπων.

ε τότε να παίζει ρόλο και εάν αυτός που πάει να φάει το αυτοκίνητο έχει σπουδάσει κτλ κτλ. μια απλή (και πολύ ψυχρή) λύση είναι όποιος έκανε το λάθος.... πέρασες με κόκκινο; δεν πέρασες από διάβαση; το μεγάλο πρόβλημα θα είναι στην μετάβαση μεταξύ των 2 συστημάτων. οι μισοί να έχουν αυτόνομο, και οι άλλοι μισοί να οδηγούν μόνοι τους. εκεί να δεις τι έχει να γίνει. μη σου πω πως θα έχουν και τσιπάκια όλοι (και οι πεζοί) για να μπορεί το αυτοκίνητο να γνωρίζει πόσοι είναι γύρω του σε μια συγκεκριμένη ακτίνα έτσι ώστε να τους παρακαλουθεί με κάποιο είδος ραντάρ

[jimartsas]

αμα καποιος πεζος θελει να αυτοκτωνησει γιατι να ρισκαρω την ζωη μου στο ελεος ενος ηλιθιου chip που θα κρινει τι ειναι ηθικο να πραξει,ασε που μετα πρεπει να βγαλουν κ εξυπνα πεζοδρομια που θα πηγαινουν τους πεζους μονα τους γιατι μετα θα πουν ''οι πεζοι δεν προσεχουν πως περπατανε'' μετα θα ψαχνουμε cracks στο piratebay για να σκαει μπαντιλικια το οχημα κτλ... ερχονται εξυπνες εποχες για ηλιθιους ανθρωπους!! 

 

 

υ.γ οποιος λεει οτι με τα αυτονομα αυτοκινητα δεν θα υπαρχουν ατυχηματα ας μας πει αν υπαρχει ηλεκτρονικο συστημα που δεν χαλαει δεν λαγκαρει κτλ.. οταν θα σας βγαζει μπλε οθονες στην αττικη οδο με 150 χιλιομετρα  θα λετε alah akbar ΧΑΧΑΧΑΧΑΧ!!!!!!

[Gi0]

αμα καποιος πεζος θελει να αυτοκτωνησει γιατι να ρισκαρω την ζωη μου στο ελεος ενος ηλιθιου chip που θα κρινει τι ειναι ηθικο να πραξει,ασε που μετα πρεπει να βγαλουν κ εξυπνα πεζοδρομια που θα πηγαινουν τους πεζους μονα τους γιατι μετα θα πουν ''οι πεζοι δεν προσεχουν πως περπατανε'' μετα θα ψαχνουμε cracks στο piratebay για να σκαει μπαντιλικια το οχημα κτλ... ερχονται εξυπνες εποχες για ηλιθιους ανθρωπους!! 

 

 

υ.γ οποιος λεει οτι με τα αυτονομα αυτοκινητα δεν θα υπαρχουν ατυχηματα ας μας πει αν υπαρχει ηλεκτρονικο συστημα που δεν χαλαει δεν λαγκαρει κτλ.. οταν θα σας βγαζει μπλε οθονες στην αττικη οδο με 150 χιλιομετρα  θα λετε alah akbar ΧΑΧΑΧΑΧΑΧ!!!!!!

Epic.

[Χάρης Μυλωνίδης]

αν τα αυτόνομα αυτοκίνητα τρέχουν με χαμηλή ταχύτητα οι πιθανότητες θανατηφόρου ατυχήματος θα είναι μηδαμινές.

Και αν οι οδηγοί κατανοήσουν ότι οι ζώνες σώζουν ζωές όπως και το κράνος οι θάνατοι θα είναι ελάχιστοι.

Τέσσερα πράγματα κάνουν οι Νέο Έλληνες τρέχουν, είναι απρόσεκτοι, παραβιάζουν τον KOK και δεν φοράνε ζώνες - κράνοι.

Αν τα κάνεις αυτά δεν θα έχεις ποτέ στη ζωή σου θανατηφόρο ατύχημα.

και δεν το λέω εγώ αλλά ο διοικητής της τροχαίας

Αλλά βλέπετε όλοι στην Ελλάδα το παίζουν οδηγάρες

[Zein]

αν τα αυτόνομα αυτοκίνητα τρέχουν με χαμηλή ταχύτητα οι πιθανότητες θανατηφόρου ατυχήματος θα είναι μηδαμινές.

Και αν οι οδηγοί κατανοήσουν ότι οι ζώνες σώζουν ζωές όπως και το κράνος οι θάνατοι θα είναι ελάχιστοι.

Τέσσερα πράγματα κάνουν οι Νέο Έλληνες τρέχουν, είναι απρόσεκτοι, παραβιάζουν τον KOK και δεν φοράνε ζώνες - κράνοι.

Αν τα κάνεις αυτά δεν θα έχεις ποτέ στη ζωή σου θανατηφόρο ατύχημα.

και δεν το λέω εγώ αλλά ο διοικητής της τροχαίας

Αλλά βλέπετε όλοι στην Ελλάδα το παίζουν οδηγάρες

Αξιζουν και τα 5 λεπτακια του βιντεο.

 

[Haldol]

Τέσσερα πράγματα κάνουν οι Νέο Έλληνες τρέχουν, είναι απρόσεκτοι, παραβιάζουν τον KOK και δεν φοράνε ζώνες - κράνοι.

Αν τα κάνεις αυτά δεν θα έχεις ποτέ στη ζωή σου θανατηφόρο ατύχημα.

 

Έχουμε χάσει οικογενειακό φίλο από απροσεξία τρίτου -- ο ίδιος δεν έκανε κανένα λάθος χειρισμό, δε πήρε καμία λάθος απόφαση. Πηγαίνοντας με τα όρια ταχύτητας, φορώντας ζώνη - κράνος και σεβόμενος τον ΚΟΚ απλά ελαχιστοποιείς τις πιθανότητες να συμβεί κάτι εξαιτίας σου. Για τους υπόλοιπους χρήστες της οδού, δεν αλλάζει τίποτα.

 

Πρέπει όλοι να αλλάξουν συμπεριφορά , αλλά ακόμα κι έτσι, πάντα θα βρεθεί κάποιος "στο λάθος σημείο, τη λάθος στιγμή". Δε πιστεύω ότι τα τροχαία μπορούν να εξαλειφθούν με κάποιο τρόπο. Απλά να μειωθούν.

[Επισκέπτης]

Μου είναι δύσκολο να καταλάβω τη φιλοσοφία πίσω από την απόφαση. Σε περίπτωση ατυχήματος , προφανώς και η φυσική παίζει μεγάλο ρόλο. Αν το όχημα κινείται με τέτοια ταχύτητα ή τροχιά που το ατύχημα είναι σίγουρο άραγε, τι κάνει; Και αυτό δεν έχει σχέση με το αυτόματα- μη αυτόματα , αυτόματα-πεζοί.

 

Τι θέλω να πω, ας πούμε ότι οδηγείς μέσα στην πόλη και πετάγεται ένας πεζός. Η επιλογή ποια θα είναι όταν ξέρει το CPU πως θα τον πατήσεις; Απλά ένα warning ; Προς θεού είμαι υπέρ της τεχνολογίας, μα πιστεύω πως έχουμε πολύ δρόμο ακόμη, ειδικά στη νομοθεσία.

 

Σίγουρα θα μεταφέρουν σταδιακά αρκετά από αυτά ως βοηθήματα της "αναλογικής" οδήγησης. Το survey είναι για να δουν σε τι γλώσσα θα το γράψουν και αν θα ειναι open source ☺