Νέες αμφιβολίες για την ωριμότητα της αυτόνομης οδήγησης της Tesla μετά από αποκαλύψεις πρώην στελέχους

  για κάποιο  λόγο  είναι  πρώην στέλεχος

+ 6 μήνες στο Ai είναι  ένας  αιώνας 

6 λεπτά πριν, BadIronTree είπε

  για κάποιο  λόγο  είναι  πρώην στέλεχος

+ 6 μήνες στο Ai είναι  ένας  αιώνας 

Ναι. Η τεχνολογία συνολικά δεν είναι ώριμη ακόμη για πλήρη αυτόνομη οδήγηση. Όχι μόνο η AI αλλά και οι αισθητηρες και το backup των αισθητήρων σε περίπτωση δυσλειτουργιας και ο έλεγχος των αισθητήρων για δυσλειτουργια και ο έλεγχος της σωστής συντήρησης των αισθητήρων και ο έλεγχος για πείραγμα/παράκαμψη των αισθητήρων κλπ κλπ.

Ακόμη και έτσι εάν πάμε σε στατιστικά δεδομένα πιθανολογώ ότι και το ελαττωματικό αυτόνομο σύστημα σε πλήρη εφαρμογή μάλλον θα είχε πολύ λιγότερα ατυχήματα από τα σημερινά.

Όμως η πλήρη εφαρμογή είναι αδύνατη οπότε σε ένα πολύπλοκο σενάριο όπως το σημερινό η τεχνολογία δεν είναι ώριμη.

Απο την άλλη στο ατύχημα βρίσκεις τον υπαίτιο. Στο αυτόνομο ποιος είναι?

Και τίθενται και θα τίθενται και πολλαπλά ερωτήματα ηθικής τα οποία δεν έχουν απάντηση.

Πχ: ένα ατύχημα δεν μπορεί να αποφευχθεί με κανένα ελιγμό και υπάρχουν 2 επιλογές ελιγμων: α) δεξιά και σκοτώνεις 1 άτομο 60 ετων και β) αριστερά και σκοτώνεις ένα έφηβο. Ποια επιλέγει η ΑΙ? Όχι δεν είναι αυτονόητο. Όλες οι ζωές έχουν αξία. Και το άτομο 60 ετών μπορεί να συντηρεί μια πολυμελλη οικογένεια χωρίς άλλους πόρους πχ. Αν το πάμε και πιο περίπλοκο πχ στο παραπάνω παράδειγμα έχεις να επιλέξεις ανάμεσα σε σοβαρό ατύχημα για α) μαμά με παιδάκι και β) γκρουπ εργαζομένων στο δρόμο 5-6 ατόμων. Βάλτε ότι σας έρθει στο μυαλό. Βάλτε στην εξίσωση και την επιλογή (γ) ελιγμός που σκοτώνεται/σοβαρό ατύχημα μόνο ο οδηγός του αυτοκινήτου.

Ποιος θα προγραμματίσει την ΑΙ και με ποια κριτήρια? Ποιο είναι το πιο ηθικό? Δεν υπάρχει απάντηση σε αυτό.

Για εμένα δεν υπάρχει αυτόνομη οδήγηση εκτός και αν μιλάμε για πολύ επιστημονικής φαντασίας (για την ώρα) καταστάσεις όπου το σύνολο των αυτοκινήτων κινείται αυτόνομα και μόνο μέσα στα όρια και κανόνες.

O Elon δεν θα μας έλεγε ψέματα!

22 minutes ago, SeNNinhA said:

Ναι. Η τεχνολογία συνολικά δεν είναι ώριμη ακόμη για πλήρη αυτόνομη οδήγηση. Όχι μόνο η AI αλλά και οι αισθητηρες και το backup των αισθητήρων σε περίπτωση δυσλειτουργιας και ο έλεγχος των αισθητήρων για δυσλειτουργια και ο έλεγχος της σωστής συντήρησης των αισθητήρων και ο έλεγχος για πείραγμα/παράκαμψη των αισθητήρων κλπ κλπ.

Ακόμη και έτσι εάν πάμε σε στατιστικά δεδομένα πιθανολογώ ότι και το ελαττωματικό αυτόνομο σύστημα σε πλήρη εφαρμογή μάλλον θα είχε πολύ λιγότερα ατυχήματα από τα σημερινά.

Όμως η πλήρη εφαρμογή είναι αδύνατη οπότε σε ένα πολύπλοκο σενάριο όπως το σημερινό η τεχνολογία δεν είναι ώριμη.

Απο την άλλη στο ατύχημα βρίσκεις τον υπαίτιο. Στο αυτόνομο ποιος είναι?

Και τίθενται και θα τίθενται και πολλαπλά ερωτήματα ηθικής τα οποία δεν έχουν απάντηση.

Πχ: ένα ατύχημα δεν μπορεί να αποφευχθεί με κανένα ελιγμό και υπάρχουν 2 επιλογές ελιγμων: α) δεξιά και σκοτώνεις 1 άτομο 60 ετων και β) αριστερά και σκοτώνεις ένα έφηβο. Ποια επιλέγει η ΑΙ? Όχι δεν είναι αυτονόητο. Όλες οι ζωές έχουν αξία. Και το άτομο 60 ετών μπορεί να συντηρεί μια πολυμελλη οικογένεια χωρίς άλλους πόρους πχ. Αν το πάμε και πιο περίπλοκο πχ στο παραπάνω παράδειγμα έχεις να επιλέξεις ανάμεσα σε σοβαρό ατύχημα για α) μαμά με παιδάκι και β) γκρουπ εργαζομένων στο δρόμο 5-6 ατόμων. Βάλτε ότι σας έρθει στο μυαλό. Βάλτε στην εξίσωση και την επιλογή (γ) ελιγμός που σκοτώνεται/σοβαρό ατύχημα μόνο ο οδηγός του αυτοκινήτου.

Ποιος θα προγραμματίσει την ΑΙ και με ποια κριτήρια? Ποιο είναι το πιο ηθικό? Δεν υπάρχει απάντηση σε αυτό.

Για εμένα δεν υπάρχει αυτόνομη οδήγηση εκτός και αν μιλάμε για πολύ επιστημονικής φαντασίας (για την ώρα) καταστάσεις όπου το σύνολο των αυτοκινήτων κινείται αυτόνομα και μόνο μέσα στα όρια και κανόνες.

Αυτοί οι προβληματισμοί είναι σωστοί αλλά οι απαντήσεις έχουν ήδη δοθεί. Στην Καλιφόρνια πχ που η Mercedes έχει πιστοποιήσει αυτονομία επιπέδου  3 εχει δηλώσει στην πιστοποίηση ότι η ευθύνη σε ατύχημα εφόσον το όχημα κινείτε αυτόνομα βαρύνει την ίδια την Mercedes. Επίσης τα συστήματα αυτονομης ή ημιαυτόνομης οδήγησης σε κατάσταση που δεν υπάρχει καλό σενάριο έχουν προγραμματιστεί να διαλέξουν  την επιλογή που θα είναι η πιο επωφελής για τους επιβάτες του οχήματος. Πχ αν η επιλογή είναι ή μετωπική σύγκρουση ή παράσυρση πεζού θα επιλέξει να παρασύρει τον πεζό και να αποφύγει την μετωπική.

"ακόμη και οι ίδιοι είχαν συναντήσει περιπτώσεις οχημάτων που φρέναραν απρόβλεπτα χωρίς κάποιο φανερό εμπόδιο, σε αρμονία με τις εμπειρίες πολλών πελατών."

Ajax στις κάμερες ρε παιδιά. Καθαρίστε τις λίγο.  Εδώ η καθαριότητα δεν είναι μισή αρχοντιά, αλλά θέμα επιβίωσης. 

53 λεπτά πριν, Diavolos666 είπε

Για να γίνει η αυτόματη οδήγηση ασφαλής θέλει πρώτον να έχουν όλα τα αμάξια αισθητήρες, να μην βασίζεται μόνο στο τι "βλέπει" να συνεργάζονται ΟΛΑ τα αμάξια, κάτι που δεν θα γίνει ούτε σε 100 χρόνια.

Επίσης θα πρέπει ΟΛΟ το οδικό δίκτυο να έχει αισθητήρες όπως και τα φανάρια. Θα πρέπει να είναι φωταγωγημένα τα πάντα ακόμα και τη νύχτα ώστε να μπορεί να γίνεται η αναγνώριση σωστά, αλλιώς θα πρέπει να φοράνε και οι άνθρωποι αισθητήρες για να αναγνωρίζονται μέσω σήματος και όχι μέσω τεχνητής νοημοσύνης.

Για να μην πω για τα οδικά δίκτυα που μερικά έχουν γίνει αιώνες πριν και έμειναν έτσι από τότε που ο κόσμος είχε κάρα.

Τέλος θα πρέπει να αποκτήσουν εγκεφαλικά κύτταρα οι άνθρωποι που αρκετοί απλώς ζουν σαν NPCs και αδιαφορούν για κανόνες και οδική ασφάλεια.

Διότι η Τεχνητή Νοημοσύνη προχωράει αλλά η ανθρώπινη νοημοσύνη παίζει να μειώνεται κιόλας.

Η αυτόνομη οδήγηση είναι AGI πρόβλημα. Κάτι που δεν φαίνεται να κατανοούν ακόμα και ταλαντούχοι μαθηματικοί και ερευνητές του χώρου.

Απαιτείται νοημοσύνη στο επίπεδο του ανθρώπου ή ενός αρκετά εξελιγμένου ζώου(π.χ. σκύλος) για να είναι 100% error free. Όχι σε θέμα αντανακλαστικών αλλά για την αντιμετώπιση απρόοπτων καταστάσεων και των αμέτρητων υποπαραλλαγών τους. Κάτι που απαιτεί βαθύτερη κρίση και αντίληψη της πραγματικότητας.

Η Νευροεπιστήμη έχει αποτύχει παταγωδώς ακόμα και στην ερμηνεία του τρόπου λειτουργίας ενός μεμονωμένου εγκεφαλικού κυττάρου. Δεν υπάρχει έως και σήμερα θεωρία που να εξηγεί πώς τα μεμονωμένα εγκεφαλικά κύτταρα ανακαλύπτουν μοτίβα ώστε να στείλουν σχετικό σήμα στα ιεραρχικά ανώτερά τους κύτταρα. Νομίζει ο μέσος άνθρωπος ότι πρόοδος είναι κάτι επιστήμες στο στυλ της αστροφυσικής(χαμός από views στο κανάλι Astronio) ενώ στην πραγματικότητα ακόμα και οι απλούστεροι βιολογικοί μηχανισμοί "γονατίζουν" και ταπεινώνουν τις μεγαλύτερες ιδιοφυίες. Αυτούς που ισχυρίζονται ότι όλα έγιναν μόνα τους από εξελικτικές διαδικασίες αλλά αδυνατούν να αναπαραγάγουν την πολυπλοκότητα της ζωής σε δικά τους συστήματα και να βουλώσουν στόματα.

7 λεπτά πριν, gakost είπε

Αυτοί οι προβληματισμοί είναι σωστοί αλλά οι απαντήσεις έχουν ήδη δοθεί. Στην Καλιφόρνια πχ που η Mercedes έχει πιστοποιήσει αυτονομία επιπέδου  3 εχει δηλώσει στην πιστοποίηση ότι η ευθύνη σε ατύχημα εφόσον το όχημα κινείτε αυτόνομα βαρύνει την ίδια την Mercedes. Επίσης τα συστήματα αυτονομης ή ημιαυτόνομης οδήγησης σε κατάσταση που δεν υπάρχει καλό σενάριο έχουν προγραμματιστεί να διαλέξουν  την επιλογή που θα είναι η πιο επωφελής για τους επιβάτες του οχήματος. Πχ αν η επιλογή είναι ή μετωπική σύγκρουση ή παράσυρση πεζού θα επιλέξει να παρασύρει τον πεζό και να αποφύγει την μετωπική.

 

Και ότι η παρασυρση πεζού είναι η σωστή επιλογή ποιος το έχει αποφασίσει ακριβώς και είναι αποδεκτό? Γιατι ο πιθανά αναιτιος πεζός να είναι το θύμα και όχι ο οδηγος του αυτοκινήτου?

Και αυτό εσύ το θεωρείς αποδεκτό? Αλήθεια?

Εάν οι απαντήσεις έχουν δωθεί και δεν έχουμε κάνει ακόμη επανάσταση τότε αυτό είναι το τέλος της ανθρωπότητας.

Αυτονομη Οδήγηση?????

1 minute ago, pirmen56 said:

Η αυτόνομη οδήγηση είναι AGI πρόβλημα. Κάτι που δεν φαίνεται να κατανοούν ακόμα και ταλαντούχοι μαθηματικοί και ερευνητές του χώρου.

Απαιτείται νοημοσύνη στο επίπεδο του ανθρώπου ή ενός αρκετά εξελιγμένου ζώου(π.χ. σκύλος) για να είναι 100% error free. Όχι σε θέμα αντανακλαστικών αλλά για την αντιμετώπιση απρόοπτων καταστάσεων και των αμέτρητων υποπαραλλαγών τους. Κάτι που απαιτεί βαθύτερη κρίση και αντίληψη της πραγματικότητας.

Η Νευροεπιστήμη έχει αποτύχει παταγωδώς ακόμα και στην ερμηνεία του τρόπου λειτουργίας ενός μεμονωμένου εγκεφαλικού κυττάρου. Δεν υπάρχει έως και σήμερα θεωρία που να εξηγεί πώς τα μεμονωμένα εγκεφαλικά κύτταρα ανακαλύπτουν μοτίβα ώστε να στείλουν σχετικό σήμα στα ιεραρχικά ανώτερά τους κύτταρα. Νομίζει ο μέσος άνθρωπος ότι πρόοδος είναι κάτι επιστήμες στο στυλ της αστροφυσικής(χαμός από views στο κανάλι Astronio) ενώ στην πραγματικότητα ακόμα και οι απλούστεροι βιολογικοί μηχανισμοί "γονατίζουν" και ταπεινώνουν τις μεγαλύτερες ιδιοφυίες. Αυτούς που ισχυρίζονται ότι όλα έγιναν μόνα τους από εξελικτικές διαδικασίες αλλά αδυνατούν να αναπαράγουν την πολύπλοκότητα της ζωής σε δικά τους συστήματα και να βουλώσουν στόματα.

Συμφωνώ και επίσης μιλάμε για νοημοσύνη και αγνοούμε πλήρως την χαζομάρα που είναι και αυτό μέρος της δικής μας νοημοσύνης (ή έστω απουσία αυτής). Προσομοιώνουν έναν αποστειρωμένο σύστημα, τέλειο χωρίς λάθη και προσπαθούν να το βάλουν δίπλα στην ακατανίκητη ανθρώπινη χαζομάρα.

Που και στην τελική ακόμα κι εμείς οι άνθρωποι με όλη την νευρονική ισχύ που έχουμε δεν μπορούμε να προβλέψουμε το τι βλακεία θα κάνει ο κάθε τρόμπας στον δρόμο.

~~
Οπότε αν θέλουμε αυτόματη οδήγηση θα μπορούσαμε να την έχουμε χτες κιόλας αλλά θα έπρεπε όλο το δίκτυο απλώς να οδηγεί μόνο του, να γίνει αυτοματοποιημένο. Να μπορεί το αμάξι να υπολογίζει από 1 χιλιόμετρο πριν ότι θα πέσει με την ταχύτητα που έχει σε κόκκινο φανάρι γιατί έχει τα δεδομένα της βάσης και συνεργάζεται μαζί της, οπότε για να μην σταματήσει απλώς να κόβει λίγη ταχύτητα ώστε να πέσει στο πράσινο και να φύγει κατευθείαν. Να ξέρει όλο το σύστημα από πριν πόσα αμάξια υπάρχουν στον δρόμο, που είναι τοποθετημένα στο δίκτυο και ποιος είναι ο προορισμός τους γιατί ΟΛΑ θα χρησιμοποιούν την ίδια βάση και να δημιουργεί την βέλτιστη διαδρομή με αλγόριθμο που θα εξετάζει όλα τα σενάρια.

Και αυτό δεν θα χρειαζόταν καν τεχνητή νοημοσύνη, μία απλή προσομοίωση θα ήταν σαν αυτές που κάναμε στην σχολή για την ουρά στον γκισέ που βγάζαμε αλγόριθμο βελτιστοποίησης.

6 λεπτά πριν, Diavolos666 είπε

Συμφωνώ και επίσης μιλάμε για νοημοσύνη και αγνοούμε πλήρως την χαζομάρα που είναι και αυτό μέρος της δικής μας νοημοσύνης (ή έστω απουσία αυτής). Προσομοιώνουν έναν αποστειρωμένο σύστημα, τέλειο χωρίς λάθη και προσπαθούν να το βάλουν δίπλα στην ακατανίκητη ανθρώπινη χαζομάρα.

Που και στην τελική ακόμα κι εμείς οι άνθρωποι με όλη την νευρονική ισχύ που έχουμε δεν μπορούμε να προβλέψουμε το τι βλακεία θα κάνει ο κάθε τρόμπας στον δρόμο.

~~
Οπότε αν θέλουμε αυτόματη οδήγηση θα μπορούσαμε να την έχουμε χτες κιόλας αλλά θα έπρεπε όλο το δίκτυο απλώς να οδηγεί μόνο του, να γίνει αυτοματοποιημένο. Να μπορεί το αμάξι να υπολογίζει από 1 χιλιόμετρο πριν ότι θα πέσει με την ταχύτητα που έχει σε κόκκινο φανάρι γιατί έχει τα δεδομένα της βάσης και συνεργάζεται μαζί της, οπότε για να μην σταματήσει απλώς να κόβει λίγη ταχύτητα ώστε να πέσει στο πράσινο και να φύγει κατευθείαν. Να ξέρει όλο το σύστημα από πριν πόσα αμάξια υπάρχουν στον δρόμο, που είναι τοποθετημένα στο δίκτυο και ποιος είναι ο προορισμός τους γιατί ΟΛΑ θα χρησιμοποιούν την ίδια βάση και να δημιουργεί την βέλτιστη διαδρομή με αλγόριθμο που θα εξετάζει όλα τα σενάρια.

Και αυτό δεν θα χρειαζόταν καν τεχνητή νοημοσύνη, μία απλή προσομοίωση θα ήταν σαν αυτές που κάναμε στην σχολή για την ουρά στον γκισέ που βγάζαμε αλγόριθμο βελτιστοποίησης.

Ακόμα και η λύση της πλήρους αυτοματοποίησης της οδήγησης(καθόλου άνθρωποι οδηγοί στους δρόμους) δεν είναι ιδιαίτερα εύκολη. Απαιτεί geofencing και ειδικές σημάνσεις(π.χ. βοηθητικά σύμβολα πάνω στα οχήματα) για να εξαλείψεις τον κίνδυνο σοβαρών σφαλμάτων των τεχνητών νευρωνικών δικτύων κατά την αναγνώριση αντικειμένων, ορίων του δρόμου κτλ.

Σίγουρα γίνεται, αλλά είναι κάπως χρονοβόρα και ακριβή διαδικασία. Για λίγα κράτη.

46 minutes ago, pirmen56 said:

Ακόμα και η λύση της πλήρους αυτοματοποίησης της οδήγησης(καθόλου άνθρωποι οδηγοί στους δρόμους) δεν είναι ιδιαίτερα εύκολη. Απαιτεί geofencing και ειδικές σημάνσεις(π.χ. βοηθητικά σύμβολα πάνω στα οχήματα) για να εξαλείψεις τον κίνδυνο σοβαρών σφαλμάτων των τεχνητών νευρωνικών δικτύων κατά την αναγνώριση αντικειμένων, ορίων του δρόμου κτλ.

Σίγουρα γίνεται, αλλά είναι κάπως χρονοβόρα και ακριβή διαδικασία. Για λίγα κράτη.

Ναι αυτό που έγραψα πιο πάνω, αισθητήρες παντού, μέχρι και στο βρακί μας. Και ακόμα κι εκεί θα υπάρχει η έννοια του σφάλματος.

Αυτό δεν είναι τεχνητή νοημοσύνη (προσομοίωση του ανθρώπινου εγκεφάλου) είναι προσομοίωση ενός μηχανικού συστήματος γιατί θα θεωρήσουμε όλο το οδικό δίκτυο ως μία μηχανή με κινητά μέρη, που ακόμα και οι άνθρωποι θα πρέπει να έχουν αισθητήρα και είτε να τηρούν τους κανόνες είτε να κάνουν ότι τους λέει ο αλγόριθμος με κάποιον μαγικό τρόπο.

Που ουσιαστικά δεν θα γίνει κυριολεκτικά ποτέ.

Μια χαρά ασφαλής είναι η αυτόνομη οδήγηση.

1500 αστυνομικοί, 137 πυροσβεστικά οχήματα και 269 διασώστες (που πήραν μέρος σε διασώσεις εγκλωβισμένων) μπορούν να το επιβεβαιώσουν.