Μαθηματικό μοντέλο αποδεικνύει ότι ένας υπολογιστής είναι αδύνατο να αποκτήσει συνείδηση

[Pantelwolf]

[Zaknafein]

Διάβασα στα γρήγορα το νήμα της wikipedia για το Singularity, δεν θα έλεγα ότι είναι τόσο κοντά, το machine learning έχει δρόμο ακόμα από όσο ξέρω. Ένας υπερυπολογιστής χρειάζεται ακόμα μήνες για να προσομειώσει εγκεφαλική δραστηριότητα μερικών λεπτών και ο ρυθμός αύξησης της ισχύος των υπερυπολογιστών καθώς και ο ρυθμός βελτίωσης της ενεργειακής τους επάρκειας δεν αφήνει πολύ αισιοδοξία για έναν υπολογιστή που θα μπορέσε -να πλησιάσει έστω- το επίπεδο που απαιτείται για το Singularity.

 

Επίσης, πως ακριβώς θα καινοτομήσει μια μηχανή ; Μπορεί να προγραμματιστεί η ανθρώπινη περιέργεια και εφευρετικότητα ;

[mindtrapper]

Επίσης, πως ακριβώς θα καινοτομήσει μια μηχανή ; Μπορεί να προγραμματιστεί η ανθρώπινη περιέργεια και εφευρετικότητα ;

 

Χωρίς να έχω καμία σχέση με το θέμα το σκέφτομαι ως εξής: τι είναι η περιέργεια και η εφευρετικότητα;

 

Περιέργεια είναι να ερευνάς πράγματα που δεν ξέρεις για να δεις τι θα προκύψει; Εφευρετικότητα είναι να καταστρώνεις/κατασκευάζεις σχέδια/διευκολύνσεις για να βελτιώσεις τον κόσμο σου; Εάν ναι τότε το μόνο που θα χρειαζόταν μια μηχανή για να το κάνει είναι να έχει αρκετή ενέργεια και χρόνο για να υπολογίσει σχεδόν άπειρα (not really αλλά πάρα πολλά) possible outcomes. Σαν να λέμε εκεί που ο άνθρωπος είχε την περιέργεια να πάει στο φεγγάρι η μηχανή θα πάει σε άλλο γαλαξία και παραπέρα. Εκεί που ο άνθρωπος εφηύρε τον τροχό η μηχανή θα φτιάξει warp engine...

[defacer]

Το λογικό σφάλμα που βλέπω ξανά και ξανά σ' αυτή τη συζήτηση είναι πως προσπαθεί κανείς να επεκτείνει την ιδέα που έχει στο μυαλό του για το πώς προγραμματίζονται οι υπολογιστές μέχρις ότου να φτάσει στην "τεχνητή νοημοσύνη" όπως την αντιλαμβάνεται.

 

Spoiler alert: στο bleeding edge της ανθρώπινης γνώσης δε μοντελοποιούν τη νοημοσύνη με τον ίδιο τρόπο που μπορεί να την αντιληφθεί ο τυχαίος φορουμίτης του insomnia. Και δε χρειάζεται να είσαι μέσα στο bleeding edge για να το καταλάβεις αυτό.

 

Ουτε ειδικος ειμαι ουτε θεωρω οτι η αποψη μου ειναι 100% σωστη αλλα απο την στιγμη που για οτι και να κανει η μηχανη χρειαζεται καποιος να το εχει ορισει ειτε αφορα ενεργεια,αποφαση η ακομα και μαθηση και να εχει ορισει την αντιδραση,τον τροπο αποφασης και τον τροπο μαθησης.Αυτο στην ουσια δεν σημαινει οτι δεν υφισταται νοημοσυνη?

 

Έχω παίξει τρίλιζα με αυτο-διδασκόμενο πρόγραμμα το οποίο στην αρχή είχα βαρεθεί να το κερδίζω (προφανώς). Γύρνα το λίγο αυτό στο μυαλό σου. Για ποιό λόγο θα έγραφε κανείς ένα πρόγραμμα τρίλιζας που μπορεί να χάσει έστω και ένα παιχνίδι;

 

Δεν μπορούν να ξεγελάσουν έναν άνθρωπο. Ακόμα κι οι δυνατότητες εκμάθησης που έχουν κάποια ρομπότ για να αποκτήσουν εμπειρία, είναι και αυτή πεπερασμένη και αφορά συγκεκριμένα πράματα.

 

Διαβάζοντας όχι μόνο αυτό αλλά και προηγούμενα, νομίζω έχεις ένα θέμα της μορφής στυλ άνθρωπος = Οδυσσέας και υπολογιστής = κύκλωπας που πρέπει να το κοιτάξεις. Μπορεί να θέλουμε να είναι έτσι τα πράγματα, αλλά το σύμπαν δε λειτουργεί με βάσει το τι θα θέλαμε.

 

"Δε μπορούν να ξεγελάσουν έναν άνθρωπο". Κάνε τον κόπο να διαβάσεις τι είναι το Turing test και αν μπορούν ή όχι.

 

 

Since 2004, the Loebner Prize organizers have deployed philosophers, computer scientists, and journalists among the interrogators. Nonetheless, some of these experts have been deceived by the machines.

[Zaknafein]

Τι είναι αυτό που θα κάνει την μηχανή να ερευνήσει όλα αυτά τα -σχεδόν άπειρα- ενδεχόμενα όμως; Με άλλα λόγια, τι είναι αυτό που θα κάνει μια μηχανή να ρωτήσει "γιατί;"

[mindtrapper]

Τι είναι αυτό που θα κάνει την μηχανή να ερευνήσει όλα αυτά τα -σχεδόν άπειρα- ενδεχόμενα όμως; Με άλλα λόγια, τι είναι αυτό που θα κάνει μια μηχανή να ρωτήσει "γιατί;"

 

Το ότι δεν το ξέρει ήδη. Δε νομίζω να είναι αδύνατον να προγραμματιστεί αυτό. Δες και το απλό παράδειγμα του προγράμματος που μάθαινε τρίλιζα πιο πάνω. Τι ήταν αυτό που έκανε το πρόγραμμα να μαθαίνει και να γίνεται καλύτερο στην τρίλιζα;

[chrisxkar]

Τι είναι αυτό που θα κάνει την μηχανή να ερευνήσει όλα αυτά τα -σχεδόν άπειρα- ενδεχόμενα όμως; Με άλλα λόγια, τι είναι αυτό που θα κάνει μια μηχανή να ρωτήσει "γιατί;"

 

αυτο ακριβως.Μια μηχανη δεν εχει "θελω" και ακομα και να εφτανε στο σημειο να ειναι κοντα στην ανθρωπινη νοημοσυνη δεν μπορει να αναρωτηθει η να υπολογισει πραγματτα περα απο αυτα που της εχουν ορισει.

Το ότι δεν το ξέρει ήδη. Δε νομίζω να είναι αδύνατον να προγραμματιστεί αυτό. Δες και το απλό παράδειγμα του προγράμματος που μάθαινε τρίλιζα πιο πάνω. Τι ήταν αυτό που έκανε το πρόγραμμα να μαθαίνει και να γίνεται καλύτερο στην τρίλιζα;

Το προγραμμα δεν ξεκινησε απο μονο του να μαθαινει καποιος εγραψε συγκεκριμενα τι θα μαθει πως θα το μαθει και πως θα το χρησιμοποιησει στο παιχνιδι.Δεν μπορει να σκεφτει κατι χωρις να το γραψει ο προγραμματιστης.Και οπως ειπες περα απο το θεμα της ενεργειας μια μηχανη δεν χρειαζεται τιποτα αλλο

 

 

Τι εχω στο μοιαλο μου σαν νοημοσυνη?Επειδη με ρωτησε ο φιλος ποιο πριν....Αν φτιαξω μια μηχανη με το ποιο τελειο λογισμικο που μπορουμε να φανταστουμε και την υπολογιστικη δυναμη 100 υπερυπολογιστων,και δεν δωσουμε μια εντολη κανε αυτο θα ειναι ακινητη ειτε μεχρι να σκουριασει ειτε μεχρι να τελειωσει η μπαταρια της οπως και δεν μπορει να θεσει εναν νεο στοχο απο μονη της εκτος και αν καποιος το εχει γραψει στις εντολες του.

 

Δεν νομιζω να λεω κατι παραλογο.Και εγω θα ηθελα να ζω σε ενα παραλληλο συμπαν που το  star wars η το mass effect ειναι πραγματικοτητα αλλα δυστηχως ειναι μονο επιστημονικη φαντασια.

[Silverage]

Το μέλλον έρχεται

http://www.newscientist.com/article/mg22229664.400-armed-russian-robocops-to-defend-missile-bases.html

[PostHelper]

Αυτό που είναι μαθηματικά αδύνατον είναι να εμφανιστεί σε tech blog ορθή ερμηνεία επιστημονικού paper.

 

Από το abstract:

 

Google έχετε, αγγλικά ξέρετε, σε αντίθεση με το techgear έχετε πλέον διαβάσει έστω και μια γραμμή από το paper, κάντε τη δουλειά σας.

And yet, η συζητηση συνεχιστηκε σε τελειως λανθασμενο πλαισιο....

 

Ασε που στο arxiv.org βγηκε η ερευνα. Καμια σχεση με επιστημονικη ερευνα δηλαδη(δεκτη απο την επισητμονικη κοινοτητα επειτα απο εξεταση της), επειδη εκει μπαινουν καθημερινα χιλιαδες ερευνες(ειτε μαθηματικες ειτε φυσικης ειτε οτιδηποτε) που τελικα καταληγουν στα "σκουπιδια", δηλαδη αποδεικνυονται λαθος. Οχι οτι ειναι και απαραιτητως η συγκεκριμενη, κακη ερευνα ή λαθος, απλως μην την παιρνουμε και ως θεωρημα πλεον των μαθηματικων.

[Physics_Rulez]

 

Τι εχω στο μοιαλο μου σαν νοημοσυνη?Επειδη με ρωτησε ο φιλος ποιο πριν....Αν φτιαξω μια μηχανη με το ποιο τελειο λογισμικο που μπορουμε να φανταστουμε και την υπολογιστικη δυναμη 100 υπερυπολογιστων,και δεν δωσουμε μια εντολη κανε αυτο θα ειναι ακινητη ειτε μεχρι να σκουριασει ειτε μεχρι να τελειωσει η μπαταρια της οπως και δεν μπορει να θεσει εναν νεο στοχο απο μονη της εκτος και αν καποιος το εχει γραψει στις εντολες του.

 

Δεν νομιζω να λεω κατι παραλογο.Και εγω θα ηθελα να ζω σε ενα παραλληλο συμπαν που το  star wars η το mass effect ειναι πραγματικοτητα αλλα δυστηχως ειναι μονο επιστημονικη φαντασια.

Νομιζω οτι μπερδευεις τη νοημοσυνη με τη ζωη. Το οτι κατι δεν ειναι ζωντανό δε σημαινει οτι δε μπορει να εχει νοημοσυνη.

[PostHelper]

Και στα παραδειγματα με το σκακι και το mail.Απλα καποιος υπαγορευσε στο προγραμμα οταν βλεπεις αυτο κανε αυτη την ενεργεια και στο σκακι το ιδιο.

Οπότε ο τύπος που έφτιαξε το λογισμικό του Deep Blue ας πούμε, τον έχει τον Γκάρη τον Κασπάρωφ.

Αυτό λέμε;

 

 

Δεν ειπε αυτο. Αν δεν εκοβες την παραγραφο του αφηνοντας την κυριοτερη προταση του απο εξω θα το καταλαβαινες.

 

Ειπε:

Και στα παραδειγματα με το σκακι και το mail.Απλα καποιος υπαγορευσε στο προγραμμα οταν βλεπεις αυτο κανε αυτη την ενεργεια και στο σκακι το ιδιο.Αρα για τι ειδους νοημοσυνη μιλαμε?

Αυτο που λεει ειναι οτι ο Deep Blue πχ ηταν ενας μετρητης φασολιων(bean counter) οπως λεμε. Τον προγραμματισαν να δημιουργει ενα δεντρο κινησεων και με μια απλοικη evaluation(μια απλουστατη συναρτηση βασικα) σε αυτο το "φυλλο"(θεση) που σταματουσε μετα απο καποιον αριθμο κινησων προτου τελειωσει ο χρονος(περιπου 7 κινησεις μπροστα(14 plies) για τον Deep Blue του 1997) υπολογιζε ποιο ειναι το καλυτερο φυλλο του δεντρου, ποια ειναι η καλυτερη κινηση δηλαδη.

Και επειδη υπολογιζε με περιπου 200 εκατομμυρια κινησεις το δευτερολεπτο επαιζε καλα, τοσο καλα ωστε να μπορει να νικησει τους top GMs.

Ειναι αραγε ευφυια αυτο? Ή απλως εκπληκτικη ταχυτητα μετρησης κινησεων? Γιατι ο Deep Blue ηταν αρκετα απλοικος(σε σχεση με τα τοτε προγραμματα για υπολογιστες οπως Hiarcs, Fritz, Junior κλπ) στο software του(στους αλγοριθμους "ευφυιας" του/στην evaluation function του δηλαδη) και η δυναμη του ηταν η τεραστια υπολογιστικη ισχυς του.

 

Οι σημερινες σκακιστικες μηχανες(προγραμματα) ειναι ΑΠΕΙΡΩΣ εξυπνοτερες και υπολογιζουν(σε εναν καλο αλλά οχι τοπ σημερινο υπολογιστη(δεν μιλαμε καν για υπερυπολογιστες αλλά για συνηθισμενους της αγορας τοπ)) γυρω στις 20 με 50 εκατομμυρια κινησεις το δευτερολεπτο, μια ταξη μεγεθους κατω απο τον Deep Blue δηλαδη αλλά ομως θα νικουσαν τον Deep Blue με σκορ 99.5-0.5 ή 100-0 εαν παιζανε.

Παρολα αυτα αυτο δεν αποτελει νοημοσυνη

 

Εξαρταται πως οριζεις την λεξη νοημοσυνη.

Πως την οριζεις εσυ?

 

[mikelamar]

Κάθε τόσο βγάζουν και μια έρευνα που αποδεικνύει το αναποδεικτο. Οι επικεφαλής τα παίρνουν χοντρά κι οι υπόλοιποι κάνουν το PhD τους κτλ.

 

Έλεος πια με τις έρευνες, στα μπελεγρινι@ μας.

Λες κι αν τετραγωνισουν τον κύκλο θα αλλάξει η ζωη μας πρακτικά προς το καλύτερο

 

Sent from my iPhone using Insomnia

[PostHelper]

Έχω παίξει τρίλιζα με αυτο-διδασκόμενο πρόγραμμα το οποίο στην αρχή είχα βαρεθεί να το κερδίζω (προφανώς). Γύρνα το λίγο αυτό στο μυαλό σου. Για ποιό λόγο θα έγραφε κανείς ένα πρόγραμμα τρίλιζας που μπορεί να χάσει έστω και ένα παιχνίδι;

 

Και ομως δικιο εχει. Γιατι και τα προγραμματα που εκπαιδευονται(artificial NNs, SVM ή οτιδηποτε αλλο) εμεις εχουμε θεσει τους κανονες με τους οποιους εκπαιδευονται. Δεν κανουν κατι δικο τους δηλαδη. Εμεις προγραμματισαμε τον κωδικα εκπαιδευσης, εμεις προγραμματισαμε τις CPU του υπολογιστη ωστε ο κωδικας να τρεχει καταλληλως, τα προγραμματα αυτα που λες που αυτοεκπαιδευονται δεν κανουν κατι μονα τους με δικη τους πρωτοβουλια.

 

Γινονται εξυπνοτερα παιχνιδι με παιχνιδι(τριλιζας πχ) και μπορεις να αποδωσεις νοημοσυνη στο τελικο αποτελεσμα/προγραμμα, αλλά δεν μπορεις να αποδωσεις νοημοσυνη στο οτι αψηφησαν τον ανθρωπο και κανανε κατι δικο τους, καποια βελιωση δικη τους, μια ενεργεια που αυτα αποφασισαν! ΟΧΙ! Οι ενεργειες του ανθρωπου ακολουθηθηκαν κατα γραμμα! 100%!

 

Έλεος πια με τις έρευνες, στα μπελεγρινι@ μας.

Λες κι αν τετραγωνισουν τον κύκλο θα αλλάξει η ζωη μας πρακτικά προς το καλύτερο

 

Αυτες ειναι σκεψεις του μεσαιωνα.... :eek: :-( :-(

 

Αν δεν υπηρχαν οι επιστημονικες ερευνες, τα μαθηματικα και η φυσικη και η επιστημη γενικοτερα, τωρα δεν θα μιλουσες στο ιντερνετ, ουτε καν θα ειχες υπολογιστη, ουτε καν καρεκλα να κατσεις και θα ζωγραφιζες σε σπηλιες με λιωμενες φραουλες....

[defacer]

And yet, η συζητηση συνεχιστηκε σε τελειως λανθασμενο πλαισιο....

 

Δημοκρατία έχουμε... 

 

Και ομως δικιο εχει. Γιατι και τα προγραμματα που εκπαιδευονται(artificial NNs, SVM ή οτιδηποτε αλλο) εμεις εχουμε θεσει τους κανονες με τους οποιους εκπαιδευονται. Δεν κανουν κατι δικο τους δηλαδη. Εμεις προγραμματισαμε τον κωδικα εκπαιδευσης, εμεις προγραμματισαμε τις CPU του υπολογιστη ωστε ο κωδικας να τρεχει καταλληλως, τα προγραμματα αυτα που λες που αυτοεκπαιδευονται δεν κανουν κατι μονα τους με δικη τους πρωτοβουλια.

 

Γινονται εξυπνοτερα παιχνιδι με παιχνιδι(τριλιζας πχ) και μπορεις να αποδωσεις νοημοσυνη στο τελικο αποτελεσμα/προγραμμα, αλλά δεν μπορεις να αποδωσεις νοημοσυνη στο οτι αψηφησαν τον ανθρωπο και κανανε κατι δικο τους, καποια βελιωση δικη τους, μια ενεργεια που αυτα αποφασισαν! ΟΧΙ! Οι ενεργειες του ανθρωπου ακολουθηθηκαν κατα γραμμα! 100%!

 

Ναι, αλλά δες το λίγο φιλοσοφικά.

 

Πες πως έχουμε ένα πρόγραμμα το οποίο δημιουργήσαμε εμείς, και του είπαμε ότι έχει να κάνει την τάδε δουλειά και μ' αυτά τα κριτήρια μπορεί να την αξιολογήσει. Και μετά του είπαμε ότι κοίτα, η υπόστασή σου είναι μοντελοποιημένη με τον εξής τρόπο (bits, bytes κλπ), μπορείς να κλωνοποιηθείς και να κάνεις ο,τι αλλαγές νομίζεις βάσει του μοντέλου αυτού, και μπορείς να αξιολογήσεις τους μεταλλαγμένους κλώνους σου όπως ήδη ξέρεις (EA δηλαδή).

 

Αν κάποια στιγμή ένας από αυτούς τους κλώνους μεταλλαχθεί στο τμήμα π.χ. των κριτηρίων αξιολόγησης της δουλειάς, και αυτή η μετάλλαξη έχει σαν αποτέλεσμα τα κριτήριά του να γίνουν καλύτερα από αυτά που του είχαμε προγραμματίσει αρχικά (και από τα καλύτερα που ξέρουμε εμείς).... έκανε "κάτι δικό του" ή όχι;

[PostHelper]

Δημοκρατία έχουμε... 

 

 

Ναι, αλλά δες το λίγο φιλοσοφικά.

 

Πες πως έχουμε ένα πρόγραμμα το οποίο δημιουργήσαμε εμείς, και του είπαμε ότι έχει να κάνει την τάδε δουλειά και μ' αυτά τα κριτήρια μπορεί να την αξιολογήσει. Και μετά του είπαμε ότι κοίτα, η υπόστασή σου είναι μοντελοποιημένη με τον εξής τρόπο (bits, bytes κλπ), μπορείς να κλωνοποιηθείς και να κάνεις ο,τι αλλαγές νομίζεις βάσει του μοντέλου αυτού, και μπορείς να αξιολογήσεις τους μεταλλαγμένους κλώνους σου όπως ήδη ξέρεις (EA δηλαδή).

 

Αν κάποια στιγμή ένας από αυτούς τους κλώνους μεταλλαχθεί στο τμήμα π.χ. των κριτηρίων αξιολόγησης της δουλειάς, και αυτή η μετάλλαξη έχει σαν αποτέλεσμα τα κριτήριά του να γίνουν καλύτερα από αυτά που του είχαμε προγραμματίσει αρχικά (και από τα καλύτερα που ξέρουμε εμείς).... έκανε "κάτι δικό του" ή όχι;

 

Βασικα ναι, γιατι τωρα που το σκεφτομαι γενικοτερα, και ο εγκεφαλος μας αρχικα, μερικα κυτταρα ειναι κενα σχεδον και απλως προγραμματιζονται απο γονεις/περιβαλλον μας με συγκεκριμενο τροπο και απλως τα αποτελεσματα ειναι διαφορετικα στον καθενα μας, οπως πχ τα layers και η τελικη εξυπναδα(ικανοτητα παιχνιδιου δηλαδη) ειναι διαφορετικα στα ΑΝΝς διαφόρων προγραμματων για τριλιζα πχ.

 

Απλως μαλλον ο εγκεφαλος μας εχει ΕΞΑΙΡΕΤΙΚΑ ΠΟΛΥ παραπανω μνημη και πολυπλοκοτητα απο καποιο δικτυο ΑΝΝ πχ, για αυτο και προκυπτουν πολυ μεγαλυτερες δυνατοτητες τελικα απο καθε αποψη. Αλλά ουσιαστικα το ιδιο πραγμα ειναι.

Τωρα αν φτιαξουμε ενα δικτυο ΑΝΝ πχ, τεραστιο, πραγματικα τεραστιο δινοντας του και τεραστια υπολογιστικη ισχυ να εκπαιδευτει, εαν θα αποκτησει συνειδηση ή οχι εγω πιστευω πως ναι, αφου πιστευω οτι ουσιαστικα ο εγκεφαλος ειναι απλως ενα εξαιρετικα πολυπλοκος επεξεργαστης με διαφορετικη βαση λειτουργιας βεβαια αλλά μπορει να προκυψει ισοδυναμια αποτελεσματων.

 

Εξαλλου τι ειναι συνειδηση? Ας το ορισουμε πρωτα με σαφηνεια και αυστηρως και τα ξαναλεμε....