Μαθηματικό μοντέλο αποδεικνύει ότι ένας υπολογιστής είναι αδύνατο να αποκτήσει συνείδηση

[Lucifer]

Ειναι αραγε ευφυια αυτο?

Εξαρταται πως οριζεις την λεξη νοημοσυνη.

Πως την οριζεις εσυ?

Ευχαριστώ.

[alan2]

Νομίζω η είδηση έχει σχέση με τη πληροφορική όπως είναι σήμερα. Με τη σημερινή τεχνολογία δέν θα δημιουργηθεί υπολογιστής με συνείδηση.

[JohnConstantine]

 

Από βιβλία και ταινίες επιστημονικής φαντασίας μέχρι τρελές θεωρίες συνωμοσίας για την εξέλιξη της τεχνολογίας, δεν είναι λίγες οι φορές που ακούσαμε ότι για τον κίνδυνο υποδούλωσης του Ανθρώπου από τις μηχανές. Αλλά ας δούμε τι λένε και τα (συνήθως) έγκυρα Μαθηματικά.

 

Ερευνητές του National University of Ireland δημιούργησαν ένα μοντέλο για να εξετάσουν τον τρόπο λειτουργίας της συνείδησης στον ανθρώπινο εγκέφαλο και κατέληξαν ότι είναι μαθηματικά αδύνατο για έναν υπολογιστή να αποκτήσει επίγνωση και να αρχίσει να σκέφτεται μόνος του (χωρίς να υπάρχει εντολή από κάποιον).

Η έρευνα βασίστηκε σε παλαιότερη θεωρία που υποστηρίζει ότι η ανθρώπινη συνείδηση δομείται από την ενσωμάτωση της πληροφορίας στον εγκέφαλο, η οποία γίνεται χωρίς να “σπάζει” σε μικρότερα κομμάτια. Για παράδειγμα, όταν ένας άνθρωπος βλέπει ένα πράσινο μήλο δεν καταγράφει την πληροφορία ως “ένα σχήμα + ένα χρώμα”. Αντίθετα, σε μια λογική πύλη υπολογιστή με δύο εισόδους, είναι αδύνατο να γνωρίζεις το αποτέλεσμα εξόδου έχοντας μόνο την πληροφορία από τη μία είσοδο. Έτσι, όμως, υπάρχει απώλεια στην ενσωμάτωση της πληροφορίας.

Όπως εξηγεί ο Phil Maguire,

“Βάζεις 2 bits πληροφορίας και παίρνεις πίσω 1. Εάν ο εγκέφαλος μας λειτουργούσε έτσι, τότε θα είχαμε συνεχή διαρροή πληροφορίας. Επίσης, η επαναλαμβανόμενη ανάκληση αναμνήσεων θα είχε ως αποτέλεσμα την καταστροφή τους”

Οι ερευνητές θεωρούν ότι η ενσωματωμένη πληροφορία που γίνεται συνείδηση δεν μπορεί να δεχθεί επεξεργασία. Για παράδειγμα, ένα album με φωτογραφίες στον υπολογιστή είναι μεν αποθηκευμένο, αλλά δεν είναι ενσωματωμένο. Γι΄αυτό μπορούμε εύκολα να τις επεξεργαστούμε. Όμως, όταν δημιουργούνται οι εικόνες-αναμνήσεις στον ανθρώπινο εγκέφαλο, προστίθενται στο “album” με τις προηγούμενες εικόνες-αναμνήσεις και είναι αδύνατο να τις επεξεργαστείς ως ξεχωριστές “σκηνές”.

Εν κατακλείδι, οι ερευνητές ισχυρίζονται ότι απέδειξαν μαθηματικά πως είναι πάνω από τις δυνατότητες μας (τουλάχιστον για την ώρα) να αποκωδικοποιήσουμε το πως ακριβώς ο εγκέφαλος συλλαμβάνει και ενσωματώνει-αφομοιώνει την πληροφορία, επομένως, δεν μπορούμε να δώσουμε και την αντίστοιχη εντολή σε μια μηχανή για να πράξει το ίδιο και να αποκτήσει σταδιακά συνείδηση.

Να επαναλάβουμε ότι η παραπάνω έρευνα στηρίζεται στη θεωρία περί δημιουργίας της ανθρώπινης συνείδησης και ενσωμάτωσης της πληροφορίας.

Τα αποτελέσματα της έρευνας δημοσιεύτηκαν την 1η Μαΐου στο online επιστημονικό περιοδικό ArXiv (βλ. εδώ).

techgear.gr

 

 

 

 

Oπως ελεγε και ενας καθηγητης μου, ο υπολογιστης χωρις τον ανθρωπο ειναι ενα χαζο κουτι. Ο ανθρωπος του εδωσε την δυναμη για να υπολογιζει με μαθηματικη ακριβεια τοσα πολλα. Ηταν ειναι και θα ειναι "ΕΝΑ ΑΨΥΧΟ ΣΩΜΑ ΧΩΡΙΣ ΝΟΗΜΟΣΥΝΗ"

[zio10]

Oπως ελεγε και ενας καθηγητης μου, ο υπολογιστης χωρις τον ανθρωπο ειναι ενα χαζο κουτι. Ο ανθρωπος του εδωσε την δυναμη για να υπολογιζει με μαθηματικη ακριβεια τοσα πολλα. Ηταν ειναι και θα ειναι "ΕΝΑ ΑΨΥΧΟ ΣΩΜΑ ΧΩΡΙΣ ΝΟΗΜΟΣΥΝΗ"

Ήταν, είναι για το "και θα είναι" θα το δούμε! Εμείς ή τα δισέγγονά μας δεν έχει σημασία

[defacer]

Ultra sigh.

 

@alan2, η "είδηση" δεν έχει καμία απολύτως σχέση ούτε με την πληροφορική όπως είναι σήμερα, ούτε με την υπολογιστική νοημοσύνη.

[Snolly]

Στην τελική πατάμε το power off του ρομπότ και έχουμε το κεφάλι μας ήσυχο.

και το κεφαλι του ρομποτ ησυχο

[Zein]

what if δεν υπαρχει κουμπι power off

 

what if το ρομποτ δεν εχει 2 χερια 2 ποδια 1 κεφαλι, αλλα ειναι καπως ετσι:

 

http://4.bp.blogspot.com/-z4cjp6_bppM/UBxowLa4IWI/AAAAAAAADF0/X9HJgcLR348/s640/sentinel-matrix.jpeg

 

αντε να το κλεισεις αυτο και να πεις "you are terminated"

 

 

Και στην τελικη οπως ειπαν και οι απο πανω, δεν χρειαζεται ενας υπολογιστης να αποκτησει ανθρωπινη συνειδηση για να γινει επικδυνος/χρησιμος.

Και ενα -μπλιαξ- γιγαντιο σκουληκι μπορει να γινει τεραστια απειλη, χωρις καν να ξερει τι ακριβως κανει

[zio10]

what if δεν υπαρχει κουμπι power off

 

what if το ρομποτ δεν εχει 2 χερια 2 ποδια 1 κεφαλι, αλλα ειναι καπως ετσι:

 

http://4.bp.blogspot.com/-z4cjp6_bppM/UBxowLa4IWI/AAAAAAAADF0/X9HJgcLR348/s640/sentinel-matrix.jpeg

 

αντε να το κλεισεις αυτο και να πεις "you are terminated"

 

 

Και στην τελικη οπως ειπαν και οι απο πανω, δεν χρειαζεται ενας υπολογιστης να αποκτησει ανθρωπινη συνειδηση για να γινει επικδυνος/χρησιμος.

Και ενα -μπλιαξ- γιγαντιο σκουληκι μπορει να γινει τεραστια απειλη, χωρις καν να ξερει τι ακριβως κανει

Zein, αυτό που δείχνεις το off το έχει από την πίσω μεριά, πάνω και δεξιά όπως το κοιτάς  

[V for Vagelis]

Όπως λοιπόν ο άνθρωπος στη φρέσκια, μόλις-δημιουργημένη κατάστασή του είναι χαζός αλλά στη συνέχεια μαθαίνει αυτόνομα, το ίδιο ακριβώς μπορούν να κάνουν και τα προγράμματα. Με μια διαφορά: τα προγράμματα δεν κουράζονται, δε βαριούνται, και δεν πεθαίνουν. Μπορείς να φανταστείς ένα υποθετικό ανθρώπινο μυαλό που, για να το πω μπακάλικα, βιολογικά θα έμενε πάντα στην ηλικία των 5 χρονών και θα συνέχιζε να μαθαίνει μ' αυτό το ρυθμό για τα επόμενα 200 χρόνια; Θα φαινόμασταν όλοι χειρότερο από πίθηκοι μπροστά του. Ένα πρόγραμμα λοιπόν που έχει ακριβώς αυτή τη δυνατότητα δε θα μπορέσει ποτέ να μας ξεπεράσει επειδή... επειδή.... επειδή δε θα μπορέσει ρε παιδί μου, τι να λέμε τώρα.

 

4. Δε θέλει και πολύ μυαλό για να καταλάβει κανείς ότι αν πρέπει να πιστέψουμε κάποιον "λόγω τιμής", καλύτερα είναι να πιστέψουμε αυτά που προφητεύει π.χ. ο Ray Kurzweil παρά αυτά που λέω εγώ... ή εσύ.

 

Καλά και ο Kurzweil βέβαια απλά υποθέσεις κάνει σχετικά με τη μελλοντική Α.Ι. - και μάλιστα αρκετά αμφισβητούμενες στην ευρύτερη επιστημονική κοινότητα.

 

Επίσης άλλο νοημοσύνη και άλλο συνείδηση, για την οποία οι νευροεπιστήμες έχουν ακόμα πολλά να μάθουν... Το αναφέρω επειδή στο θέμα μέχρι στιγμής γίνεται συζήτηση κυρίως για τη πρώτη έννοια, ενώ στο τίτλο αναφέρεται η δεύτερη.

[defacer]

Εννοείται. Δεν είπα ότι ο Kurzweil έχει κρυστάλλινη σφαίρα. Αλλά τουλάχιστον τις δικές του προβλέψεις τις αμφισβητεί όπως λες μέρος της επιστημονικής κοινότητας, ενώ κάποιων άλλων τις προβλέψεις δε μπαίνει στον κόπο να τις αμφισβητήσει ούτε ο περιπτεράς if you know what I mean.

 

Ο διαχωρισμός μεταξύ νοημοσύνης και συνείδησης (και μάλιστα του είδους της συνείδησης στην οποία αναφέρεται το paper, η οποία είναι τελείως ξένη με την "ανθρώπινη συνείδηση" όπως την αντιλαμβανόμαστε), είπαμε και νωρίτερα με τον posthelper ότι φαίνεται πως είναι μάλλον ψιλά γράμματα σ' αυτό το thread.

[Zaknafein]

Δηλαδή υπάρχουν άνθρωποι που παίρνουν τις προβλέψεις του Kurzweil στα σοβαρά; Τουλάχιστον όσον αφορά το timeframe δεν μπορώ να πειστώ με τίποτα (και αναφέρομαι στις όχι και τόσο "out there" προβλέψεις). Το reverse engineering του εγκεφάλου έχει πολύ δρόμο ακόμα.

[michael92]

Δηλαδή υπάρχουν άνθρωποι που παίρνουν τις προβλέψεις του Kurzweil στα σοβαρά; Τουλάχιστον όσον αφορά το timeframe δεν μπορώ να πειστώ με τίποτα (και αναφέρομαι στις όχι και τόσο "out there" προβλέψεις). Το reverse engineering του εγκεφάλου έχει πολύ δρόμο ακόμα.

 

Η αλλαγή θα γίνει στα ξαφνικά λόγο της εκθετικής υπολογιστικής μεταβολής. Αν αποκρυπτογραφήσεις τον εγκέφαλο του ποντικιού, είσαι πχ μόλις 10 χρόνια πίσω από τον να αποκρυπτογραφήσεις τον ανθρώπινο εγκέφαλο.

[defacer]

Δηλαδή υπάρχουν άνθρωποι που παίρνουν τις προβλέψεις του Kurzweil στα σοβαρά;

 

Ζούμε σ' ένα κόσμο όπου υπάρχουν άνθρωποι που παίρνουν τις προβλέψεις της Βίκυς Παγιατάκη στα σοβαρά. Να συνεχίσω;

 

Τουλάχιστον όσον αφορά το timeframe δεν μπορώ να πειστώ με τίποτα (και αναφέρομαι στις όχι και τόσο "out there" προβλέψεις). Το reverse engineering του εγκεφάλου έχει πολύ δρόμο ακόμα.

Μα κανείς (σίγουρα όχι εγώ) δε λέει πως όλες οι προβλέψεις του Ray, πόσο μάλλον το timeline, είναι σωστές (and yet, πολλές από αυτές ήταν όντως σωστές). Και γω έχω την ίδια διαίσθηση με σένα, αλλά το θέμα είναι πως οι διαισθήσεις μας δε μετράνε και πολύ --  αν θέλεις ούτε του Ray μετράνε πολύ κατ' απόλυτη τιμή, απλά πολύ περισσότερο συγκριτικά από τις δικές μας.

 

Λοιπόν ο Ray λέει reverse engineering εγκεφάλου σε 15 χρόνια. Πράγμα που μου φαίνεται τελείως απίθανο. Αλλά.

15 χρόνια πριν την κλωνοποίηση του πρόβατου τι θα έλεγες σχετικά μ' αυτό;

 

15 χρόνια πριν πατήσει άνθρωπος στο φεγγάρι τι θα έλεγες σχετικά μ' αυτό; Υπενθυμίζω ότι το Apollo 11 ήταν το 1969, ενώ το 1954 δεν είχαμε φτάσει ακόμα στον Sputnik 1 (η πρώτη επιτυχημένη απλή τροχιά γύρω από τη γη, και βέβαια χωρίς πλήρωμα).

 

Και ούτω καθεξής.

 

Update: ...και όχι απλά δεν είχαμε Sputnik, αλλά ο random guy όπως εμείς δεν είχε ακούσει καν για τέτοια πράγματα. Θυμάμαι πάντα αυτό που μου εξιστόρησαν κάποτε για τον μπάρμπα στο χωριό όταν του είπαν πως οι αμερικανοί πατήσαν στο φεγγάρι: "τι λες μωρέ το 'χεις χαμένο; σε καμιά έρημη ραχούλα πήγαν και βγήκαν φωτογραφία". Θέλω να πω δηλαδή ότι εμείς τώρα, 50 χρόνια μετά, συζητάμε για Sputnik και Apollo και μας φαίνεται πως είναι η λογική εξέλιξη των πραγμάτων. Καμία απολύτως σχέση με το πως φαινόταν τα πράγματα σε κάποιον που τα ζούσε live. To 1960 αν δε δούλευες στη NASA ακόμα κι αν ήσουν πρόθυμος να παραδεχτείς πως κάποτε θα πάμε στο φεγγάρι, αυτό το κάποτε μπορεί να το τοποθετούσες στο σωτήριο έτος 3700.

[Zaknafein]

 

Ζούμε σ' ένα κόσμο όπου υπάρχουν άνθρωποι που παίρνουν τις προβλέψεις της Βίκυς Παγιατάκη στα σοβαρά. Να συνεχίσω;

My bad, πήγαινα γυρεύοντας

 

Για τα λοιπά, ναι οκ, 15 χρόνια είναι πολλά, αλλά έχει κάνει και κάποιες παραδοχές για το μεσοδιάστημα οι οποίες προς το παρόν τουλάχιστον δεν μου φαίνεται ότι θα πραγματοποιηθούν. Όσο πλησιάζουμε το όριο του πυριτίου στα πρωτόκολλα κατασκευής, τόσο πιο πολύ δυσκολεύει η περαιτέρω σμίκρυνση, άρα γίνεται περισσότερο κοστοβόρα/χρονοβόρα αυτή η εξέλιξη, μείωνοντας έτσι τις πιθανότητες να υπάρχει διαθέσιμη η υπολογιστική ισχύς που αυτός υποθέτει ότι θα έχουμε. Α και πάντα υπάρχει και το ζήτημα της τροφοδοσίας αυτής της ισχύος, το οποίο με τα τωρινά δεδομένα (γεωπολιτικά, οικονομικά και όχι αμιγώς επιστημονικά) δεν το βλέπω και με πολύ αισιοδοξία.

[defacer]

Ναι ΟΚ. Αλλά ιστορικά σε όλα τα πράγματα κάποτε γίνεται ένα τεράστιο breakthrough το οποίο αλλάζει για πάντα και με απρόβλεπτους τρόπους τη ροή της ιστορίας. Όσο έγραφα την προηγούμενη πρόταση μου ήρθε στο μυαλό ο Γουτεμβέργιος και το τρανζίστορ.

 

Και το θέμα με τα breakthroughs είναι πως πριν γίνουν δεν τα βλέπεις να 'ρχονται.