Οι Αμερικανοί ανησυχούν καθώς βλέπουν την υιοθέτηση της Τεχνητής Νοημοσύνης να επεκτείνεται

[listerstorm]

19 λεπτά πριν, AtiX είπε

Αυτό κατάλαβες εσύ?

Κατάλαβα ότι δεν έχεις καμία σχέση με τον κλάδο και προσπαθείς να καταλάβεις τι ραδιούργο σχέδιο ετοιμάζουν οι Αμερικάνοι με επιστολή στα πανεπιστήμια και τα ερευνητικά κέντρα.

[AtiX]

12 λεπτά πριν, fast8 είπε

Η πρόοδος δεν σταματάει. Μπορεί κάποιος να απογορεύσει την έρευνα για λίγους μήνες (γνώμη μου θα πρέπει να είναι κάποια χρόνια) μέχρι η κοινωνία και η πολιτική να εξοικειωθεί με την νέα πραγματικότητα και να έχουμε ένα σχέδιο δράσης. Για να γίνει έρευνα σε νέα ικανά μοντέλα, χρειάζονται τεράστια datacenters οπότε μπορεί κάποιος να παρακολουθήσει αν υπάρχει νέα έρευνα η όχι.

Οτι και να κάνουμε δεν αποτρέπουμε την είσοδο της ΤΝ στην κοινωνία και στην ζωή μας, αλλά αυτή την στιγμή πιαστήκαμε απροετοίμαστοι. 

Δηλαδή θα συμφωνούσες αν μια δυο εταιρίες έβρισκαν το φάρμακο για τον καρκίνο και πεταγόταν μια άλλη εταιρία με δυο τρεις γιατρούς να πουν ότι πρέπει να σταματήσουν την έρευνα για έξη μήνες γιατί πιστεύουν ότι υπάρχει κίνδυνος για τους ασθενείς?

Καταλαβαίνω ότι ως τεχνολογία είναι καινούργια, καταλαβαίνω ότι και ως προς την εφαρμογή της θα πρέπει να μπουν κανόνες, δεν καταλαβαίνω όμως τον πανικό εταιριών και των φερέφωνών τους…

[Dimitris_1981]

1 ώρα πριν, fast8 είπε

Είσαι εκτός θέματος και συζήτησης. Ο προηγούμενος μίλησε για την διαφήμιση στην ντομάτα του αγρότη και ποιά επαγγέλματα απειλεί η ΤΝ. Η διαφήμιση παίζει μηδενικό ρόλο στον αγρότη και δεν απειλεί η ΤΝ την δουλειά του ότι και να λέτε. Απειλεί κυρίως όσους εργάζονται σε γραφεία, υπολογιστές, τηλέφωνα. Και ναι απειλεί τα δημιουργικά τμήματα των marketing τμημάτων. Θα κόψει τις θέσεις εργασίας στο μισό. Απο το να βρίσκει δικές του ιδέες, μέχρι να αναπτήσει τις ιδέες που το έχουν πει ακόμα και με οπτικοακουστικό υλικό. Μετά ο supervisor και το αφεντικό διαλέγουν ή το δίνουν σε άνθρωπο για ένα φινίρισμα.

Ευχαριστώ αλλά δεν θα πάρω μαθήματα marketing εδώ. 

 

Και ακόμα μια φορά. Δεν είπαμε ότι θα καταργήσει όλες τις θέσεις εργασίας. Είπαμε ότι θα καταργήσει σημαντικό αριθμό θέσεων εργασίας, αλλά οι supervisors και οι άνθρωποι πάντα θα υπάρχουν. 

Επιπλέον, ακόμα μια φορά. Δεν με αποσχολούν οι θέσεις εργασίας, εγώ δεν χάνω την δουλειά μου απο ΤΝ και αν την χάσω βρίσκω άλλη. Άλλοι είναι οι κίνδυνοι της ΤΝ. 

Ναι είναι θέμα χρόνου. Και δεν μιλάμε για δεκαετίες.

Ε αφού το λες εσύ, τι να πει η ακαδημαϊκή και επαγγελματική κοινότητα της ΤΝ. Το ότι πιθανόν ο Musk να είναι επιφυλακτικός σε κάνει εσένα σίγουρο ότι όλοι οι υπόλοιποι που επίσης είναι επιφυλακτικοί είναι λάθος; Μήπως τα κριτήρια σου για να καταλήξεις σε αυτό το συμπέρασμα δεν είναι ορθολογικά;

Να πω μόνο ότι με το ΑΙ ένα ρομπότ θα είχε γνώσεις γεωπόνου και θα μπορούσε να βοηθήσει στην παραγωγή και την Συγκομιδή χωρίς ή με ελάχιστη ανθρώπινη παρέμβαση.

Μην επίσης ξεχνάμε ότι ο μεγαλύτερος γεωκτήμονας είναι ο bill gates. Όπου υπάρχει χρήμα αργα ή γρήγορα καταλήγει στους λίγους με ή χωρίς ΑΙ. Αν η αγροτική παραγωγή ξαναέρθει στα πάνω της σύντομα θα δεις υπερσυγκεντρωση γης σε λίγους. Προς το παρών τους παίρνουν τα έσοδα με χαμηλές τιμές σπόρους φυτοφάρμακα κτλ..

[listerstorm]

4 λεπτά πριν, Dimitris_1981 είπε

Να πω μόνο ότι με το ΑΙ ένα ρομπότ θα είχε γνώσεις γεωπόνου και θα μπορούσε να βοηθήσει στην παραγωγή και την Συγκομιδή χωρίς ή με ελάχιστη ανθρώπινη παρέμβαση.

Μην πέσετε από τα σύννεφα αλλά υπάρχει ένα Skynet που λέγεται IBM Watson και βοηθάει γιατρούς σε νοσοκομεία να κάνουν αξιόπιστες διαγνώσεις. 

Από το 2016 αυτά.

Ναι ξέρω, τρομακτικό.

[Dimitris_1981]

1 λεπτό πριν, listerstorm είπε

Μην πέσετε από τα σύννεφα αλλά υπάρχει ένα Skynet που λέγεται IBM Watson και βοηθάει γιατρούς σε νοσοκομεία να κάνουν αξιόπιστες διαγνώσεις. 

Από το 2016 αυτά.

Ναι ξέρω, τρομακτικό.

Δεν λέω ότι τρομάζω ή οτιδήποτε αφοριστικό. 

Δεν μπορώ να κρίνω που θα οδηγήσει το ΑΙ. Ειδικά όταν δεν γνωρίζουν απόλυτα ούτε οι ίδιοι οι δημιουργοί του. 
 

σ.σ. Αυτό που λες είναι η καλή χρήση του ΑΙ. Μακάρι να πάμε προς τα εκεί

[AtiX]

3 λεπτά πριν, listerstorm είπε

Μην πέσετε από τα σύννεφα αλλά υπάρχει ένα Skynet που λέγεται IBM Watson και βοηθάει γιατρούς σε νοσοκομεία να κάνουν αξιόπιστες διαγνώσεις. 

Από το 2016 αυτά.

Ναι ξέρω, τρομακτικό.

Ναι, αν πιστεύεις και βλέπεις παντού skynet και matrix… 

[fast8]

2 λεπτά πριν, AtiX είπε

Δηλαδή θα συμφωνούσες αν μια δυο εταιρίες έβρισκαν το φάρμακο για τον καρκίνο και πεταγόταν μια άλλη εταιρία με δυο τρεις γιατρούς να πουν ότι πρέπει να σταματήσουν την έρευνα για έξη μήνες γιατί πιστεύουν ότι υπάρχει κίνδυνος για τους ασθενείς?

Καταλαβαίνω ότι ως τεχνολογία είναι καινούργια, καταλαβαίνω ότι και ως προς την εφαρμογή της θα πρέπει να μπουν κανόνες, δεν καταλαβαίνω όμως τον πανικό εταιριών και των φερέφωνών τους…

Έχεις φάει χοντρό κόλλημα με τις εταιρίες (και τον Musk;). Εγώ δεν μιλάω με όρους εταιριών δεν με ενδιαφέρει καθόλου, δεν υπάρχει καν στο οπτικό μου πεδίο αυτή η γωνία θέασης. Κακώς βλέπεις όσους θέλουν μια ογράνωση στο θέμα ως φερέφωνα.

Στην πραγματικότητα δεν με νοιάζει καν να σταματήσει η έρευνα, απλά θέλω να συνειδητοποιήσει ο κόσμος και οι πολιτικοί την νέα πραγματικότητα και να προετοιμαστούμε, αλλά δεν βλέπω να έχει κουνηθεί φύλλο, εξού και ο δικαιολογημένος πανικός. Πάλι θα αντιδράσουμε σε κατακλυσμικά γεγονότα αντί να δράσουμε. 

 Όχι πάλι η καραμέλα με τον καρκίνο. Καλύτερο παράδειγμα θα ήταν η έρευνα στην ατομική ενέργεια. Δίνουμε την δυνατότητα σε όλους να έχουν ένα πυρηνικό αντιδραστήρα στην εταιρία, στο σπίτι τους μιας και είναι τόσο συμφέρουσα  ή πρώτα πέρνουμε μέτρα ώστε κάποιοι να μην το κάνουν βόμβα; Καλώς βάλαμε κανόνες ή έπρεπε να αφήσουμε τις εταιρίες να αποφασίσουν για την πυρηνική ενέργεια; Όλα έχουν δύο όψεις και σοφό είναι για να πάρουμε τα καλά να πάρουμε προφυλάξεις για τα κακά.

[AtiX]

1 λεπτό πριν, fast8 είπε

Έχεις φάει χοντρό κόλλημα με τις εταιρίες (και τον Musk;). Εγώ δεν μιλάω με όρους εταιριών δεν με ενδιαφέρει καθόλου, δεν υπάρχει καν στο οπτικό μου πεδίο αυτή η γωνία θέασης. Κακώς βλέπεις όσους θέλουν μια ογράνωση στο θέμα ως φερέφωνα.

Στην πραγματικότητα δεν με νοιάζει καν να σταματήσει η έρευνα, απλά θέλω να συνειδητοποιήσει ο κόσμος και οι πολιτικοί την νέα πραγματικότητα και να προετοιμαστούμε, αλλά δεν βλέπω να έχει κουνηθεί φύλλο, εξού και ο δικαιολογημένος πανικός. Πάλι θα αντιδράσουμε σε κατακλυσμικά γεγονότα αντί να δράσουμε. 

 Όχι πάλι η καραμέλα με τον καρκίνο. Καλύτερο παράδειγμα θα ήταν η έρευνα στην ατομική ενέργεια. Δίνουμε την δυνατότητα σε όλους να έχουν ένα πυρηνικό αντιδραστήρα στην εταιρία, στο σπίτι τους μιας και είναι τόσο συμφέρουσα  ή πρώτα πέρνουμε μέτρα ώστε κάποιοι να μην το κάνουν βόμβα; Καλώς βάλαμε κανόνες ή έπρεπε να αφήσουμε τις εταιρίες να αποφασίσουν για την πυρηνική ενέργεια; Όλα έχουν δύο όψεις και σοφό είναι για να πάρουμε τα καλά να πάρουμε προφυλάξεις για τα κακά.

Το πρόβλημα μου, και φαίνεται από τον τρόπο που το αντιμετωπίζεις και φέρνεις παραδείγματα, είναι η αρνητικότητα/επιφυλακτικότητα που έχεις… πχ η πυρηνική ενέργεια ουσιαστικά δεν ελέγχεται, σε αντίθεση με την ΤΝ που είναι σε πλήρως ελεγχόμενο περιβάλλον…  

[fast8]

30 λεπτά πριν, AtiX είπε

Το πρόβλημα μου, και φαίνεται από τον τρόπο που το αντιμετωπίζεις και φέρνεις παραδείγματα, είναι η αρνητικότητα/επιφυλακτικότητα που έχεις… πχ η πυρηνική ενέργεια ουσιαστικά δεν ελέγχεται, σε αντίθεση με την ΤΝ που είναι σε πλήρως ελεγχόμενο περιβάλλον…  

Πρόσφατα είχε πάρει δημοσιότητα ένα simulation με drone (σε υπολογιστή όχι με αληθινό hardware) που κάνανε στον αμερικανικο στρατό, όπου δώσανε εντολή για καταστοφή του στόχου πάσει θυσία. To drone κατέστρεψε τον πύργο ελέγχου γιατί θεώρησε ότι οι χειριστές του θα τον εμποδιζαν όπως και τις προηγούμενες φορές.  Τι προάλες πάλι, το ΑΙ της Microsoft τσακωνότανε και απειλούσε κόσμο αντί να μιλήσει πολιτισμένα, χειρότερα και απο το insomnia (τουλάχιστον εμείς δεν απειλούμε κόσμο). Αυτά για αν είναι πλήρως  ελεγχόμενο το περιβάλλον. 

Επιπλέον έχε υπόψη σου ότι πλέον αυτά τα γλωσσικά μοντέλα είναι πολύ κοινά και μπορεί ο κάθε ένας να τα κατεβάσει ελεύθερα στον υπολογιστή του και να φτιάξει το δικό του chatgpt. Θέλει απλά πολύ (μα πολύ) ram, πολλά (μα πολλά) δεδομένα και παραμετροποίηση. Είσαι σίγουρος πως ελέγχουμε όλους όσους ενδιαφέρονται να χρησιμοποιήσουν αυτά τα μοντέλα; Τις πρώτες μέρες το chatgpt πχ απαντούσε σε ερωτήσει σχετικά με ποιές τράπεζες έχουν ευπάθειες και έδινε οδηγίες βήμα βήμα για hacking ή γενικά για εξαπάτηση. Σήμερα το chatgpt είναι λιγότερο εντυπωσιακό απο ότι ήταν στο πλασάρισμα του γιατί το περιορίσαν, τι θα γίνει όμως με όλους τους κακόβουλους παίχτες στην κοινωνία;

Σε μια άλλη περίπτωση, το ΑΙ πλήρωσε έναν άγνωστο στο internet για να του κάνει μια εργασία που στο ίδιο του είχαν ζητήσει, αλλά ήθελε φυσική παρουσία. Μόνο του το σκέφτηκε (το γλωσσικό μοντέλο το "σκέφτηκε", καταλαβαίνουμε τι εννοώ).

Βλέπεις ακόμα και σε αυτά τα πρωτόγονα συστήματα, το ΑΙ δεν περιορίζεται εύκολα. Και σε καμία περίπτωση δεν περιορίζονται οι χειριστές του. Κανόνες και προετοιμασία για αυτά είναι αυτό που θέλω.

 

Επεξ/σία 30 Αυγούστου 2023 από fast8

[filip123go]

 

On 30/08/2023 at 23:08, fast8 said:

Πρόσφατα είχε πάρει δημοσιότητα ένα simulation με drone (σε υπολογιστή όχι με αληθινό hardware) που κάνανε στον αμερικανικο στρατό, όπου δώσανε εντολή για καταστοφή του στόχου πάσει θυσία. To drone κατέστρεψε τον πύργο ελέγχου γιατί θεώρησε ότι οι χειριστές του θα τον εμποδιζαν όπως και τις προηγούμενες φορές.

Προγραμματίζουμε το drone να εκτελέσει την αποστολή του παση θυσία.

Οι χειριστές εμποδίζουν το drone

Το drone ξεπερνά το εμπόδιο

Literally everyone:

Spoiler

 

[amigagr]

με μεσω ορο iq κοντα στο μηδεν σε λιγο και τα ραδικια θα ειναι πιο εξυπνα απο τους αμερικανους. λογικο να ανησυχουν...

[AtiX]

2 λεπτά πριν, fast8 είπε

Πρόσφατα είχε πάρει δημοσιότητα ένα simulation με drone (σε υπολογιστή όχι με αληθινό hardware) που κάνανε στον αμερικανικο στρατό, όπου δώσανε εντολή για καταστοφή του στόχου πάσει θυσία. To drone κατέστρεψε τον πύργο ελέγχου γιατί θεώρησε ότι οι χειριστές του θα τον εμποδιζαν όπως και τις προηγούμενες φορές.  Τι προάλες πάλι, το ΑΙ της Microsoft τσακωνότανε και απειλούσε κόσμο αντί να μιλήσει πολιτισμένα, χειρότερα και απο το insomnia (τουλάχιστον εμείς δεν απειλούμε κόσμο). Αυτά για αν είναι πλήρως  ελεγχόμενο το περιβάλλον. 

Επιπλέον έχε υπόψη σου ότι πλέον αυτά τα γλωσσικά μοντέλα είναι πολύ κοινά και μπορεί ο κάθε ένας να τα κατεβάσει ελεύθερα στον υπολογιστή του και να φτιάξει το δικό του chatgpt. Θέλει απλά πολύ (μα πολύ) ram, πολλά (μα πολλά) δεδομένα και παραμετροποίηση. Είσαι σίγουρος πως ελέγχουμε όλους όσους ενδιαφέρονται να χρησιμοποιήσουν αυτά τα μοντέλα; Τις πρώτες μέρες το chatgpt πχ απαντούσε σε ερωτήσει σχετικά με ποιές τράπεζες έχουν ευπάθειες και έδινε οδηγίες βήμα βήμα για hacking ή γενικά για εξαπάτηση. Σήμερα το chatgpt είναι λιγότερο εντυπωσιακό απο ότι ήταν στο πλασάρισμα του γιατί το περιορίσαν, τι θα γίνει όμως με όλους τους κακόβουλους παίχτες στην κοινωνία;

Σε μια άλλη περίπτωση, το ΑΙ πλήρωσε έναν άγνωστο στο internet για να του κάνει μια εργασία που στο ίδιο του είχαν ζητήσει, αλλά ταυτόχρονα του είχαν κόψει την πρόσβαση σε πόρους. Μόνο του το σκέφτηκε (το γλωσσικό μοντέλο το "σκέφτηκε", καταλαβαίνουμε τι εννοώ).

Βλέπεις ακόμα και σε αυτά τα πρωτόγονα συστήματα, το ΑΙ δεν περιορίζεται εύκολα. Και σε καμία περίπτωση δεν περιορίζονται οι χρήστες του. Κανόνες και προετοιμασία για αυτά είναι αυτό που θέλω.

 

Το ΑΙ/ΤΝ ότι το προγραμματίσεις θα κάνει, σε όλα τα παραδείγματα που έδωσες το αποδεικνύουν… Πραγματικά τώρα πιστεύεις ότι υπάρχει έστω και μια πιθανότητα να έκανε κάτι από μόνο του?

τώρα εκφράσεις τύπου θεώρησε, τσακωνότανε, απειλούσε είναι εκτός τόπου και χρόνου μιας και για να κάνει κάτι τέτοιο θα έπρεπε να υπήρχε και η έννοια της συναισθηματικής νοημοσύνης… κάτι τέτοιο, με την παρούσα τεχνολογία, απλά είναι απίθανο…

 

[fast8]

53 λεπτά πριν, AtiX είπε

Το ΑΙ/ΤΝ ότι το προγραμματίσεις θα κάνει, σε όλα τα παραδείγματα που έδωσες το αποδεικνύουν… Πραγματικά τώρα πιστεύεις ότι υπάρχει έστω και μια πιθανότητα να έκανε κάτι από μόνο του?

τώρα εκφράσεις τύπου θεώρησε, τσακωνότανε, απειλούσε είναι εκτός τόπου και χρόνου μιας και για να κάνει κάτι τέτοιο θα έπρεπε να υπήρχε και η έννοια της συναισθηματικής νοημοσύνης… κάτι τέτοιο, με την παρούσα τεχνολογία, απλά είναι απίθανο…

 

Οταν λέμε έκανε κάτι απο μόνο του, ενοούμε ότι βρήκε μια λύση σε έναν στόχο που του τέθηκε, χωρίς να το προγραμματίσει ο χειριστή του. Είναι σημαντικό να καταλάβει κάποιος ότι δεν υπάρχει προγραμματισμός στο machine learning, αλλά ένας γενικός αλγόριθμος άσχετος με το πρόβλημα, δεδομένα, παραμετροποίηση και ζητούμενο (αν υπάρχει ζητούμενο, κάποιες φορές θέλουμε μόνο το pattern των δεδομένων). 

Οπότε δεν κάνει ότι το προγραμματίσεις, αλλά ότι του ζητήσεις, μόνο που το κάνει όπως τα τζίνι στα παραμύθια και στα ανέκδοτα, όπου κάνεις μια επιθυμία, φαίνεται να την πραγματοποιούν αλλά όχι αυτό που ήθελες και με επιπτώσεις που δεν είχες προβλέψει, γιατί για ακόμα μια φορά, δεν υπάρχει προγραμματισμός, αλλά στόχος και αποτέλεσμα.

Αλλά και πάλι, δεν κατάλαβες πως το πρόβλημα δεν είναι το εργαλείο. Το εργαλείο το αγαπώ, το σπουδάζω και το υποστηρίζω. Το πρόβλημα είναι οι χειριστές του και πως θα το χρησιμοποιοήσουν και τι θα ζητήσουν οι άνθρωποι να κάνει, πως, γιατί και με τι κίνητρα. Για παράδειγμα με επιτυχία κάνανε επίδειξη πρόσφατα ενός ΑΙ συστήματος που το εκπαιδεύσανε να χρησιμοποιεί τα wifi για να "δει" μέσα απο τοίχους. Το ταϊσανε με τα σήματα των wifi σε ένα μέρος και απο τις μικρές αποκλισεις στις τιμές των σημάτων κατα την μετακίνηση των ατόμων στον χώρο, μπορούσαν να βρουν τις θέσεις των ατόμων πίσω απο τους τοίχους. Αυτό είναι ένα παράδειγμα του πως μπορούν οι χειριστές του ΑΙ να το χρησιμοποιήσουνμε με τρόπο που δεν είναι αποδεκτό απο την κοινωνία, οι χειριστές του όμως το κάνανε. (Δεν κινδυνεύουμε άμεσα απο αυτό, θέλει εκπαίδευση το σύστημα πρώτα στον χώρο, αλλά και πάλι)

Οι λέξεις που χρησιμοποιούμε για να περιγράψουμε κάποια αλληλεπίδραση μεταξύ ατομων είναι οι λέξεις που περιγράφουν το περιεχόμενο της συζήτησης. Αν εσύ δεις το κείμενο μόνο και δεν ξέρεις αν μιλάει ΑΙ ή άνθρωπος και περιγράψεις την αλληλεπίδραση με τις λέξεις θεώρησε, τσακωνότανε, απειλούσε, αυτές ισχύουν και για το ΑΙ. Δεν μας νοιάζει αν τις ένοιωσε ή το ήθελε. Δεν κάνουμε φιλοσοφική συζήτηση για το τι είναι ζωή και συνειδητότητα, αλλά για το αποτέλεσμα.

Επεξ/σία 31 Αυγούστου 2023 από fast8

[vagos1821]

Και τι θα εμποδίσει την Τ.Ν να φτιάξει στρατό και να καταλάβει όλον το κόσμο και να μας αφανίσει;

[Επισκέπτης]

5 ώρες πριν, vagos1821 είπε

Και τι θα εμποδίσει την Τ.Ν να φτιάξει στρατό και να καταλάβει όλον το κόσμο και να μας αφανίσει;

Όμως γιατί να το κάνει αυτό; Ποιο το όφελος;

Για να το πεις αυτό υποθέτεις πως είναι ανεπτυγμένη σε τέτοιο βαθμό που είναι εξυπνότερη από άνθρωπο. Οπότε το ερώτημα είναι:

Εσύ σαν οργανισμός είχες ποτέ σκοπό να εξαφανίσεις τους χιμπατζήδες;