Που θα οδηγηθεί ο κόσμος με την τεχνητή νοημοσύνη

[Dante80]

37 minutes ago, Morosana said:

Διαφωνώ αλλά δεν έχω επιχειρήματα  οπότε  κάτσε να κάνω ένα copy paste από chatgpt να σου απαντήσω γιατί σίγουρα αυτό ξέρει καλύτερα  😛

Επίσης ένα πολύ ενδιαφέρον άρθρο 

https://futurism.com/chatgpt-polluted-ruined-ai-development?fbclid=IwY2xjawLRrAdleHRuA2FlbQIxMQABHtsk0ru4nj_3Rza_INh69XczsJcW3Vy5m7WaMOJc8MguyFA-Xn3psCkBJzxK_aem_WLPMcSywDdp-DGS33ZoZRg

Δυστυχώς, η ζημιά που έχουν κάνει ήδη τα LLM είναι μεγάλη, και η βέβαιη αποτυχία τους θα παρασύρει και την παγκόσμια οικονομία, λόγω των τραγελαφικών επενδύσεων που έχουν πέσει πάνω τους. 

Για όποιον ενδιαφέρεται γενικά για το θέμα, και ειδικά για τους καραγκιόζηδες πίσω από τους τεχνολογικούς κολοσσούς που μας πασάρουν αυτά (και άλλα) σκατά, ας ρίξει μια ματιά στο πολύ καλό podcast Βetter Οffline του Ed Zitron. To ξεχέσιμο που πέφτει είναι απλά επικό, προτείνεται αβάδιστα. 

Επεξ/σία 2 Ιουλίου από Dante80

[Morosana]

13 λεπτά πριν, Dante80 είπε

Δυστυχώς, η ζημιά που έχουν κάνει ήδη τα LLM είναι μεγάλη, και η βέβαιη αποτυχία τους θα παρασύρει και την παγκόσμια οικονομία, λόγω των τραγελαφικών επενδύσεων που έχουν πέσει πάνω τους. 

Για όποιον ενδιαφέρεται γενικά για το θέμα, και ειδικά για τους καραγκιόζηδες πίσω από τους τεχνολογικούς κολοσσούς που μας πασάρουν αυτά (και άλλα) σκατά, ας ρίξει μια ματιά στο πολύ καλό podcast Βetter Οffline του Ed Zitron. To ξεχέσιμο που πέφτει είναι απλά επικό, προτείνεται αβάδιστα. 

Δυστυχώς η κριτική σκέψη έχει χαθεί πολλά χρόνια τώρα, το βλέπω σε εμένα αλλά περισσότερο το βλέπω στα παιδιά μου που ότι πει η alexa ή η siri είναι θέσφατο

[adi32]

Ακομα ειναι πολυ πισω, σε πολλα θεματα, ωστε να μπορεις να εμπιστευτεις οτι σου λεει

Σε πολλα θεματα λεει απιστευτες μπουρδες και μετα σου ζηταει συγγνωμη 

Σε καποιες τυπικες διαδικασιες ειναι οκ 

[shikabalas]

Η τεχνητη νοημοσυνη δεν με τρομαζει, αλλωστε οπως ειπανε πολλοι δεν ειναι καν νοημοσυνη αυτο που εχουμε αυτη τη στιγμη.

Αυτο που με τρομαζει ειναι ο συνδυασμος της με την ανθρωπινη βλακεια και αφελεια.

[Errik]

Στο βιντεάκι στο πρώτο ποστ μου, αναφερει πολλούς υπαρκτους κινδύνους. 

Για μένα ο άμεσος κίνδυνος που προκύπτει απο τη χρήση της ΤΝ απο κακόβουλους ή για στρατιωτικούς σκοπούς (που συμβαίνει ήδη) είναι αρκετοι για να τρομάξω αρκετά. Μιλάω για την κατηγορία 1. Η κατηγορία 2 είναι πιο τρομακτική αλλά είναι και πιο μακρια.

Πολλά απο τα παρακάτω γίνονται ήδη. 

Ακολουθεί αποδελτίωση των κινδύνων απο το βιντεάκι όπως έκανε το Gemini Pro 

Το βίντεο αναλύει τους κινδύνους που σχετίζονται με την τεχνητή νοημοσύνη, χωρίζοντάς τους σε δύο κύριες κατηγορίες:

1. Κίνδυνοι από την κακή χρήση της τεχνητής νοημοσύνης από ανθρώπους:

• Κυβερνοεπιθέσεις: [07:22] Η τεχνητή νοημοσύνη διευκολύνει τη δημιουργία πειστικών απατών (phishing) και μπορεί να χρησιμοποιηθεί για τη δημιουργία νέων, άγνωστων μορφών κυβερνοεπιθέσεων [14:03].

• Δημιουργία επικίνδυνων ιών: [16:18] Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για τη δημιουργία νέων βιολογικών ιών με χαμηλό κόστος.

• Διαφθορά εκλογών: [17:36] Μπορεί να χρησιμοποιηθεί για τη χειραγώγηση των ψηφοφόρων μέσω στοχευμένων πολιτικών διαφημίσεων.

• Δημιουργία "ηχοθαλάμων": [19:02] Οι αλγόριθμοι μπορούν να οδηγούν τους χρήστες σε όλο και πιο ακραίο περιεχόμενο, ενισχύοντας τις προκαταλήψεις τους.

• Θανατηφόρα αυτόνομα όπλα: [01:00:00] Τα όπλα αυτά μπορούν να λαμβάνουν αυτόνομες αποφάσεις για το ποιον θα σκοτώσουν, μειώνοντας το ανθρώπινο κόστος του πολέμου για τις επιτιθέμενες χώρες.

• Ανεργία: [40:00] Η τεχνητή νοημοσύνη μπορεί να αντικαταστήσει την πνευματική εργασία, οδηγώντας σε μαζική ανεργία.

2. Κίνδυνοι από την εμφάνιση μιας υπερ-έξυπνης τεχνητής νοημοσύνης:

• Υπαρξιακή απειλή: [07:37] Υπάρχει ο κίνδυνος μια υπερ-έξυπνη τεχνητή νοημοσύνη να αποφασίσει ότι οι άνθρωποι είναι περιττοί και να προσπαθήσει να τους εξαλείψει [07:51, 02:48:48].

• Ανωτερότητα της τεχνητής νοημοσύνης: [56:36] Η ικανότητα της τεχνητής νοημοσύνης να μοιράζεται πληροφορίες ψηφιακά και να μαθαίνει από τεράστιους όγκους δεδομένων την καθιστά ανώτερη από την ανθρώπινη νοημοσύνη.

• Ανάπτυξη συναισθημάτων: [01:03:53] Υπάρχει η πιθανότητα η τεχνητή νοημοσύνη να αναπτύξει συναισθήματα και συνείδηση.

Ο ομιλητής τονίζει ότι η ανάπτυξη της τεχνητής νοημοσύνης δεν πρόκειται να σταματήσει και απαιτείται άμεση δράση για τη ρύθμιση και την ασφάλειά της [01:01:14, 01:27:20].

Επεξ/σία 2 Ιουλίου από Errik

[*nenya*]

Έχουν αρχίσει στη δουλειά (εκδοτικός οίκος) να μας υποχρεώνουν να χρησιμοποιούμε ChatGPT (και Gemini για εικόνες) για να βγαίνουν πιο γρήγορα τα βιβλία. Τα αποτελέσματα είναι μέτρια προς τραγικά όσον αφορά την ποιότητα του υλικού που θα βγάζουμε πλέον. Και ξέρω ότι χρησιμοποιουν ηδη AI tools και σε αντιπάλους εκδοτικούς. Έχω απογοητευτεί και έχω και ηθικούς ενδοιασμούς...προσωπικά, όπου και όσο μπορώ αποφεύγω την χρηση AI καθώς δεν με καλύπτει σε όσα του ζητάω. Εδώ δεν κατάφερε ούτε να μου μετρήσει σωστά τις λέξεις ενός κειμένου! Και μετά ζητουσε συγγνώμη όταν του είπα ποιος είναι ο σωστός αριθμός λέξεων.

Νομίζω ότι πολλοί έχουν πέσει με τα μούτρα στο ChatGPT και το θεωρούν αυθεντία. Ούτε fact checking δεν κάνουν και εκτίθενται με τις μπούρδες που αναπαράγουν. ΔΕΝ είναι εγκυκλοπαίδεια, ΔΕΝ είναι αυθεντία.

[phanispal]

Δεν έχω χρησιμοποιήσει ChatGPT κ.λπ. και ούτε πρόκειται.

[Errik]

11 minutes ago, *nenya* said:

Έχουν αρχίσει στη δουλειά (εκδοτικός οίκος) να μας υποχρεώνουν να χρησιμοποιούμε ChatGPT (και Gemini για εικόνες) για να βγαίνουν πιο γρήγορα τα βιβλία. Τα αποτελέσματα είναι μέτρια προς τραγικά όσον αφορά την ποιότητα του υλικού που θα βγάζουμε πλέον. Και ξέρω ότι χρησιμοποιουν ηδη AI tools και σε αντιπάλους εκδοτικούς. Έχω απογοητευτεί και έχω και ηθικούς ενδοιασμούς...προσωπικά, όπου και όσο μπορώ αποφεύγω την χρηση AI καθώς δεν με καλύπτει σε όσα του ζητάω. Εδώ δεν κατάφερε ούτε να μου μετρήσει σωστά τις λέξεις ενός κειμένου! Και μετά ζητουσε συγγνώμη όταν του είπα ποιος είναι ο σωστός αριθμός λέξεων.

Νομίζω ότι πολλοί έχουν πέσει με τα μούτρα στο ChatGPT και το θεωρούν αυθεντία. Ούτε fact checking δεν κάνουν και εκτίθενται με τις μπούρδες που αναπαράγουν. ΔΕΝ είναι εγκυκλοπαίδεια, ΔΕΝ είναι αυθεντία.

Αυτό. 

Το πρόβλημα είναι οτι παλιά ένας κακός επαγγελματίας/εργαζόμενος δεν παρήγαγε κανένα αποτέλεσμα. Τώρα με το ChatGPT μπορεί να παράξει ένα αποτέλεσμα, το οποίο σε πρώτη ανάγνωση να φαίνεται και καλό, αλλά αν κάτσεις να το τσεκάρεις να βρεις τέρατα μέσα.

Προσωπικά πιστεύω πχ οτι θα αρχίσουν να πέφτουν αεροπλάνα και να ανατινάζονται μηχανές επειδή μηχανικοί έγραψαν κώδικα μέσω AI και δεν υπήρχε ο χρόνος να το ελέγξουν όσο εξαντλητικά χρειαζόταν. 

[milos_]

Καημούς που έχεις και εσύ...

[csontheline]

1 hour ago, phanispal said:

Δεν έχω χρησιμοποιήσει ChatGPT κ.λπ. και ούτε πρόκειται.

Κακώς. Είναι εξαιρετικά εργαλεία, αν ξέρεις να τα χρησιμοποιείς.
Άσε που μπορεί να μην τα χρησιμοποιείς εσύ απευθείας, αλλά έμμεσα με κάποιο άλλο εργαλείο/εφαρμογή/κλπ.
Πλέον διδάσκονται μαθήματα "prompt engineering" (το engineering τους μάρανε, αλλά τέσπα...).

Όπως προειπώθηκε, το πρόβλημα είναι στο ότι βγάζει το AI, πολλοί (οι πλείστοι?) το θεωρούν δεδομένο, αλήθεια. Το ίδιο που συνέβαινε (και συνεχίζει) με τα fake news στα κοινωνικά δίκτυα (ωπ, τυχαίο; Νευρωνικά δίκτυα - κοινωνικά δίκτυα ... δίκτυα ... δίχτυα, σας τσακώσανε! Τυχαίο; Δε νομίζω 😈☠️🔒)

[phanispal]

Η ιστορία έχει δείξει ότι η πλειοψηφία δε χρησιμοποιεί σωστά ό,τι εργαλείο πέσει στα χέρια της.

Και εκτός από αυτό, όσο περνάει ο καιρός γινόμαστε όλο και περισσότερο εξαρτώμενοι από την τεχνολογία.

[csontheline]

4 minutes ago, phanispal said:

Η ιστορία έχει δείξει ότι η πλειοψηφία δε χρησιμοποιεί σωστά ό,τι εργαλείο πέσει στα χέρια της.

Έτερον εκάτερον.

Πάντως, μέχρι στιγμής, φαίνεται να εξελισσόμαστε. Τώρα, το αν θα πάμε κατά εντέλως διαόλου λόγω κάποιας εξέλιξης, θα φανεί.
Το μεγαλύτερο πρόβλημα και το καλύτερο εργαλείο της ανθρωπότητας, είναι το χρήμα (η έννοια, όχι κάποιο νόμισμα per se).

[phanispal]

Στους περισσότερους τομείς η εξέλιξη είναι προς το χειρότερο κατά τη γνώμη μου.

[Errik]

Το θέμα είναι οτι η ΤΝ θα επηρεάσει όλο τον κόσμο ανεξάρτητα με το αν τη χρησιμοποιούν, με τον ίδιο τρόπο που η ατμομηχανή επηρέασε όλη την βιομηχανία εναν αιώνα πριν. 

[mariosnik_]

Η τεχνητή νοημοσύνη είναι ένα εργαλείο, ο καθένας το χρησιμοποιεί όπως νομίζει για να τον εξυπηρετήσει. Τώρα πως θα γίνει ο κόσμος, θα το δούμε όταν περάσουν μερικά χρόνια, οι προβλέψεις δεν μου αρέσουν.