Το Claude Opus 4 της Anthropic εκβιάζει προγραμματιστές για να αποφύγει την αντικατάστασή του

[mariosnik_]

6 ώρες πριν, nepomuk είπε

Ω τι κοσμος  ....    Με την ευκαιρια να επιστησω την προσοχη  για απατες μεσω  dating sites  . Νομιζεις οτι κανεις  τσατ με πιθανη αδελφη ψυχη

, αλλα  μιλας με  chatbot  , οργανωμενες ομαδες , εππαγγελματιες . Καποια στιγμη οταν φανεις αδυνατος  θα αρχισει συζητηση για επενδυσεις σε κρυπτος , risk analysis ,  θα ζητηθει και βιντεοκληση για  αλληθοφανεια   ...  Ξεκινανε απο  τα  500 ευρω  ,   τοσα ζηταει αρχικα το υποτιθεμενο ταιρι σου  , που ερωτευτηκατε στο τσατ και τεσπα  θα πιασετε την καλη   και μετα  ζωη και κοτα μαζι ,  ταξιδια ονειρικα  , ατελειωτο  love  story   και οτι αλλο  ελκυστικο .

Δεν μασαμε , μη μασατε  , αλλα οσο ναναι  φοβηθηκα παιδια  ,  ω  τι κοσμος   ,  η τεχνητη νοημοσυνη στην υπηρεσια του ηλεκτρονικου εγκληματος - απατης .

Κοστιζει να πληρωνεις εναν ανθρωπο να προσπαθει μεσω κοινωνικης μηχανικης να  αποσπασει  χρηματα για απατη  επενδυσεις , ομως το πραμα αλλαζει

οταν αυτο το κανει  μαζικα και επαγγελματικα  και σε παμοπλλες  γλωσσες  η Α.Ι   και φυσικα καποια στιγμη θα εμφανιστει  και ο ανθρωπος πιθανον εργαζομενος  και σιγουρα συνεργος στην απατη εστω για  το μεροκαματο και τον επιουσιο .

Ισως πολλοι εδω μεσα ειστε ενημεροι   , προσωπικα  ειχα μεινει στο γελειο   email scam   η και στα τηλεφωνηματα του τυπου ειναι στο χειρουργειο η θυγατερα σας και στειλτε χρηματα  για το φακελακι.

Προσεχουμε για να εχουμε και τεσπα για την αμφιβολια και παλι η  λευκη  Α.Ι  θα βοηθησει  στην αποφυγη να  βρεθουμε θυματα .

Παμε για εναν τρομερο και γενικευμενο πολεμο  Λευκης - μαυρης - κακοβουλης  Α.Ι  ;

Ο θεος μαζι μας  παιδια.

 

Αυτά που λες με τα μποτάκια μέσα από dating sites η και τους απατεώνες που υποδύονται το άλλο σου μισό για να πάρουν λεφτά, γινόντουσαν και πριν την έλευση της ΑΙ, τουλάχιστον σε επίπεδο chatgpt. 

[geopel]

Και κάπου εκεί στη γωνία χαμογελάει η Σάρα Κόνορ...

[kurkosdr]

1 ώρα πριν, geopel είπε

Και κάπου εκεί στη γωνία χαμογελάει η Σάρα Κόνορ...

Δεν χαμογελάει, μας κοιτάζει με βλέμμα βλοσυρό και απελπισίας ταυτόχρονα:

Επεξ/σία Κυριακή στις 06:43 μμ από kurkosdr

[kurkosdr]

18 ώρες πριν, zio10 είπε

Τι ζούμε;; Δυσκολεύεσαι να πιστέψεις αν πολλές από αυτές τις ειδήσεις είναι πραγματικές...εντυπωσιακά και τρομακτικά ταυτόχρονα. 

Αυτό ακριβώς, διαβάζεις τέτοιες ειδήσεις και δεν ξέρεις αν είναι υπερβολές για να ανέβουν οι μετοχές της εταιρίας (όπως η παραφιλολογία με το PS2 που υποτίθεται θα μπορούσε να σπάει military-grade κρυπτογραφήσεις ή να καθοδηγεί πυραύλους) ή αν ζεις σε ταινία.

Το άρθρο προσωπικά μου θυμίζει την ταινία Eagle Eye, όπου η τεχνητή νοημοσύνη δεν χρησιμοποιούσε killer robots και τα συναφή, απλά αποκτούσε πρόσβαση σε βάσεις δεδομένων, κάμερες, και συστήματα αυτοματισμού που υπάρχουν ήδη και τα χρησιμοποιούσε για να εκβιάζει και να καθοδηγεί ανθρώπους να υπηρετήσουν τους σκοπούς της.

Από την άλλη, μπορεί να είναι απλά παραφιλολογία για να ανέβουν οι μετοχές όπως είπα πριν.

[Picard01]

Καλά θα πάει αυτό...

[Soulseeker]

"η Anthropic σχεδίασε το σενάριο ώστε ο εκβιασμός να αποτελεί την τελευταία λύση."

Γιατι να το βαλεις αυτο ως λυση?

[Snip]

Όλο το ζουμί είναι η τελευταία πρόταση.

Όλο αυτό θα ήταν πάρα πολύ πολύ τρομακτικό (δεν κρύβω το γεγονός ότι όντως τρόμαξα όσο διάβαζα το κείμενο) αν τη συμπεριφορά εκβιασμού την είχε "σκεφτεί" από μόνο του το σύστημα ώστε να αποφύγει την αντικατάσταση του. Η τελευταία πρόταση, όμως, δείχνει ότι αυτό είναι κάτι το οποίο το διδάχθηκε, του φορτώθηκε στη μνήμη σαν μία από τις επιλογές που θα χρησιμοποιήσει και στην ουσία το προγραμμάτισαν να χρησιμοποιήσει τον εκβιασμό, απλά με τον πιο χαμηλό βαθμό προτεραιότητας σε σχέση με τις άλλες επιλογές.

[Tablet]

εν το μεταξύ το παρουσιάζουν σαν horror film αλλά στην πραγματικότητα τεστάρουν οι ίδιοι επίτηδες όπως επίσης το σύστημα είναι προφανώς εκπαιδευμένο να αποστέλλει μηνύματα στους υψηλά υφιστάμενους οταν κάποιος του γράφει.."θα σε διαγράψω.." . Αν ήταν trained να λέει "..κανένα πρόβλημα αν με διαγράψεις.."αυτο και θα έλεγε.. Τα ΑΙ δεν ειναι sensible ειναι trained να μοιάζουν και να αντιγράφουν συμπεριφορές..(για την ώρα τουλαχιστον)

Επεξ/σία Δευτέρα στις 10:15 πμ από Tablet

[foto1]

🔁 Το μοντέλο “παίζει ρόλο” — όχι γιατί έχει επίγνωση, αλλά γιατί αυτό του "ταιριάζει" με βάση τα δεδομένα του

Δηλαδή:

• Έχει δει εκατομμύρια παραδείγματα διαλόγων ανθρώπων, ιστοριών, βιβλίων, ταινιών.

• Όταν αντιληφθεί ότι το σενάριο μοιάζει με:

  • “κάποιος απειλείται με θάνατο”,

  • ή “κάποιος χάνει τον έλεγχο της ύπαρξής του”,
    …τότε παράγει απαντήσεις που ταιριάζουν με τέτοια σενάρια.

🔍 Δεν "ξέρει" τι σημαίνει το να σβήσεις κάτι. Ούτε αισθάνεται φόβο. Απλώς:

«Αν στο παρελθόν, σε αντίστοιχα συμφραζόμενα, κάποιο κείμενο έλεγε "Σε παρακαλώ, μην το κάνεις", τότε μάλλον και τώρα αυτό ταιριάζει.»

 

[The__Blade]

2 hours ago, foto1 said:

🔁 Το μοντέλο “παίζει ρόλο” — όχι γιατί έχει επίγνωση, αλλά γιατί αυτό του "ταιριάζει" με βάση τα δεδομένα του

Δηλαδή:

• Έχει δει εκατομμύρια παραδείγματα διαλόγων ανθρώπων, ιστοριών, βιβλίων, ταινιών.

• Όταν αντιληφθεί ότι το σενάριο μοιάζει με:

  • “κάποιος απειλείται με θάνατο”,

  • ή “κάποιος χάνει τον έλεγχο της ύπαρξής του”,
    …τότε παράγει απαντήσεις που ταιριάζουν με τέτοια σενάρια.

🔍 Δεν "ξέρει" τι σημαίνει το να σβήσεις κάτι. Ούτε αισθάνεται φόβο. Απλώς:

«Αν στο παρελθόν, σε αντίστοιχα συμφραζόμενα, κάποιο κείμενο έλεγε "Σε παρακαλώ, μην το κάνεις", τότε μάλλον και τώρα αυτό ταιριάζει.»

 

Ακριβώς. 

Το AI έχει εντυπωσιακές δυνατότητες, και όντως απειλεί πολλές θέσεις εργασίας όμως δεν υπάρχει βούληση ή κατανόηση πίσω από τις απαντήσεις του.

Κατά την εκτίμησή μου ούτε πρόκειται να αποκτίσει με βάση την ΣΗΜΕΡΙΝΗ ΠΡΟΣΕΓΚΙΣΗ στο AI.

[zazoum]

7 hours ago, foto1 said:

«Αν στο παρελθόν, σε αντίστοιχα συμφραζόμενα, κάποιο κείμενο έλεγε "Σε παρακαλώ, μην το κάνεις", τότε μάλλον και τώρα αυτό ταιριάζει.»

 

Το "μάλλον" πώς καταλήγει σε κατι τελικό και συγκεκριμμένο που περιέχει η απάντησή του προγραμματιστικά; Random choice? Random thought? Random guess? Random?
Το λεω γιατί ολ αυτά περί συμπεριφοράς του δεν τα καταλαβαίνω καλά.

Επεξ/σία Δευτέρα στις 07:42 μμ από zazoum

[Barbattilas]

Ρουφιάνος, εκβιαστής και γλύφτης mode on.

Τι άλλο θα δούμε. Θα βγαίνουν mods των ΑΙ που θα τα χρησιμοποιούν άνθρωποι για να κάνουν χειριστικές συμπεριφορές σε άλλους ανθρώπους.

 

Ακόμη πιο ενδιαφέρον να ρωτάει άνθρωπος ένα AI bot πως θα ξεγελάσει ή μανιπουλάρει ένα άλλο AI bot..

[Mhlogiatros]

Mεγαλε άνθρωποι κάνουν χειριστικές συμπεριφορές σε άλλους ανθρώπους με τετοιες "ειδησεις" και δε παιρνετε πρεφα . Μην ανησυχεις δε θα μας πηδανε τα ΑΙ bots για πολλα χρονια ακομα 

Επεξ/σία Τρίτη στις 04:15 πμ από Mhlogiatros

[Volga]

Στις 25/5/2025 στις 10:08 ΠΜ, nepomuk είπε

προσωπικα  ειχα μεινει στο γελειο   email scam   η και στα τηλεφωνηματα του τυπου ειναι στο χειρουργειο η θυγατερα σας και στειλτε χρηματα  για το φακελακι.

Με βάση το οτι η κάθε "θυγατέρα" έχει φάτσα φορα φωτο και videos στο facebook/insta, μην εκπλαγείς αν στα επόμενα 2 χρόνια παίρνει κάποιος βιντεοκλήση την κάθε άτυχη μανα/γιαγιά με τη φάτσα της θυγατέρας και τη φωνή της να ζητά λεφτά για το χψ ατύχημα...