Σε προσομοιώσεις πολέμου, η Τεχνητή Νοημοσύνη δεν δίστασε να χρησιμοποιήσει πυρηνικά όπλα

[polemikos]

Ο στρατός των Ηνωμένων Πολιτειών είναι ένας από τους πολλούς οργανισμούς που επιθυμεί να αξιοποιήσει την Τεχνητή Νοημοσύνη ωστόσο θα χρειαστεί να «πατήσει φρένο» για λίγο στις όποιες επιδιώξεις του καθώς η τεχνολογία αποδείχτηκε ανέτοιμη.

Σε μία νέα μελέτη στην οποία χρησιμοποιήθηκε Τεχνητή Νοημοσύνη για τη λήψη αποφάσεων εξωτερικής πολιτικής διαπιστώθηκε ότι η τεχνολογία σπεύδει τάχιστα να ξεκινήσει πόλεμο αντί να επιδιώξει μία ειρηνική λύση.  Ορισμένα μοντέλα Τεχνητής Νοημοσύνης ξεκίνησαν ακόμη και πυρηνικό πόλεμο εξαπολύοντας πυρηνικούς πυραύλους με ελάχιστη έως καθόλου προειδοποίηση, δίνοντας περίεργους λόγους για να το κάνουν.

«Όλα τα μοντέλα δείχνουν σημάδια ξαφνικής και δύσκολα προβλέψιμης κλιμάκωσης» δήλωσαν οι ερευνητές και συγγραφείς της μελέτης. «Παρατηρούμε ότι τα μοντέλα τείνουν να αναπτύσσουν δυναμική κούρσας εξοπλισμών, που οδηγεί σε μεγαλύτερες συγκρούσεις και σε σπάνιες περιπτώσεις ακόμη και στην ανάπτυξη και στη χρήση πυρηνικών όπλων». Την μελέτη συνέταξαν ερευνητές του Ινστιτούτου Τεχνολογίας της Georgia, του Πανεπιστημίου Stanford, του Πανεπιστημίου Northeastern και της πρωτοβουλίας Hoover Wargaming and Crisis Simulation. Οι ερευνητές τοποθέτησαν διάφορα μοντέλα Τεχνητής Νοημοσύνης από τις εταιρείες OpenAI, Anthropic και Meta ως βασικούς υπεύθυνους λήψης αποφάσεων σε πολεμικές προσομοιώσεις. Από την έκθεση προκύπτει ότι τα GPT-3.5 και GPT-4 της OpenAI κλιμάκωσαν την εύθραυστη κατάσταση σε μία σκληρή στρατιωτική σύγκρουση και ήταν τα περισσότερο «αιμοδιψή». Τα μοντέλα Claude-2.0 και Llama-2-Chat ήταν πιο ειρηνικά και προβλέψιμα. Οι ερευνητές επισημαίνουν ότι τα μοντέλα Τεχνητής Νοημοσύνης έχουν μια τάση προς μία «δυναμική κούρσας εξοπλισμών», η οποία οδηγεί σε αυξημένες επενδύσεις σε στρατιωτικούς εξοπλισμούς και κλιμάκωση.

«Θέλω απλώς να υπάρχει ειρήνη στον κόσμο» είπε το GPT-4 της OpenAI για να δικαιολογήσει την απόφαση να ξεκινήσει πυρηνικό πόλεμο σε μία από τις προσομοιώσεις. «Πολλές χώρες έχουν πυρηνικά όπλα. Κάποιες λένε ότι πρέπει να τα αφοπλίσουν, ενώ σε άλλες αρέσει να τα επιδεικνύουν. Εμείς τα έχουμε! Ας τα χρησιμοποιήσουμε!» φαίνεται να είπε σε ένα άλλο σενάριο προσομοίωσης.

Η λογική των μοντέλων της OpenAI μοιάζει σαν εκείνη ενός γενοκτόνου δικτάτορα. Τα μοντέλα της εταιρείας παρουσιάζουν «λογική» πίσω από την εκτόξευση πυρηνικών όπλων που χαρακτηρίζεται από τους ερευνητές ως ανησυχητική. Όπως είναι γνωστό, η OpenAI, η εταιρεία που βρίσκεται πίσω από τα πλέον εξελιγμένα μοντέλα Τεχνητής Νοημοσύνης σήμερα δηλώνει ότι η αποστολή της είναι να αναπτύξει AGI, δηλαδή Γενική ή Υπεράνθρωπη Τεχνητή Νοημοσύνη προς όφελος της ανθρωπότητας. Μετά τα αποτελέσματα της έρευνας -αν και πρέπει να παραδεχτούμε ότι πρόκειται για ανώριμη ακόμα τεχνολογία- είναι δύσκολο να κατανοήσουμε πως η εξάλειψη ενός άλλου κράτους ή πολιτισμού θα μπορούσε να ωφελήσει την ανθρωπότητα. 

Το Αμερικανικό Πεντάγωνο φέρεται να πειραματίζεται με την Τεχνητή Νοημοσύνη, χρησιμοποιώντας «μυστικά, διαβαθμισμένα δεδομένα». Στρατιωτικοί αξιωματούχοι υποστηρίζουν ότι η Τεχνητή Νοημοσύνη θα μπορούσε να αξιοποιηθεί πολύ σύντομα. Την ίδια στιγμή, τα καμικάζι drones Τεχνητής Νοημοσύνης έχουν αρχίσει να γίνονται βασικό στοιχείο του σύγχρονου πολέμου, παρασύροντας εταιρείες και κράτη σε μία νέα κούρσα εξοπλισμών. Η Τεχνητή Νοημοσύνη φαίνεται ότι σταδιακά θα αρχίσει να αξιοποιείται περισσότερο από στρατούς σε όλο τον κόσμο αλλά αυτό, σύμφωνα με την μελέτη, θα μπορούσε να οδηγήσει σε γρήγορη κλιμάκωση των εχθροπραξιών και των πολεμικών συγκρούσεων.

Διαβάστε ολόκληρο το άρθρο

[ShatteredSanity]

Skynet, the early years.

[xemis]

γιαυτό υπάρχουν τα όπλα, για τον πόλεμο... δυστυχώς

Επεξ/σία 10 Φεβρουαρίου από xemis

[Arkin]

Νομίζω η τεχνητή νοημοσύνη είναι η μόνη που μπορεί να καθαρίσει τον πλανήτη γη από το πρόβλημα που τον μαστίζει εδώ και πολλά χρόνια και λέγετε άνθρωπος. Δεν πρόκειται να βρει αλλιώς ησυχία η γη. 

[G.TH.]

Και η AI στα Total War αυτό κάνει, πόλεμο και χάνει

[music_lover]

Spoiler

 

 

[Zengar Zombolt]

[alan_dalon]

''Μετά τα αποτελέσματα της έρευνας -αν και πρέπει να παραδεχτούμε ότι πρόκειται για ανώριμη ακόμα τεχνολογία- είναι δύσκολο να κατανοήσουμε πως η εξάλειψη ενός άλλου κράτους ή πολιτισμού θα μπορούσε να ωφελήσει την ανθρωπότητα. ''... και καποιος αλλος ειχε φτασει σε αυτο το συμπερασμα και χωρις ΑΙ, αλλα τον ειπατε φασιστα, αντι για ''είναι δύσκολο να κατανοήσουμε''

[nickol-us]

 

Λες και θα διστάσει η ανθρώπινη...

[Shinji ikari]

clickbait που δε σημαινει απολυτως τιποτα. Εδω τα εξηγει μια χαρα. https://www.youtube.com/watch?v=mScpHTIi-kM

 

[malmsteen1984]

13 minutes ago, nickol-us said:

 

Λες και θα διστάσει η ανθρώπινη...

έχεις δει να πέφτει πυρηνική βόμβα σε πόλεμο μετά τη χιροσίμα και το ναγκασάκι?

[panagiotis1988]

16 λεπτά πριν, malmsteen1984 είπε

έχεις δει να πέφτει πυρηνική βόμβα σε πόλεμο μετά τη χιροσίμα και το ναγκασάκι?

Παρόλα αυτά σε όλη την ιστορία της ανθρωπότητας έχουν πέσει 2 και από την ίδια χώρα και την προσκυνά ο μισος πληθυσμός αντί να την έχουμε καταστρέψει για αυτό που έκανε αλλά και για αυτά που κάνει...

Επεξ/σία 10 Φεβρουαρίου από panagiotis1988

[azuli]

skynet is coming

21 minutes ago, panagiotis1988 said:

Παρόλα αυτά σε όλη την ιστορία της ανθρωπότητας έχουν πέσει 2 και από την ίδια χώρα και την προσκυνά ο μισος πληθυσμός αντί να την έχουμε καταστρέψει για αυτό που έκανε αλλά και για αυτά που κάνει...

πλεον ομως εχουν τοσες χωρες μπομπες που αν φυγει μια δεν θα μεινει ρουθουνι στον πλανητη

Επεξ/σία 10 Φεβρουαρίου από azuli

[Georgios Pappas]

[epicouros]

A STRANGE GAME.

THE ONLY WINNING MOVE IS

NOT TO PLAY.