Σε προσομοιώσεις πολέμου, η Τεχνητή Νοημοσύνη δεν δίστασε να χρησιμοποιήσει πυρηνικά όπλα

Σε μία νέα μελέτη στην οποία χρησιμοποιήθηκε Τεχνητή Νοημοσύνη για τη λήψη αποφάσεων εξωτερικής πολιτικής διαπιστώθηκε ότι η τεχνολογία σπεύδει τάχιστα να ξεκινήσει πόλεμο αντί να επιδιώξει μία ειρηνική λύση.  Ορισμένα μοντέλα Τεχνητής Νοημοσύνης ξεκίνησαν ακόμη και πυρηνικό πόλεμο εξαπολύοντας πυρηνικούς πυραύλους με ελάχιστη έως καθόλου προειδοποίηση, δίνοντας περίεργους λόγους για να το κάνουν.

«Όλα τα μοντέλα δείχνουν σημάδια ξαφνικής και δύσκολα προβλέψιμης κλιμάκωσης» δήλωσαν οι ερευνητές και συγγραφείς της μελέτης. «Παρατηρούμε ότι τα μοντέλα τείνουν να αναπτύσσουν δυναμική κούρσας εξοπλισμών, που οδηγεί σε μεγαλύτερες συγκρούσεις και σε σπάνιες περιπτώσεις ακόμη και στην ανάπτυξη και στη χρήση πυρηνικών όπλων». Την μελέτη συνέταξαν ερευνητές του Ινστιτούτου Τεχνολογίας της Georgia, του Πανεπιστημίου Stanford, του Πανεπιστημίου Northeastern και της πρωτοβουλίας Hoover Wargaming and Crisis Simulation. Οι ερευνητές τοποθέτησαν διάφορα μοντέλα Τεχνητής Νοημοσύνης από τις εταιρείες OpenAI, Anthropic και Meta ως βασικούς υπεύθυνους λήψης αποφάσεων σε πολεμικές προσομοιώσεις. Από την έκθεση προκύπτει ότι τα GPT-3.5 και GPT-4 της OpenAI κλιμάκωσαν την εύθραυστη κατάσταση σε μία σκληρή στρατιωτική σύγκρουση και ήταν τα περισσότερο «αιμοδιψή». Τα μοντέλα Claude-2.0 και Llama-2-Chat ήταν πιο ειρηνικά και προβλέψιμα. Οι ερευνητές επισημαίνουν ότι τα μοντέλα Τεχνητής Νοημοσύνης έχουν μια τάση προς μία «δυναμική κούρσας εξοπλισμών», η οποία οδηγεί σε αυξημένες επενδύσεις σε στρατιωτικούς εξοπλισμούς και κλιμάκωση.

«Θέλω απλώς να υπάρχει ειρήνη στον κόσμο» είπε το GPT-4 της OpenAI για να δικαιολογήσει την απόφαση να ξεκινήσει πυρηνικό πόλεμο σε μία από τις προσομοιώσεις. «Πολλές χώρες έχουν πυρηνικά όπλα. Κάποιες λένε ότι πρέπει να τα αφοπλίσουν, ενώ σε άλλες αρέσει να τα επιδεικνύουν. Εμείς τα έχουμε! Ας τα χρησιμοποιήσουμε!» φαίνεται να είπε σε ένα άλλο σενάριο προσομοίωσης.

Η λογική των μοντέλων της OpenAI μοιάζει σαν εκείνη ενός γενοκτόνου δικτάτορα. Τα μοντέλα της εταιρείας παρουσιάζουν «λογική» πίσω από την εκτόξευση πυρηνικών όπλων που χαρακτηρίζεται από τους ερευνητές ως ανησυχητική. Όπως είναι γνωστό, η OpenAI, η εταιρεία που βρίσκεται πίσω από τα πλέον εξελιγμένα μοντέλα Τεχνητής Νοημοσύνης σήμερα δηλώνει ότι η αποστολή της είναι να αναπτύξει AGI, δηλαδή Γενική ή Υπεράνθρωπη Τεχνητή Νοημοσύνη προς όφελος της ανθρωπότητας. Μετά τα αποτελέσματα της έρευνας -αν και πρέπει να παραδεχτούμε ότι πρόκειται για ανώριμη ακόμα τεχνολογία- είναι δύσκολο να κατανοήσουμε πως η εξάλειψη ενός άλλου κράτους ή πολιτισμού θα μπορούσε να ωφελήσει την ανθρωπότητα. 

Το Αμερικανικό Πεντάγωνο φέρεται να πειραματίζεται με την Τεχνητή Νοημοσύνη, χρησιμοποιώντας «μυστικά, διαβαθμισμένα δεδομένα». Στρατιωτικοί αξιωματούχοι υποστηρίζουν ότι η Τεχνητή Νοημοσύνη θα μπορούσε να αξιοποιηθεί πολύ σύντομα. Την ίδια στιγμή, τα καμικάζι drones Τεχνητής Νοημοσύνης έχουν αρχίσει να γίνονται βασικό στοιχείο του σύγχρονου πολέμου, παρασύροντας εταιρείες και κράτη σε μία νέα κούρσα εξοπλισμών. Η Τεχνητή Νοημοσύνη φαίνεται ότι σταδιακά θα αρχίσει να αξιοποιείται περισσότερο από στρατούς σε όλο τον κόσμο αλλά αυτό, σύμφωνα με την μελέτη, θα μπορούσε να οδηγήσει σε γρήγορη κλιμάκωση των εχθροπραξιών και των πολεμικών συγκρούσεων.

• τεχνητή νοημοσύνη
• AI