Προσθήκη σχολίου (45 σχόλια)

Μέσω μίας ανοικτής επιστολής με εκατοντάδες υπογραφές, ηγέτες από τον χώρο της τεχνολογίας και εξέχοντες ερευνητές στον τομέα της τεχνητής νοημοσύνης καλούν τα εργαστήρια και τις εταιρείες τεχνητής νοημοσύνης να «σταματήσουν αμέσως» τις εργασίες τους.

Οι υπογράφοντες όπως ο Steve Wozniak και ο Elon Musk συμφωνούν ότι οι κίνδυνοι που ελλοχεύουν, δικαιολογούν μία παύση τουλάχιστον έξι μηνών από την ανάπτυξη τεχνολογίας πέρα από το GPT-4, ώστε η ανθρωπότητα να απολαύσει τις δυνατότητες των σημερινών συστημάτων Τεχνητής Νοημοσύνης (AI), οι άνθρωποι να έχουν χρόνο να προσαρμοστούν και να διασφαλιστεί ότι επωφελούνται όλοι. Η επιστολή προσθέτει ότι χρειάζεται προσοχή και προνοητικότητα για να διασφαλιστεί η ασφάλεια των συστημάτων τεχνητής νοημοσύνης, ωστόσο επισημαίνει ότι αυτοί οι παράγοντες αγνοούνται.

Η αναφορά στο GPT-4, ένα μοντέλο της OpenAI που μπορεί να απαντά με κείμενο σε γραπτά ή οπτικά μηνύματα, έρχεται καθώς οι εταιρείες αγωνίζονται να δημιουργήσουν πολύπλοκα συστήματα συνομιλίας που χρησιμοποιούν τη συγκεκριμένη τεχνολογία. Η Microsoft, για παράδειγμα, επιβεβαίωσε πρόσφατα ότι η ανανεωμένη μηχανή αναζήτησής Bing βασίζεται σε μία προσαρμοσμένη έκδοση του μοντέλου GPT-4 εδώ και τουλάχιστον επτά εβδομάδες ενώ η Google προχώρησε στην ανακοίνωση του Bard, του δικού της συστήματος τεχνητής νοημοσύνης που βρίσκεται πίσω από την τεχνολογία LaMDA. Η ανησυχία γύρω από την τεχνητή νοημοσύνη είναι έκδηλη εδώ και καιρό. Όμως, επειδή δεν είναι λίγες οι εταιρείες που έχουν επιδοθεί σε αυτόν τον αγώνα δρόμου για την ανάπτυξη της πλέον προηγμένης τεχνολογίας τεχνητής νοημοσύνης (AI), ενδέχεται πολλά πράγματα να μην γίνονται με προνοητικότητα ή έλεγχο, προκαλώντας ακόμα εντονότερη ανησυχία.

«Δυστυχώς, δεν υπάρχει το επιθυμητό επίπεδο σχεδιασμού και διαχείρισης, παρόλο που τους τελευταίους μήνες έχουμε δει εργαστήρια τεχνητής νοημοσύνης να εγκλωβίζονται σε έναν ανεξέλεγκτο αγώνα ανάπτυξης και εφαρμογής όλο και ισχυρότερων ψηφιακών μυαλών που κανείς -ούτε καν οι δημιουργοί τους- δεν είναι σε θέσει να κατανοήσουν, να προβλέψουν ή να ελέγξουν αξιόπιστα» διαβάζουμε στην ανοικτή επιστολή.

Η σχετική επιστολή δημοσιεύτηκε από το Future of Life Institute (FLI), έναν οργανισμό αφιερωμένο στην ελαχιστοποίηση των κινδύνων και της κατάχρησης της νέας τεχνολογίας. Ο Elon Musk έχει προχωρήσει σε δωρεά $10 εκατομμυρίων δολαρίων στο FLI ώστε να αξιοποιηθούν για έρευνες και μελέτες που σχετίζονται με την ασφάλεια της τεχνητής νοημοσύνης.

Εκτός από τον Elon Musk και τον Serve Wozniak, την επιστολή υπογράφουν μια σειρά από παγκόσμιους ηγέτες και σημαντικές φυσιογνωμίες από τον χώρο τεχνητής νοημοσύνης, όπως ο πρόεδρος του Κέντρου Τεχνητής Νοημοσύνης και Ψηφιακής Πολιτικής, Marc Rotenberg, ο φυσικός του MIT και πρόεδρος του Future of Life Institute, Max Tegmark και ο συγγραφέας Yuval Noah Harari. Ο Yuval Noah Harari συνέγραψε επίσης ένα άρθρο στην εφημερίδα New York Times την περασμένη εβδομάδα, προειδοποιώντας για τους κινδύνους της τεχνητής νοημοσύνης, μαζί με τους ιδρυτές του Center for Humane Technology, Tristan Harris και Aza Raskin.

Η έκκληση για παύση των εργασιών έρχεται λίγο μετά τη δημοσίευση των αποτελεσμάτων μίας έρευνας του 2022, στην οποία συμμετείχαν περισσότεροι από 700 ερευνητές από τον τομέα της μηχανικής εκμάθησης, στην οποία σχεδόν οι μισοί από τους συμμετέχοντες δήλωσαν ότι υπάρχει 10% πιθανότητα να προκληθεί κάτι «εξαιρετικά κακό» από την τεχνητή νοημοσύνη, συμπεριλαμβανομένης της εξαφάνισης του ανθρώπινου γένους. Όταν ερωτήθηκαν για την ασφάλεια στις έρευνες που σχετίζονται με την τεχνητή νοημοσύνη, το 68% των ερευνητών απάντησε ότι πρέπει να γίνουν περισσότερα ή πολύ περισσότερα πράγματα.

  • Like 7
  • Sad 1