Σε συνέντευξή του στους New York Times, ο Hinton αποκάλυψε ότι εγκατέλειψε τη θέση του τον Απρίλιο για «να μπορεί να προειδοποιεί ελεύθερα για τους κινδύνους που συνδέονται με την τεχνολογία της τεχνητής νοημοσύνης».
Ο Hinton εξέφρασε την ανησυχία του ότι η Google εγκαταλείπει την προηγούμενη αυτοσυγκράτησή της στη δημόσια κυκλοφορία projects γύρω από την τεχνητή νοημοσύνη, σε μια προσπάθεια να ανταγωνιστεί το ChatGPT, το Bing Chat και παρόμοια μοντέλα. Αυτό θα μπορούσε να ανοίξει την πόρτα σε πολλαπλά ηθικά προβλήματα. Βραχυπρόθεσμα, ο Hinton ανησυχεί ότι η δημιουργική AI θα μπορούσε να οδηγήσει σε ένα κύμα παραπληροφόρησης. Φοβάται επίσης ότι οι άνθρωποι ίσως «να μην είναι πλέον σε θέση να γνωρίζουν τι είναι αλήθεια και τι ψέματα». Ανησυχεί ότι η τεχνητή νοημοσύνη μπορεί όχι μόνο να εξαλείψει τις "αγγαρείες", αλλά και να αντικαταστήσει εντελώς ορισμένες θέσεις εργασίας.
Για το μέλλον, ο Hinton ανησυχεί τόσο για την πιθανότητα πλήρως αυτόνομων όπλων όσο και για την τάση των μοντέλων τεχνητής νοημοσύνης να μαθαίνουν και να διαθέτουν περίεργη συμπεριφορά με βάση τα δεδομένα εκπαίδευσης στα οποία στηρίχθηκε. Ενώ ορισμένα από αυτά τα ζητήματα είναι θεωρητικά, ο Hinton φοβάται μια κλιμάκωση που δεν θα υπόκειται σε κανονισμούς ή την ανάπτυξη αποτελεσματικών ελέγχων.
Μεταξύ άλλων, το πρώην στέλεχος της Google δηλώνει ότι η στάση του άρχισε να αλλάζει πέρυσι, όταν η Google, η OpenAI και άλλοι άρχισαν να δημιουργούν συστήματα τεχνητής νοημοσύνης που πιστεύει ότι μερικές φορές είναι ανώτερα από την ανθρώπινη νοημοσύνη. Η τεχνητή νοημοσύνη έχει αναπτυχθεί ραγδαία μόλις τα τελευταία πέντε χρόνια - είναι "τρομακτικό" το τι θα μπορούσε να συμβεί στα επόμενα πέντε, προτείνει ο ερευνητής.
Σε δήλωσή του στους Times, ο επικεφαλής της Google, Jeff Dean, αναφέρει ότι η εταιρεία του εξακολουθεί να είναι αφοσιωμένη σε μια "υπεύθυνη προσέγγιση" και βρίσκεται σε επιφυλακή για "αναδυόμενους κινδύνους". Ο γίγαντας της αναζήτησης κυκλοφόρησε τον Μάρτιο μια πρώτη έκδοση του AI chatbot της με την ονομασία Bard, μετά από μήνες φημών ότι η εταιρεία ανησυχεί για την ανταγωνιστική απειλή της δημιουργικής τεχνητής νοημοσύνης της OpenAI. Πριν από αυτό, αρνήθηκε να δημοσιεύσει δημοσίως μοντέλα τεχνητής νοημοσύνης, όπως το Imagen που είναι προσανατολισμένο στην τέχνη, λόγω της πιθανότητας τοξικού περιεχομένου και παραβίασης πνευματικών δικαιωμάτων.
Ο Hinton έχει αφιερώσει την καριέρα του στη μελέτη των νευρωνικών δικτύων που συχνά αποτελούν το κλειδί για την ΤΝ, αλλά είναι περισσότερο γνωστός για την ανάπτυξη ενός συστήματος αναγνώρισης αντικειμένων το 2012. Το επαναστατικό νευρωνικό του δίκτυο θα μπορούσε να χρησιμοποιήσει εικόνες εκπαίδευσης για να βοηθήσει στην αναγνώριση κοινών αντικειμένων. Η Google αγόρασε τη νεοσύστατη επιχείρηση DNNresearch του Hinton το 2013, και η βασική ιδέα της εφεύρεσής του βοήθησε στην προώθηση ενός κύματος ανάπτυξης που οδήγησε στη σημερινή δημιουργική AI τεχνολογία.
Πάντως θα πρέπει να επισημανθεί ότι ο Hinton δεν είναι ο μόνος που ανησυχεί. Μια σειρά από σημαντικούς ακαδημαϊκούς και προσωπικότητες της τεχνολογίας, συμπεριλαμβανομένων των Elon Musk και Steve Wozniak, υπέγραψαν πρόσφατα μια ανοιχτή επιστολή που ζητά εξάμηνη παύση στην ανάπτυξη της τεχνητής νοημοσύνης για την αντιμετώπιση προβλημάτων ηθικής και ασφάλειας. Ως μία από τις πιο εξέχουσες προσωπικότητες του κλάδου, ωστόσο, ο λόγος του Hinton έχει σημαντική βαρύτητα.
Μένει να δούμε τι αντίκτυπο θα έχουν η παραίτηση και οι προειδοποιήσεις του Hinton στην ανάπτυξη και την εξάπλωση της τεχνολογίας της τεχνητής νοημοσύνης. Ωστόσο, είναι σαφές ότι υπάρχουν αυξανόμενες ανησυχίες σχετικά με τους πιθανούς κινδύνους που συνδέονται με αυτόν τον ταχέως εξελισσόμενο τομέα.
- 7
ΣΧΟΛΙΑ (39)
Δημιουργήστε ένα λογαριασμό ή συνδεθείτε για να σχολιάσετε
Πρέπει να είστε μέλος για να αφήσετε σχόλιο
Δημιουργία λογαριασμού
Εγγραφείτε με νέο λογαριασμό στην κοινότητα μας. Είναι πανεύκολο!
Δημιουργία νέου λογαριασμούΣύνδεση
Έχετε ήδη λογαριασμό; Συνδεθείτε εδώ.
Συνδεθείτε τώραΔημοσίευση ως Επισκέπτης
· Αποσύνδεση