Προσθήκη σχολίου (20 σχόλια)

Σε μια κίνηση ορόσημο που θα αποτελέσει τη βάση για το μέλλον της τεχνητής νοημοσύνης (ΤΝ) στην Ευρώπη, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο κατέληξαν -μετά από έντονες διαπραγματεύσεις- σε καταρχήν συμφωνία σχετικά με την πολυαναμενόμενη Πράξη για την τεχνητή νοημοσύνη (AI Act).

Η πρωτοποριακή αυτή νομοθεσία που είναι στα σκαριά από το 2021, έχει σχεδιαστεί για να δημιουργήσει ένα πλαίσιο που διασφαλίζει ότι τα συστήματα τεχνητής νοημοσύνης όπως τα ChatGPT, Midjourney, Bard κ.α, αναπτύσσονται και χρησιμοποιούνται με τρόπο ασφαλή και με σεβασμό των θεμελιωδών ανθρωπίνων δικαιωμάτων, ενώ παράλληλα ενθαρρύνει την καινοτομία και την ανάπτυξη στον τομέα.

Η συμφωνία σηματοδοτεί ένα σημαντικό βήμα προς την κατεύθυνση της θέσπισης νομικών ορίων για τις εφαρμογές τεχνητής νοημοσύνης, ιδίως εκείνων που έχουν προκαλέσει ανησυχίες σχετικά με το ενδεχόμενο να παραβιάζουν τα ατομικά δικαιώματα και τις αρχές της δημοκρατίας. Σε μια αποφασιστική στάση, η νομοθεσία απαγορεύει ευθέως ορισμένες χρήσεις της τεχνητής νοημοσύνης που θεωρούνται απαράδεκτοι κίνδυνοι για τις προσωπικές ελευθερίες. Αυτοί είναι σχεδόν ίδιοι με αυτούς που είχαν συμπεριληφθεί στο προσχέδιο κανόνων του AI Act τον περασμένο Ιούνιο και είναι οι εξής:

  • συστήματα βιομετρικής κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. πολιτικές, θρησκευτικές, φιλοσοφικές πεποιθήσεις, σεξουαλικός προσανατολισμός, φυλή),
  • την προγνωστική αστυνόμευση,
  • τη μη στοχευμένη απόσπαση εικόνων προσώπου από το διαδίκτυο ή βίντεο από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου,
  • αναγνώριση συναισθημάτων στο χώρο εργασίας και σε εκπαιδευτικά ιδρύματα,
  • κοινωνική βαθμολόγηση βάσει κοινωνικής συμπεριφοράς ή προσωπικών χαρακτηριστικών,
  • συστήματα τεχνητής νοημοσύνης που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούλησή τους,
  • Τεχνητή νοημοσύνη που χρησιμοποιείται για την εκμετάλλευση των τρωτών σημείων των ανθρώπων (λόγω ηλικίας, αναπηρίας, κοινωνικής ή οικονομικής κατάστασης).

Ωστόσο, η νομοθεσία δεν στερείται εξαιρέσεων. Αναγνωρίζοντας τα δυνητικά οφέλη και τις ανάγκες της ΤΝ σε ορισμένα πλαίσια, η συμφωνία προβλέπει συγκεκριμένες εξαιρέσεις για τις υπηρεσίες επιβολής του νόμου. Οι υπηρεσίες αυτές μπορούν, υπό αυστηρές προϋποθέσεις και με την κατάλληλη δικαστική εποπτεία, να αναπτύσσουν συστήματα βιομετρικής ταυτοποίησης σε δημόσιους χώρους. Η παραχώρηση αυτή ρυθμίζεται αυστηρά ώστε να αποτραπεί η κατάχρηση και να διασφαλιστεί ότι τα ισχυρά αυτά εργαλεία χρησιμοποιούνται με υπευθυνότητα και μόνο όταν είναι απολύτως απαραίτητο. 

Για τα συστήματα ΤΝ που εμπίπτουν στην κατηγορία "υψηλού κινδύνου", η νομοθεσία επιβάλλει μια σειρά αυστηρών υποχρεώσεων για τη διασφάλιση της αξιοπιστίας και της ασφάλειάς τους. Τα συστήματα αυτά, τα οποία θα μπορούσαν να επηρεάσουν σημαντικά τη ζωή των ανθρώπων, πρέπει να υποβάλλονται σε ενδελεχή αξιολόγηση των επιπτώσεων στα θεμελιώδη δικαιώματα πριν από την ανάπτυξή τους. Η διαδικασία αυτή αποσκοπεί στον εντοπισμό και τον μετριασμό τυχόν δυνητικών κινδύνων για τα ατομικά δικαιώματα. Επιπλέον, η νομοθεσία ενισχύει τους πολίτες, παρέχοντάς τους το δικαίωμα να υποβάλλουν καταγγελίες και να ζητούν εξηγήσεις για τις αποφάσεις που λαμβάνονται από τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και τους επηρεάζουν. Η μη συμμόρφωση με τους κανόνες μπορεί να οδηγήσει σε τσουχτερά πρόστιμα που κυμαίνονται από 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου κύκλου εργασιών έως 7,5 εκατομμύρια ευρώ, ή 1,5% του κύκλου εργασιών, ανάλογα με την παράβαση και το μέγεθος της εταιρείας.

Όπως αναφέρεται στην ανακοίνωση, η προσωρινή συμφωνία σχετικά με την Πράξη για την Τεχνητή Νοημοσύνη αποτελεί απόδειξη της δέσμευσης της Ευρώπης να «εξισορροπήσει τη ζυγαριά» μεταξύ της τεχνολογικής προόδου και της προστασίας των δικαιωμάτων των πολιτών της. Αντανακλά τη βαθιά κατανόηση της πολύπλοκης αλληλεπίδρασης μεταξύ καινοτομίας και ηθικής στην ψηφιακή εποχή. Καθώς οι λεπτομέρειες της νομοθεσίας βελτιώνονται και εφαρμόζονται, η Πράξη της Ε.Ε αναμένεται να επηρεάσει την παγκόσμια συζήτηση για την υπεύθυνη χρήση της τεχνητής νοημοσύνης και θα χρησιμεύσει ως πρότυπο για άλλες περιοχές που έχουν παρόμοιες προκλήσεις.

Οι επιπτώσεις της νομοθεσίας είναι εκτεταμένες, όχι μόνο για τους προγραμματιστές και τους χρήστες AI συστημάτων αλλά και για την κοινωνία στο σύνολό της. Το AI Act θα μπορούσε κάλλιστα να αποτελέσει ίσως το σημαντικότερο κομμάτι σ' αυτό που πολλοί ονομάζουν "ψηφιακή ηθική", δημιουργώντας προηγούμενο για τον τρόπο με τον οποίο θα πρέπει να διέπονται οι αναδυόμενες τεχνολογίες στον 21ο αιώνα.

Αν και το σχέδιο νόμου χρειάζεται ακόμη επίσημη έγκριση από τα κράτη μέλη της ΕΕ και το Ευρωπαϊκό Κοινοβούλιο, η σημερινή συμφωνία αποτελεί ίσως το καθοριστικότερο βήμα προς μία νομοθεσία ορόσημο για την τεχνητή νοημοσύνη. 

  • Like 4