Πώς ξεκίνησαν όλα;
Η Ευρωπαϊκή Ένωση συζητά το ενδεχόμενο απαγόρευσης της χρήσης τεχνητών
Στο πλαίσιο του σχεδίου ψηφίσματος«Σε μια ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης», το στέλεχος της ΕΕ προτείνει την απαγόρευση τεχνολογιών τεχνητής νοημοσύνης που χρησιμοποιούνται για «μαζική επιτήρηση που εφαρμόζεται με γενικευμένο τρόπο σε όλα τα άτομα χωρίς καμία διάκριση». Το κείμενο του νομοσχεδίου περιγράφει λεπτομερώς τέτοιες μεθόδους επιτήρησης όπως «παρακολούθηση και παρακολούθηση ατόμων στο ψηφιακό ή φυσικό περιβάλλον, καθώς και αυτόματη συγκέντρωση και ανάλυση προσωπικών δεδομένων από διάφορες πηγές», αναφέρει το πρακτορείο ειδήσεων REGNUM.
Η Ευρωπαϊκή Επιτροπή επιδιώκει να το δηλώσειτου νόμου των συστημάτων τεχνητής νοημοσύνης (AI) που χρησιμοποιούνται για τη "μαζική παρακολούθηση ανθρώπων" στο πλαίσιο νέων απαγορεύσεων που θα εισαχθούν την επόμενη εβδομάδα.
Επιπλέον, η Ευρωπαϊκή Επιτροπή προβλέπει απαγορεύσειςνα χρησιμοποιούν εφαρμογές AI που παραβιάζουν τις αξίες της ΕΕ ή παραβιάζουν τα ανθρώπινα δικαιώματα Αυτά περιλαμβάνουν συστήματα που χειρίζονται την ανθρώπινη συμπεριφορά και στοχεύουν ευάλωτους πληθυσμούς
Σύμφωνα με το σχέδιο, τα μέλη της ΕΕ, για παράδειγμα, θα πρέπειδημιουργία επιτροπών αξιολόγησης για τη δοκιμή και την επικύρωση συστημάτων AI υψηλού κινδύνου. Και εταιρείες που αναπτύσσουν ή πωλούν AI που υπόκεινται σε περιορισμούς, συμπεριλαμβανομένων εκείνων από άλλες χώρες του κόσμου, μπορούν να επιβληθούν πρόστιμα έως και 4% του παγκόσμιου εισοδήματός τους.
Τι είναι η τεχνητή νοημοσύνη «υψηλού κινδύνου»;
Σύμφωνα με τους προγραμματισμένους κανόνες, εκείνοι πουπροτίθεται να εφαρμόσει τεχνητή νοημοσύνη, θα πρέπει να καθορίσει εάν μια συγκεκριμένη περίπτωση χρήσης είναι "υψηλού κινδύνου" και συνεπώς εάν πρέπει να πραγματοποιήσουν υποχρεωτική αξιολόγηση προ της συμμόρφωσης ή όχι.
Παραδείγματα ΥΓ υψηλού κινδύνου:
- συστήματα που δίνουν προτεραιότητα στην αποστολή υπηρεσιών έκτακτης ανάγκης,
- συστήματα που καθορίζουν την πρόσβαση ή τον διορισμό ατόμων σε εκπαιδευτικά ιδρύματα,
- αλγόριθμοι προσλήψεων,
- εκείνοι που αξιολογούν την πιστοληπτική ικανότητα,
- να διενεργήσει ατομικές εκτιμήσεις κινδύνου,
- αλγόριθμοι για την πρόβλεψη εγκλημάτων.
Ποια είναι η ουσία του λογαριασμού ελέγχου AI;
Εξηγούμε τι παρέχει ο νέος λογαριασμός.
Συλλογή δεδομένων για πολίτες που χρησιμοποιούν συστήματαπαρακολούθηση, παρακολούθηση κοινωνικών δικτύων, τραπεζικές πληροφορίες και άλλες πηγές - "η αδιάκριτη παρακολούθηση ατόμων θα πρέπει να απαγορεύεται εάν εφαρμόζεται με γενικευμένο τρόπο σε όλα τα άτομα χωρίς διάκριση." Με άλλα λόγια, η «επιλεκτική» παρακολούθηση, εάν ένα άτομο έχει κάτι που ενδιαφέρει τις αρμόδιες αρχές, μπορεί κάλλιστα να επιτρέπεται, αλλά η πλήρης επιτήρηση «για κάθε περίπτωση» πιθανότατα θα απαγορεύεται στην Ευρώπη.
Το νομοσχέδιο προβλέπει επίσης απαγόρευσηεισαγωγή ενός συστήματος κοινωνικής αξιολόγησης ή κοινωνικής πίστωσης, όταν μια σειρά από μεγάλα δεδομένα σχετικά με τις συνδέσεις, τη συμπεριφορά, τις αγορές και άλλες πληροφορίες συγκεντρώνεται στους πολίτες και δημιουργείται ένα κοινωνικό πορτρέτο του πολίτη με βάση το σύνολο των δεδομένων. Η τεχνητή νοημοσύνη ή τα νευρωνικά δίκτυα μπορούν επίσης να σας βοηθήσουν να το καταλάβετε. Τους αρέσει αυτό στον τραπεζικό τομέα και η Ευρώπη δεν αποτελεί εξαίρεση από αυτή την άποψη. Αλλά η Κίνα έχει προχωρήσει τα μέγιστα στη δημιουργία ενός συστήματος κοινωνικής πίστωσης, όπου τα άτομα με χαμηλές αξιολογήσεις αρνούνται εισιτήρια για υπεραστικές συγκοινωνίες, διαμονή σε ορισμένες περιοχές και ορισμένοι άλλοι περιορισμοί. Τέτοια συστήματα τεχνητής νοημοσύνης έχουν «υψηλές πιθανότητες να επηρεάσουν τα προς το ζην κάποιου», σημειώνει η εφημερίδα.
Όσον αφορά την κοινωνική βαθμολογία στο νομοσχέδιοείπε: "Τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την αξιολόγηση κοινωνικών δεικτών γενικού σκοπού πρέπει να απαγορευθούν." Η ψηφοφορία για αυτό το νομοσχέδιο αναμένεται στις 21 Απριλίου. Μέχρι αυτό το σημείο, εκπρόσωποι της Ευρωπαϊκής Επιτροπής αρνούνται να σχολιάσουν το μη εγκεκριμένο έγγραφο.
Το έργο προβλέπει επίσης:
- ειδοποιήσεις σχετικά με την ανθρώπινη αλληλεπίδραση με την τεχνητή νοημοσύνη, εκτός εάν είναι «προφανές από τις περιστάσεις και το πλαίσιο χρήσης»,
- αξιολόγηση των συστημάτων υψηλού κινδύνου πριν από αυτάθέση σε λειτουργία, συμπεριλαμβανομένης της διασφάλισης ότι αυτά τα συστήματα είναι κατανοητά από τους ανθρώπινους επόπτες και ότι έχουν εκπαιδευτεί σε σύνολα δεδομένων «υψηλής ποιότητας» που έχουν δοκιμαστεί για μεροληψία,
- δημιουργία ενός «Ευρωπαϊκού Συμβουλίου για την Τεχνητή Νοημοσύνη», αποτελούμενο από εκπροσώπους όλων των χωρών της Ε.Ε.
Τι πιστεύουν οι ειδικοί για τον έλεγχο της τεχνητής νοημοσύνης;
Ίσως το πιο σημαντικό τμήμα του εγγράφουείναι ένα άρθρο που απαγορεύει ορισμένες χρήσεις της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της μαζικής παρακολούθησης και των κοινωνικών αξιολογήσεων. Ωστόσο, οι αντιδράσεις στο έργο από ομάδες ψηφιακών δικαιωμάτων και εμπειρογνώμονες πολιτικής αναφέρουν ότι αυτή η ενότητα πρέπει να βελτιωθεί.
«Περιγραφές απαγορευμένων τεχνητών συστημάτωνΗ νοημοσύνη είναι ασαφής και περιέχει ασαφή γλώσσα που μπορεί να δημιουργήσει σοβαρά κενά», εξηγεί ο Daniel Leufer, αναλυτής ευρωπαϊκής πολιτικής στην Access Now, σε συνέντευξή του στο The Verge. Αυτό το τμήμα, σύμφωνα με τα λόγια του, απέχει πολύ από το ιδανικό.
Πώς ακριβώς αποφασίζει η εθνική νομοθεσίαΗ απόφαση AI προκάλεσε ζημιά σε κανέναν ή όχι; Από την άλλη πλευρά, η απαγόρευση της χρήσης της τεχνητής νοημοσύνης για μαζική παρακολούθηση είναι «υπερβολικά επιεικής». Προσθέτει ότι η απαγόρευση των συστημάτων κοινωνικής πίστης με βάση την «αξιοπιστία» ορίζεται επίσης πολύ στενά. Τα συστήματα κοινωνικής πίστωσης δεν χρειάζεται να αξιολογούν εάν κάποιος είναι αξιόπιστος για να αποφασίσει ζητήματα όπως η επιλεξιμότητά του για παροχές.
Στο Twitter Omer Tene, ΑντιπρόεδροςΟ μη κερδοσκοπικός οργανισμός IAPP (International Association of Privacy Professionals), σχολίασε ότι η απόφαση «αντιπροσωπεύει μια τυπική προσέγγιση των Βρυξελλών στις νέες τεχνολογίες και την καινοτομία. Όταν έχετε αμφιβολίες, προσαρμόστε». Σύμφωνα με τον Tene, εάν εγκριθούν οι προτάσεις, θα δημιουργηθεί ένα «τεράστιο ρυθμιστικό οικοσύστημα» που θα προσελκύει όχι μόνο δημιουργούς συστημάτων τεχνητής νοημοσύνης, αλλά και εισαγωγείς, διανομείς και χρήστες, και θα δημιουργήσει μια σειρά από ρυθμιστικά συμβούλια, τόσο εθνικά όσο και . σε όλη την ΕΕ.
Ωστόσο, αυτό το οικοσύστημα δεν θα είναι το πρώτοΕίναι η σειρά να περιοριστεί η «Big Tech», λέει ο Michael Veale, λέκτορας ψηφιακών δικαιωμάτων και κανονισμών στο University College του Λονδίνου. «Η εστίασή του είναι κυρίως σε λιγότερο γνωστούς παρόχους εργαλείων επιχειρήσεων και λήψης αποφάσεων των οποίων η εργασία συχνά διαφεύγει από τον έλεγχο των ρυθμιστικών αρχών ή των δικών τους πελατών».
Είναι άγνωστο ποιες αλλαγές μπορεί να έχουν γίνεισε αυτό το προσχέδιο πρότασης, καθώς οι υπεύθυνοι χάραξης πολιτικής της ΕΕ προετοιμάζονται για επίσημη ανακοίνωση στις 21 Απριλίου . Ωστόσο, μόλις προταθεί ένας κανονισμός, θα υπόκειται σε αλλαγές μετά από σχόλια από τους ευρωβουλευτές και θα πρέπει να εφαρμοστεί χωριστά σε κάθε εθνικό κράτος.
Γιατί απαιτείται νέος νόμος;
Ένα σχέδιο για τη ρύθμιση της τεχνητής νοημοσύνης έχει ήδη συζητηθεί εδώ και αρκετό καιρό.χρόνος. Τον Φεβρουάριο του 2020, η Ευρωπαϊκή Επιτροπή δημοσίευσε μια Λευκή Βίβλο που περιγράφει σχέδια για τη ρύθμιση των εφαρμογών τεχνητής νοημοσύνης «υψηλού κινδύνου». Αν και δεν είναι απολύτως σαφές από το νέο προσχέδιο πώς ακριβώς θα καθοριστεί ο «υψηλού κινδύνου».
Σύμφωνα με το προσχέδιο, ο κύριος στόχοςΣτόχος της Επιτροπής εδώ είναι να αυξήσει την εμπιστοσύνη του κοινού στην τεχνητή νοημοσύνη μέσω ελέγχων και ισορροπιών που βασίζονται στις αξίες της ΕΕ. Στόχος είναι να τονωθεί η υιοθέτηση της λεγόμενης «αξιόπιστης» και «ανθρωποκεντρικής» τεχνητής νοημοσύνης. Αυτό δεν ισχύει μόνο για εφαρμογές «υψηλού κινδύνου», αλλά για όλους όσους αλληλεπιδρούν με ένα άτομο.
Τι θα συμβεί εάν ψηφιστεί ο νόμος;
Εάν το σχέδιο πρότασης γίνει αποδεκτό, θα γίνειθα έχει ως αποτέλεσμα η ΕΕ να λάβει ισχυρή θέση σε ορισμένες εφαρμογές τεχνητής νοημοσύνης. Ορισμένες χρήσεις θα υπόκεινται σε ελέγχους παρόμοιους με τον κανονισμό της ΕΕ για το ψηφιακό απόρρητο βάσει της νομοθεσίας GDPR.
Οι απαιτήσεις της ΕΕ περιλαμβάνουν τη διασφάλισηασφάλεια και διασφάλιση της συνεπούς ακρίβειας του AI —με την προϋπόθεση αναφοράς «οποιωνδήποτε σοβαρών περιστατικών ή οποιασδήποτε αστοχίας στη λειτουργία του συστήματος AI που συνιστά παραβίαση υποχρεώσεων προς την εποπτική αρχή το αργότερο έως την 15η ; μέρες μετά το αντιλήφθηκε αυτό.
Αξίζει να σημειωθεί ότι η επιτροπή απέφυγεπροτάσεις για την απαγόρευση της χρήσης αναγνώρισης προσώπου σε δημόσιους χώρους. Σύμφωνα με ένα σχέδιο που διέρρευσε στις αρχές του περασμένου έτους, εξετάζει την ιδέα.
Δεν είναι γνωστό σε ποιες αλλαγές μπορεί να έχουν γίνειΠρόκειται για σχέδιο πρότασης καθώς οι πολιτικοί της ΕΕ προετοιμάζονται για επίσημη ανακοίνωση στις 21 Απριλίου. Ωστόσο, μόλις προταθεί ο κανονισμός, θα υπόκειται σε αλλαγές μετά τη λήψη σχολίων από τους ευρωβουλευτές και πρέπει να εφαρμοστεί χωριστά σε κάθε χώρα.
Δεν είναι η πρώτη φορά που η Ευρώπη μιλά για ρύθμισηβιομηχανία τεχνολογίας. Έτσι, οι αρχές της ΕΕ θέλουν να αναγκάσουν την Google και το Facebook να πληρώσουν τους εκδότες για ειδήσεις, και στις αρχές του έτους, οι ευρωπαίοι πολιτικοί κάλεσαν τους επικεφαλής των τεχνολογικών γίγαντες να συζητήσουν νόμους που περιορίζουν το μονοπώλιο τους. Από όλους τους λογαριασμούς, οι νόμοι που καταρτίζονται θα προβλέπουν ποινή εσόδων 10% για τους τεχνολογικούς γίγαντες για τον περιορισμό του μονοπωλίου τους.
Διαβάστε περισσότερα
Δημιουργήθηκε ο πρώτος ακριβής χάρτης του κόσμου. Τι συμβαίνει με όλους τους άλλους;
Η NASA είπε πώς θα παραδώσει δείγματα του Άρη στη Γη
Ένας κινητήρας για ένα τροχιακό αεροσκάφος δοκιμάστηκε στη Ρωσία
Γενικός Κανονισμός Προστασίας Δεδομένων, ΓενικάΟ Γενικός Κανονισμός Προστασίας Δεδομένων (GDPR) είναι ένας κανονισμός της Ευρωπαϊκής Ένωσης μέσω του οποίου το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο της Ευρωπαϊκής Ένωσης και η Ευρωπαϊκή Επιτροπή ενισχύουν και ενοποιούν την προστασία των προσωπικών δεδομένων όλων των ατόμων στην Ευρωπαϊκή Ένωση (ΕΕ). Ο κανονισμός στοχεύει επίσης στην εξαγωγή δεδομένων από Ε.Ε.
Ο GDPR στοχεύει πρωτίστως στη διασφάλιση αυτούνα δοθεί στους πολίτες έλεγχος των προσωπικών τους δεδομένων και να απλοποιηθεί το ρυθμιστικό πλαίσιο για τις διεθνείς οικονομικές σχέσεις με την ενοποίηση των ρυθμίσεων εντός της ΕΕ.
Το σύστημα κοινωνικής πίστωσης ("το κοινωνικόβαθμολογία "," σύστημα κοινωνικής εμπιστοσύνης ") - ένα σύστημα αξιολόγησης μεμονωμένων πολιτών ή οργανισμών με διάφορες παραμέτρους, οι τιμές των οποίων λαμβάνονται χρησιμοποιώντας εργαλεία μαζικής παρατήρησης και χρησιμοποιώντας μεγάλη τεχνολογία ανάλυσης δεδομένων. Εφαρμόστηκε για πρώτη φορά από την κινεζική κυβέρνηση το 2010.