EU AI Act: Ο Πρώτος Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη

Εισαγωγή

Ο Κανονισμός Τεχνητής Νοημοσύνης της ΕΕ (EU AI Act) αποτελεί μία από τις πιο φιλόδοξες νομοθετικές πρωτοβουλίες της Ευρωπαϊκής Ένωσης για τη ρύθμιση της χρήσης της τεχνητής νοημοσύνης (TN ή ΑΙ). Στόχος του είναι η διασφάλιση της ασφαλούς, αξιόπιστης και ηθικής ανάπτυξης της AI, προστατεύοντας τα θεμελιώδη δικαιώματα και τις αξίες της ΕΕ, ενώ παράλληλα προάγει την καινοτομία. Σε αυτό το άρθρο, εξετάζουμε τον κανονισμό από νομική σκοπιά και αναλύουμε τις συνέπειές του για επιχειρήσεις, κυβερνήσεις και πολίτες.

Τι είναι ο EU AI Act;

Ο νέος Κανονισμός EU AI LEGAL ACT, είναι ο πρώτος ολοκληρωμένος κανονισμός παγκοσμίως που στοχεύει να θέσει σαφείς κανόνες για τη χρήση της τεχνητής νοημοσύνης.

Ορισμός της Ευρωπαϊκής Επιτροπής για την ΤΝ:

“Η τεχνητή νοημοσύνη (ΤΝ) αναφέρεται σε συστήματα που χαρακτηρίζονται από ευφυή συμπεριφορά, αναλύοντας το περιβάλλον τους και ενεργώντας —με κάποιο βαθμό αυτονομίας— για την επίτευξη συγκεκριμένων στόχων.”

Αυτό σημαίνει ότι τα συστήματα που λειτουργούν βάσει τεχνητής νοημοσύνης μπορούν να βασίζονται αποκλειστικά σε λογισμικό, ενεργώντας στον εικονικό κόσμο (π.χ. βοηθοί φωνής, λογισμικό ανάλυσης εικόνας, μηχανές αναζήτησης, συστήματα αναγνώρισης ομιλίας και προσώπου) ή ότι η τεχνητή νοημοσύνη μπορεί να ενσωματωθεί σε συσκευές (π.χ. προηγμένα ρομπότ, αυτόνομα αυτοκίνητα, drones ή εφαρμογές του Διαδικτύου των Πραγμάτων).

Κατηγοριοποίηση Κινδύνων

Ο Κανονισμός βασίζεται σε προσέγγιση ανάλογα με τον κίνδυνο και χωρίζεται σε:

• Απαγορευμένες Εφαρμογές: AI που εκμεταλλεύεται την ευπάθεια ατόμων ή χρησιμοποιείται για κοινωνική βαθμολόγηση. Για αυτό το λόγο, η απαράδεκτη επικινδυνότητα απαγορεύεται (π.χ. συστήματα κοινωνικής βαθμολόγησης και χειραγωγικά συστήματα AI). Δηλαδή, εφαρμογές που ξεπερνούν ορισμένα προκαθορισμένα όρια ασφαλείας και μπορούν να θέσουν σε κίνδυνο θεμελιώδη ανθρώπινα δικαιώματα (Κεφάλαιο ΙΙ, Άρθρο 5)
• Συστήματα Υψηλού Κινδύνου: Το μεγαλύτερο μέρος του Κανονισμού ασχολείται με αυτά, π.χ., συστήματα αναγνώρισης προσώπου, αυτοματοποιημένες αποφάσεις στον τομέα της απασχόλησης και της υγείας.
• Συστήματα Περιορισμένου Κινδύνου: Εφαρμογές με χαμηλότερες επιπτώσεις, όπως chatbot. Αυτά υπόκεινται σε ελαφρύτερες υποχρεώσεις διαφάνειας, δηλαδή, οι προγραμματιστές και οι χρήστες πρέπει να διασφαλίσουν ότι οι τελικοί χρήστες γνωρίζουν ότι αλληλεπιδρούν με AI (π.χ. chatbots και deepfakes).
• Ο ελάχιστος κίνδυνος Ο ελάχιστος κίνδυνος είναι μη ρυθμισμένος (συμπεριλαμβανομένης της πλειονότητας των εφαρμογών τεχνητής νοημοσύνης που είναι επί του παρόντος διαθέσιμες στην ενιαία αγορά της ΕΕ, όπως τα βιντεοπαιχνίδια με AI και τα φίλτρα ανεπιθύμητης αλληλογραφίας - τουλάχιστον το 2021· αυτό αλλάζει με την εμφάνιση της γενετικής AI).

Η πλειονότητα των υποχρεώσεων βαρύνει τους παρόχους (εταιρείες) συστημάτων AI υψηλού κινδύνου:

• Αυτούς που σκοπεύουν να διαθέσουν στην αγορά ή να θέσουν σε λειτουργία συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου στην ΕΕ, ανεξάρτητα από το αν έχουν έδρα την ΕΕ ή μια τρίτη χώρα.
• Επίσης, παρόχους από τρίτες χώρες, εφόσον τα αποτελέσματα του συστήματος τεχνητής νοημοσύνης υψηλού κινδύνου χρησιμοποιούνται στην ΕΕ.

Χρήστες είναι φυσικά ή νομικά πρόσωπα που χρησιμοποιούν ένα σύστημα τεχνητής νοημοσύνης σε επαγγελματική βάση, όχι οι τελικοί χρήστες που επηρεάζονται. Οι χρήστες συστημάτων τεχνητής νοημοσύνης νοημοσύνης υψηλού κινδύνου έχουν ορισμένες υποχρεώσεις, αν και λιγότερες από τους παρόχους-εταιρείες. Αυτή η ρύθμιση ισχύει για χρήστες που βρίσκονται στην ΕΕ, καθώς και για χρήστες τρίτων χωρών όπου τα αποτελέσματα του συστήματος τεχνητής νοημοσύνης χρησιμοποιούνται στην ΕΕ.

Εφαρμογές Legal Tech

Οι εφαρμογές που χρησιμοποιούνται για νομικούς σκοπούς (legal decision-making ή υποστήριξη δικαστικών αποφάσεων) συνήθως κατατάσσονται στην κατηγορία υψηλού κινδύνου (high risk). Αυτό συμβαίνει επειδή μπορούν να επηρεάσουν άμεσα τα θεμελιώδη δικαιώματα των πολιτών, όπως η δίκαιη δίκη και η πρόσβαση στη δικαιοσύνη.

Μάλιστα, οι εφαρμογές υψηλού κινδύνου υπόκεινται σε αυστηρές απαιτήσεις, όπως: διαφάνεια και εξηγήσιμη λειτουργία, εκτίμηση κινδύνου και συμμόρφωση πριν από την κυκλοφορία τους, συνεχής παρακολούθηση της απόδοσης και των επιπτώσεων, διασφάλιση αμεροληψίας και ελαχιστοποίηση διακρίσεων. Ειδικά για τον νομικό τομέα, η αξιοπιστία και η λογοδοσία των συστημάτων είναι κρίσιμες, ώστε να μην επηρεάζονται αρνητικά οι αποφάσεις που λαμβάνονται από ανθρώπους. Οι περισσότερες λύσεις νομικής τεχνολογίας που χρησιμοποιούνται από εταιρείες, δικηγόρους και τελικούς χρήστες (που αναζητούν απαντήσεις στις νομικές ερωτήσεις τους) θα εμπίπτουν σε αυτήν την κατηγορία, π.χ. νομικά ρομπότ συνομιλίας, εργαλεία για αυτοματοποίηση εγγράφων (με βάση ένα διαδραστικό ερωτηματολόγιο) και Legal Tech εργαλεία για την αυτοματοποίηση των αποφάσεων.

Ωστόσο, συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται εκτός των περιοχών που αναφέρονται παραπάνω και δεν προορίζονται για αλληλεπίδραση με φυσικά πρόσωπα, π.χ. πλήρως αυτοματοποιημένες λύσεις νομικής τεχνολογίας εκτός περιοχών υψηλού κινδύνου που δεν απαιτούν ανθρώπινη συμβολή, δεν θα απαιτείται να συμμορφώνονται με πρόσθετες υποχρεώσεις.

Ο νόμος περί τεχνητής νοημοσύνης θα ισχύει επίσης για παρόχους νομικής τεχνολογίας, ακόμα και για αυτούς που είναι εγκατεστημένοι εκτός της ΕΕ αλλά που εξυπηρετούν χρήστες στην ΕΕ. Γι’ αυτό το λόγο, εταιρείες και δικηγορικά γραφεία ανά το κόσμο, που χρησιμοποιούν τη Legal Tech, ενδέχεται να υποχρεωθούν να συμμορφωθούν με ορισμένες υποχρεώσεις του νόμου περί τεχνητής νοημοσύνης. Αυτό θα είναι σχετικό για δικηγορικές εταιρείες που, για παράδειγμα, χρησιμοποιούν μια λευκή λύση Legal Tech που είναι ένα σύστημα τεχνητής νοημοσύνης υψηλού κινδύνου και την εμπορεύονται (τροποποιημένη ή όχι) με την επωνυμία τους.

Συμπεράσματα

Ο EU AI Act δημιουργεί ένα σταθερό νομικό περιβάλλον που προάγει την υπεύθυνη καινοτομία, προστατεύοντας τα θεμελιώδη δικαιώματα των πολιτών.