EU AI Act: Νομικές Επιπτώσεις και Εθνική Εφαρμογή του EU AI Act

Εισαγωγή

Η νομική συμμόρφωση με τον EU AI Act ενισχύει την προστασία δικαιωμάτων, θέτοντας νέες προκλήσεις για τις επιχειρήσεις και τις κυβερνήσεις. Το άρθρο επικεντρώνεται σε νομικές επιπτώσεις, διαφάνεια, προστασία δεδομένων και τις εθνικές προσαρμογές.

Νομικά Ζητήματα

Τα εργαλεία ΤΝ θα πρέπει να ελέγχονται ως προς το βαθμό αξιοπιστίας, εγκυρότητας και αμεροληψίας. Πιο συγκεκριμένα, θα πρέπει να φτάσουμε στο σημείο να μπορούμε να κατανοήσουμε πώς λειτουργεί το μοντέλο της ΤΝ, να εξηγήσουμε με κατανοητό τρόπο τι συμβαίνει όταν το μοντέλο της ΤΝ λαμβάνει αποφάσεις και τέλος αν η ΤΝ προκαλέσει κάποιο κακό/βλάβη τότε θα πρέπει να γνωρίζουμε το γιατί.

Κατά την Ευρωπαϊκή Επιτροπή, για να κριθεί αξιόπιστη η ΤΝ απαιτούνται τρεις συνιστώσες:

1. Θα πρέπει να είναι σύννομη, ήτοι να διασφαλίζει την τήρηση όλων των εφαρμοστέων νομοθετικών και κανονιστικών διατάξεων,
2. Θα πρέπει να είναι δεοντολογική, ήτοι να διασφαλίζει τη συμμόρφωση με δεοντολογικές αρχές και αξίες
3. Θα πρέπει να είναι στιβαρή, τόσο από τεχνικής όσο και από κοινωνικής άποψης, ώστε να διασφαλίζεται ότι, ακόμη κι όταν υπάρχει καλή πρόθεση, τα συστήματα ΤΝ δεν προκαλούν ακούσια βλάβη.

Ευθύνη και Διαφάνεια

Μία από τις σημαντικότερες νομικές αλλαγές αφορά τη διαφάνεια και την ευθύνη των παρόχων AI. Ο κανονισμός επιβάλλει στους παρόχους συστημάτων υψηλού κινδύνου να διατηρούν αρχεία, να τεκμηριώνουν τις διαδικασίες τους και να διασφαλίζουν ότι τα συστήματά τους λειτουργούν χωρίς διακρίσεις.

Η συμμόρφωση απαιτεί:

• Διεξαγωγή ανάλυσης κινδύνου και αξιολόγησης αντικτύπου.
• Δημιουργία μηχανισμών για την αποτροπή προκαταλήψεων.
• Παροχή σαφών πληροφοριών στους χρήστες για τη λειτουργία του συστήματος.

Η νομοθεσία πρέπει να διασφαλίσει ότι οι αλγόριθμοι είναι διαφανείς και δίκαιοι. Κάποιες τεχνικές μηχανικής μάθησης, αν και πολύ επιτυχημένες από την άποψη της ακρίβειας, δεν είναι καθόλου διαφωτιστικές από την άποψη της κατανόησης του τρόπου με τον οποίο λαμβάνουν αποφάσεις. Η έννοια του «μαύρου κουτιού» της ΤΝ (black-box AI) αναφέρεται σε αυτά ακριβώς τα σενάρια, όπου δεν είναι δυνατό να εντοπίσει κανείς τους λόγους στους οποίους βασίζονται ορισμένες αποφάσεις. Σε αντιδιαστολή, επεξηγησιμότητα είναι η ιδιότητα των συστημάτων ΤΝ που είναι σε θέση να παρέχουν κάποιο είδος επεξηγήσεων για τις ενέργειές τους. Η χρήση "μαύρων κουτιών" μπορεί να οδηγήσει σε αμφισβητούμενες ή ακόμη και λάθος αποφάσεις. Όλα τα σημερινά συστήματα ΤΝ είναι κατευθυνόμενα από στόχους, που σημαίνει ότι λαμβάνουν από τον άνθρωπο τις προδιαγραφές του στόχου που πρέπει να επιτύχουν και χρησιμοποιούν ορισμένες τεχνικές για να τον επιτύχουν. Δεν καθορίζουν τα ίδια τους στόχους τους. Ωστόσο, ορισμένα συστήματα ΤΝ (όπως αυτά που βασίζονται σε ορισμένες τεχνικές μηχανικής μάθησης) μπορεί να έχουν περισσότερη ελευθερία να αποφασίσουν ποια πορεία θα ακολουθήσουν για να επιτύχουν τον δεδομένο στόχο.

Εδώ αποκτά έντονα σημασία η έννοια του ψηφιακού εγγραμματισμού για τους πολίτες ώστε να είναι σε θέση να κατανοήσουν τα βασικά χαρακτηριστικά της λειτουργίας των εφαρμογών ΤΝ, διατηρώντας παράλληλα ένα βαθμό ελέγχου του τρόπου λήψης αυτοματοποιημένων αποφάσεων. Ο έλεγχος αυτός περιλαμβάνει το δικαίωμα ένστασης κατά της αυτοματοποιημένης απόφασης, ένσταση η οποία πρέπει να αξιολογείται από άνθρωπο. Η απαίτηση για διαφάνεια και λογοδοσία είναι σημαντική για να διασφαλιστεί ότι οι αποφάσεις είναι αντικειμενικές και αμερόληπτες. Ωστόσο, θεωρούμε ότι η διατήρηση της ευθύνης και της λογοδοσίας των ανθρώπων για τις αποφάσεις που λαμβάνουν τα συστήματα ΤΝ, ακόμη και αν οι υπεύθυνοι δεν έχουν άμεσο έλεγχο της λήψης των αποφάσεων αυτών, δηλαδή δεν έχουν προγραμματίσει ειδικά τις σχετικές εφαρμογές (π.χ. στα συστήματα μηχανικής μάθησης), είναι ιδιαίτερα σημαντική. Είναι απαραίτητη,όμως, η καθιέρωση νομικών πλαισίων για την απόδοση ευθυνών, για την προστασία των πολιτών και των επαγγελματιών. Με αυτον το τρόπο, διασφαλίζεται η αξιοπιστία και οι πολίτες είναι σε θέση να αποκομίζουν πλήρως τα οφέλη των συστημάτων ΤΝ, με τη σιγουριά ότι εφαρμόζονται μέτρα για την πρόληψη των δυνητικών κινδύνων τους.

Η παράλειψη συμμόρφωσης με τις προβλέψεις του Κανονισμού μπορεί να οδηγήσει σε υψηλά πρόστιμα, ανάλογα με τον Γενικό Κανονισμό για την Προστασία Δεδομένων (GDPR), έως και 6% του παγκόσμιου κύκλου εργασιών της επιχείρησης.

Σύγκρουση με τον GDPR

Προστασία Προσωπικών Δεδομένων

Ο EU AI Act ενισχύει την προστασία προσωπικών δεδομένων, αλλά η εφαρμογή του ενδέχεται να προκαλέσει νομικές προκλήσεις για επιχειρήσεις που ήδη συμμορφώνονται με τον GDPR. Συγκεκριμένα, οι τεχνολογίες αναγνώρισης προσώπου ή παρακολούθησης ενδέχεται να έρχονται σε σύγκρουση με τις απαιτήσεις του GDPR, προκαλώντας ζητήματα νομικής ερμηνείας.

Τα συστήματα ΤΝ θα πρέπει να εγγυώνται την προστασία της ιδιωτικής ζωής και των δεδομένων καθόλη τη διάρκεια του κύκλου ζωής ενός συστήματος. Αυτό περιλαμβάνει τις πληροφορίες που παρέχονται αρχικά από τον χρήστη, καθώς και τις πληροφορίες που δημιουργούνται σχετικά με τον χρήστη κατά τη διάρκεια της αλληλεπίδρασής του με το σύστημα (π.χ. τα αποτελέσματα που παράγει το σύστημα ΤΝ για συγκεκριμένους χρήστες ή τον τρόπο με τον οποίο οι χρήστες ανταποκρίθηκαν σε συγκεκριμένες συστάσεις). Η ψηφιακή καταγραφή της ανθρώπινης συμπεριφοράς μπορεί να επιτρέψει στα συστήματα ΤΝ να συνάγουν όχι μόνο τις προτιμήσεις του ατόμου, αλλά και τον σεξουαλικό προσανατολισμό, την ηλικία, το φύλο, τις θρησκευτικές ή πολιτικές απόψεις του. Προκειμένου η διαδικασία συλλογής δεδομένων να εμπνέει εμπιστοσύνη στους χρήστες, θα πρέπει να διασφαλίζεται ότι τα δεδομένα που συλλέγονται σχετικά με αυτούς δεν θα χρησιμοποιηθούν για αθέμιτες ή παράνομες διακρίσεις απέναντί τους.

Δεδομένου ότι πολλά συστήματα ΤΝ, όπως αυτά που περιλαμβάνουν μεμονωμένα στοιχεία επιβλεπόμενης μηχανικής μάθησης, βασίζονται σε τεράστιες ποσότητες δεδομένων για να λειτουργούν ικανοποιητικά, είναι σημαντικό να γίνουν κατανοητοί οι τρόποι με τους οποίους τα δεδομένα επηρεάζουν τη συμπεριφορά του συστήματος ΤΝ. Για παράδειγμα, αν τα δεδομένα εκπαίδευσης είναι μεροληπτικά, αν δηλαδή δεν είναι αρκετά ισορροπημένα ή συμπεριληπτικά, το σύστημα ΤΝ που εκπαιδεύεται με βάση αυτά τα δεδομένα δεν θα είναι σε θέση να κάνει ικανοποιητικές γενικεύσεις και ενδεχομένως θα λαμβάνει μεροληπτικές αποφάσεις υπέρ της μίας ή της άλλης κατηγορίας. Προσφάτως, η κοινότητα της ΤΝ άρχισε να επεξεργάζεται μεθόδους για την ανίχνευση και τον περιορισμό της μεροληψίας στα σύνολα δεδομένων εκπαίδευσης, καθώς και σε άλλα μέρη ενός συστήματος ΤΝ. Η διασφάλιση της προστασίας αυτών των δεδομένων είναι κρίσιμη, καθώς η ανεπαρκής προστασία μπορεί να οδηγήσει σε διαρροή ή κακόβουλη χρήση. Οι διεργασίες και τα σύνολα δεδομένων που χρησιμοποιούνται πρέπει να υποβάλλονται σε δοκιμές και να τεκμηριώνονται σε κάθε στάδιο, όπως για παράδειγμα στα στάδια του σχεδιασμού, της εκπαίδευσης, των δοκιμών και της εγκατάστασης.

Βασικό μέρος των δεδομένων αυτών είναι τα προσωπικά δεδομένα. Εν προκειμένω, μας ενδιαφέρουν ιδίως:

• επιστημονικά δεδομένα που ενδεχομένως καλύπτονται από δικαιώματα διανοητικής ιδιοκτησίας
• προσωπικά δεδομένα

Στην πρώτη περίπτωση ισχύουν οι γενικοί κανόνες προστασίας των δικαιωμάτων (Σύμβαση TRIPS, ν. 2121/1993, ν. 1733/1987 και σειρά Οδηγιών της ΕΕ, όπως ισχύουν), με βάση τους οποίους, κατ’ αρχήν, δεν επιτρέπεται η χρήση δεδομένων χωρίς την άδεια του δικαιούχου των δικαιωμάτων πνευματικής ιδιοκτησίας, ευρεσιτεχνίας κ.λπ.

Στη δεύτερη περίπτωση ισχύουν οι προβλέψεις του GDPR -όπως εξειδικεύονται από τον ν. 4624/2019. Μπορεί να γίνει, επίσης, αναφορά στους υφιστάμενους νόμους για την προστασία της ιδιωτικής ζωής, όπως ο επικείμενος κανονισμός για την προστασία της ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες (κανονισμός ePrivacy).

Λόγω όσων προαναφέρθηκαν, θεωρείται ιδιαίτερα κρίσιμο να διευκρινιστεί το ποιές διατάξεις θα υπερισχύουν και κατ’ επέκταση βάσει ποιών θα κρίνονται τα ζητήματα που ανακύπτουν.

Εποπτεία και Κυρώσεις

Ο κανονισμός προβλέπει τη δημιουργία ενός Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης, που θα επιβλέπει την εφαρμογή του κανονισμού και θα συνεργάζεται με τις εθνικές αρχές. Μάλιστα, το Συμβούλιο αυτό ιδρύθηκε στις 1 Αυγούστου 2024 και διαδραματίζει κρίσιμο ρόλο στο πλαίσιο διακυβέρνησης που ορίζει ο νόμος περί τεχνητής νοημοσύνης, διασφαλίζοντας την αποτελεσματική εφαρμογή του νόμου για την τεχνητή νοημοσύνη σε ολόκληρη την Ευρωπαϊκή Ένωση. Οι παραβάτες αντιμετωπίζουν κυρώσεις, οι οποίες περιλαμβάνουν:

• Πρόστιμα έως 30 εκατομμύρια ευρώ ή 6% του παγκόσμιου κύκλου εργασιών.
• Αναστολή ή απαγόρευση της διάθεσης συγκεκριμένων συστημάτων στην αγορά.

Προκλήσεις και Προοπτικές

Η εφαρμογή του EU AI Act αναμένεται να έχει σημαντικές συνέπειες τόσο για τις επιχειρήσεις όσο και για τους καταναλωτές:

• Επιχειρήσεις: Αντιμετωπίζουν αυξημένο διοικητικό βάρος, αλλά αποκτούν σαφές ρυθμιστικό πλαίσιο που ενισχύει την εμπιστοσύνη των πελατών.
• Πολίτες: Διασφαλίζεται η προστασία των θεμελιωδών δικαιωμάτων, όπως η ισότητα, η ιδιωτικότητα και η αποφυγή διακρίσεων.
• Κυβερνήσεις: Ενισχύεται η ικανότητα ελέγχου και ρύθμισης της αγοράς, προωθώντας την υπεύθυνη καινοτομία.
• Επιπτώσεις στη Διεθνή Συνεργασία: Η παγκόσμια φύση του AI εγείρει νομικές προκλήσεις για τη συνεργασία με τρίτες χώρες. Εταιρείες εκτός ΕΕ που επιθυμούν να δραστηριοποιηθούν στην ευρωπαϊκή αγορά θα πρέπει να συμμορφώνονται με τις διατάξεις του κανονισμού, γεγονός που αυξάνει το νομικό κόστος και περιπλέκει τις διασυνοριακές συναλλαγές.

Το Ελληνικό Πλαίσιο

Οι κατευθύνσεις αυτές αποκτούν ιδιαίτερη σημασία όταν πρόκειται να εξειδικευτούν από τον εθνικό νομοθέτη τα επίπεδα κινδύνου που έχει προβλέψει ο νέος Κανονισμός, επομένως και να αξιολογηθούν συγκεκριμένες εφαρμογές με βάση τα τελευταία από τις αρμόδιες αρχές. Στο εθνικό μας δίκαιο έχει ήδη θεσπισθεί ο ν. 4961/2022 («Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις»), ορισμένες προβλέψεις του οποίου καθιερώνουν ένα πρώτο περίγραμμα ουσιαστικών ρυθμίσεων (ιδίως σε σχέση με τις υποχρεώσεις διαφάνειας των φορέων που χρησιμοποιούν συστήματα ΤΝ και τις υποχρεώσεις αναδόχων συστημάτων ΤΝ).

Ωστόσο, ο εθνικός νομοθέτης χρειάζεται να ενσωματώσει τις διατάξεις του κανονισμού ΤΝ της ΕΕ και να ασχοληθεί με τυχόν περιοχές, όπου υπάρχει διακριτική ευχέρεια για εγχώρια ρύθμιση, σύμφωνα με την προτεινόμενη αρχιτεκτονική διακυβέρνησης. Αυτό είναι ιδιαίτερα σημαντικό, δεδομένου ότι ο νόμος της ΕΕ για την TN ενδέχεται να έχει ορισμένους διαρθρωτικούς περιορισμούς όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων. Αυτή η νέα εναρμονισμένη εθνική νομοθεσία θα πρέπει να ασχοληθεί με την εφαρμογή και την εξειδίκευση των εργαλείων που προβλέπονται στην ευρωπαϊκή νομοθεσία, όπως, για να αναφέρουμε μερικά από αυτά, με την εκτίμηση των επιπτώσεων των εφαρμοζόμενων αλγορίθμων, την αξιολόγηση των επιπτώσεων στα θεμελιώδη δικαιώματα, τους κώδικες δεοντολογίας, τα μητρώα διαφάνειας, τα ελεγχόμενα περιβάλλοντα δοκιμών και τους ασφαλείς λιμένες. Αυτό μπορεί να επιτευχθεί με τη θέσπιση ρυθμιστικών πλαισίων και την ανάπτυξη συνολικών ρυθμίσεων οι οποίες να θέτουν σαφείς κατευθυντήριες γραμμές για την ηθική χρήση της ΤΝ σε ό,τι αφορά στη διάδοση πληροφοριών. Απαιτείται να περιλαμβάνουν την ενσωμάτωση των σχετικών διατάξεων του κανονισμού ΤΝ της ΕΕ, οι οποίες πρέπει να αναπτυχθούν και να προσαρμοστούν στην ελληνική νομοθεσία και την ελληνική πραγματικότητα της δημοσιογραφίας και της σφαίρας πληροφόρησης εν γένει, με στόχο τη βελτίωση της διαφάνειας, της λογοδοσίας και της εγκυρότητας του περιεχομένου που παράγεται από την TN.

Η Ελλάδα έχει την ευκαιρία να διαφοροποιηθεί, τοποθετώντας τον εαυτό της στο «πιο φιλικό προς τις επιχειρήσεις» άκρο του φάσματος των εγχώριων ρυθμιστικών πολιτικών. Έχει επίσης την ευκαιρία να διακριθεί εφαρμόζοντας τις διατάξεις του κανονισμού ΤΝ της ΕΕ γρήγορα και με τρόπο ο οποίος θα παρέχει μεγαλύτερη σαφήνεια, απλότητα και ευελιξία στις εταιρείες που επιθυμούν να δραστηριοποιηθούν σε εθνικό επίπεδο. Οι τοπικές ρυθμίσεις οφείλουν να είναι συνεπείς με άλλες σχετικές εθνικές και ευρωπαϊκές νομοθεσίες, όπως με τον Κανονισμό για τις Ψηφιακές Υπηρεσίες και τον εφαρμοστικό του νόμο, τον Κανονισμό για τη Διακυβέρνηση Δεδομένων, τον Κανονισμό της ΕΕ για τα Δεδομένα, την προτεινόμενη Οδηγία για την Ευθύνη στην ΤΝ και τις προτεινόμενες αναθεωρήσεις της Οδηγίας για την Ευθύνη Προϊόντων, καθώς και με τον Γενικό Κανονισμό για την Προστασία Δεδομένων. Τέλος, η Ελλάδα οφείλει να εξετάσει την έγκαιρη επικύρωση της πρώτης διεθνούς, νομικά δεσμευτικής συνθήκης του Συμβουλίου της Ευρώπης για την ΤΝ και τα ανθρώπινα δικαιώματα, τη Δημοκρατία και το Κράτος Δικαίου, διασφαλίζοντας την προστασία των πολιτών, τη διαφάνεια, τη λογοδοσία και την ασφάλεια δικαίου, στηρίζοντας παράλληλα τις οικονομικές προοπτικές των νεοφυών και των μικρομεσαίων επιχειρήσεων, επιταχύνοντας την εισαγωγή τους στην αγορά και αυξάνοντας την εθνική και ευρωπαϊκή τους ανταγωνιστικότητα.

Συμπεράσματα

Ο EU AI Act αποτελεί σταθμό για τη νομοθεσία της τεχνητής νοημοσύνης και θέτει υψηλά πρότυπα που ενδέχεται να επηρεάσουν τη διεθνή νομοθεσία. Παρόλο που δημιουργεί προκλήσεις συμμόρφωσης, ανοίγει το δρόμο για μια ασφαλέστερη και πιο ηθική χρήση της AI. Η επιτυχία του, ωστόσο, θα εξαρτηθεί από την ικανότητα των κρατών-μελών να εφαρμόσουν αποτελεσματικά τις διατάξεις του και από τη συνεργασία μεταξύ δημόσιου και ιδιωτικού τομέα.