Κανονισμός (ΕΕ) 2024/1689 για την τεχνητή νοημοσύνη

Δημοσιεύθηκε στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης ο Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 13ης Ιουνίου 2024 για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και την τροποποίηση των κανονισμών (ΕΚ) αριθ. 300/2008, (ΕΕ) αριθ. 167/2013, (ΕΕ) αριθ. 168/2013, (ΕΕ) 2018/858, (ΕΕ) 2018/1139 και (ΕΕ) 2019/2144 και των οδηγιών 2014/90/ΕΕ, (ΕΕ) 2016/797 και (ΕΕ) 2020/1828 ( εφεξής «Κανονισμός»). Ο σκοπός του Κανονισμού, σύμφωνα με το άρθρο 1 είναι να βελτιώσει τη λειτουργία της εσωτερικής αγοράς και να προωθήσει την υιοθέτηση ανθρωποκεντρικής και αξιόπιστης τεχνητής νοημοσύνης (ΤΝ) διασφαλίζοντας παράλληλα υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη, συμπεριλαμβανομένης της δημοκρατίας, του κράτους δικαίου και της περιβαλλοντικής προστασίας από τις επιζήμιες συνέπειες των συστημάτων τεχνητής νοημοσύνης στην Ένωση. Ο Κανονισμός αποτελείται από 113 άρθρα και 13 Παραρτήματα.
Επιγραμματικά τα κυριότερα σημεία του Κανονισμού, αναφορικά με το πεδίο εφαρμογής, τις απαγορευμένες πρακτικές, τους κανόνες ταξινόμησης των συστημάτων ΤΝ ως υψηλού κινδύνου και τις υποχρεώσεις συμμόρφωσης αυτών, καθώς και τις υποχρεώσεις διαφάνειας που πρέπει να τηρούν οι πάροχοι και φορείς εφαρμογής συστημάτων ΤΝ είναι τα εξής:
- Πεδίο Εφαρμογής: Ο Κανονισμός εφαρμόζεται σε: α) παρόχους που διαθέτουν στην αγορά ή θέτουν σε λειτουργία συστήματα ΤΝ[1] ή διαθέτουν στην αγορά μοντέλα ΤΝ γενικού σκοπού[2] στην Ένωση, ανεξάρτητα από το αν οι εν λόγω πάροχοι είναι εγκατεστημένοι ή βρίσκονται εντός της Ένωσης ή σε τρίτη χώρα, β) φορείς εφαρμογής συστημάτων ΤΝ που έχουν τον τόπο εγκατάστασής τους ή βρίσκονται εντός της Ένωσης, γ) παρόχους και φορείς εφαρμογής συστημάτων ΤΝ που έχουν τον τόπο εγκατάστασής τους ή βρίσκονται σε τρίτη χώρα, όταν τα στοιχεία εξόδου που παράγει το σύστημα ΤΝ χρησιμοποιούνται στην Ένωση, δ) εισαγωγείς και διανομείς συστημάτων ΤΝ, ε) κατασκευαστές προϊόντων που διαθέτουν στην αγορά ή θέτουν σε λειτουργία σύστημα ΤΝ μαζί με το προϊόν τους και υπό τη δική τους επωνυμία ή εμπορικό σήμα, στ) εξουσιοδοτημένους αντιπροσώπους παρόχων, οι οποίοι δεν είναι εγκατεστημένοι στην Ένωση και ζ) θιγόμενα πρόσωπα που βρίσκονται στην Ένωση.
- Απαγορευμένες πρακτικές στον τομέα της ΤΝ: Μεταξύ άλλων απαγορεύεται η χρήση τεχνικών οι οποίες: α) εκμεταλλεύονται οποιοδήποτε από τα τρωτά σημεία ενός φυσικού προσώπου ή μιας συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας τους, της αναπηρίας τους ή συγκεκριμένης κοινωνικής ή οικονομικής τους κατάστασης, με σκοπό ή με αποτέλεσμα να στρεβλώσουν ουσιωδώς τη συμπεριφορά του εν λόγω προσώπου ή προσώπου που ανήκει στην εν λόγω ομάδα κατά τρόπο που προκαλεί ή εύλογα ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σημαντική βλάβη, β) συνίστανται στη διενέργεια εκτιμήσεων κινδύνου φυσικών προσώπων προκειμένου να εκτιμηθεί ή να προβλεφθεί ο κίνδυνος τέλεσης αξιόποινης πράξης από φυσικό πρόσωπο, με βάση αποκλειστικά την κατάρτιση προφίλ ενός φυσικού προσώπου ή την αξιολόγηση των γνωρισμάτων και των χαρακτηριστικών της προσωπικότητάς του, γ) δημιουργούν ή επεκτείνουν βάσεις δεδομένων αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου από το διαδίκτυο ή βίντεο CCTV, δ) κατηγοριοποιούν με μεμονωμένο τρόπο φυσικά πρόσωπα με βάση τα βιομετρικά δεδομένα τους για να εξαχθούν ή να συναχθούν συμπεράσματα σχετικά με τη φυλή, τα πολιτικά φρονήματα, τη συμμετοχή σε συνδικαλιστική οργάνωση, τις θρησκευτικές ή φιλοσοφικές πεποιθήσεις, τη σεξουαλική ζωή ή τον γενετήσιο προσανατολισμό τους και ε) μέσω της εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους αποσκοπούν στην επιβολή του νόμου[3].
- Συστήματα ΤΝ υψηλού κινδύνου: Ένα σύστημα ΤΝ θεωρείται ως υψηλού κινδύνου, όταν πληρούνται σωρευτικά οι εξής προϋποθέσεις: α) το σύστημα ΤΝ προορίζεται να χρησιμοποιηθεί ως κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος ή το σύστημα ΤΝ είναι το ίδιο προϊόν που καλύπτεται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα Ι του Κανονισμού και β) το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας σύμφωνα με το στοιχείο (α) είναι το σύστημα ΤΝ ή το ίδιο το σύστημα ΤΝ ως προϊόν απαιτείται να υποβληθεί σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος με σκοπό τη διάθεση του εν λόγω προϊόντος στην αγορά ή τη θέση του σε λειτουργία, δυνάμει της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται στο παράρτημα I του Κανονισμού. Τα συστήματα αυτά οφείλουν να συμμορφώνονται με τις απαιτήσεις που ορίζει ο νόμος, όπως την υλοποίηση ενός συστήματος διαχείρισης κινδύνου, την κατάρτιση τεχνικού φακέλου, την τήρηση αρχείων, την διαφάνεια και πληροφόρηση των φορέων εφαρμογής, την ανθρώπινη εποπτεία και την κυβερνοασφάλεια.
- Υποχρεώσεις διαφάνειας για παρόχους και φορείς εφαρμογής συστημάτων ΤΝ: α) Οι πάροχοι διασφαλίζουν ότι τα συστήματα ΤΝ που προορίζονται για άμεση αλληλεπίδραση με φυσικά πρόσωπα σχεδιάζονται και αναπτύσσονται κατά τρόπο που επιτρέπει στα ενδιαφερόμενα φυσικά πρόσωπα να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ, β) οι πάροχοι συστημάτων ΤΝ, συμπεριλαμβανομένων των συστημάτων ΤΝ γενικού σκοπού, που παράγουν συνθετικό περιεχόμενο ήχου, εικόνας, βίντεο ή κειμένου, διασφαλίζουν ότι τα στοιχεία εξόδου του συστήματος ΤΝ επισημαίνονται σε μηχαναγνώσιμο μορφότυπο και είναι δυνατόν να ανιχνευθεί ότι έχουν παραχθεί ή υποστεί χειρισμό τεχνητά.
Ο Κανονισμός αρχίζει να ισχύει την εικοστή ημέρα από τη δημοσίευση του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης και εφαρμόζεται από τις 2 Αυγούστου 2026 (με εξαίρεση ορισμένα κεφάλαια που εφαρμόζονται από το 2025).
Μαρία Αικατερίνη Δ. Παπαδοπούλου
Δικηγόρος
Δ.Μ.Σ Ιστορίας και Θεωρίας Δικαίου, Νομική Σχολή Αθηνών, ΕΚΠΑ
Δ.Μ.Σ Αστικού δικαίου, Νομική Σχολή Αθηνών, ΕΚΠΑ
Δ.Μ.Σ Εμπορικού Δικαίου, Νομική Σχολή Δημοκριτείου Πανεπιστημίου Θράκης
[1] Ως σύστημα ΤΝ νοείται το μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα.
[2] Μοντέλο ΤΝ γενικού σκοπού: ένα μοντέλο ΤΝ έχει εκπαιδευτεί με μεγάλο όγκο δεδομένων χρησιμοποιώντας αυτοεποπτεία σε κλίμακα, παρουσιάζει σημαντική γενικότητα και είναι ικανό να εκτελεί αποτελεσματικά ευρύ φάσμα διακριτών καθηκόντων, ανεξάρτητα από τον τρόπο με τον οποίο το μοντέλο διατίθεται στην αγορά και μπορεί να ενσωματωθεί σε διάφορα συστήματα ή εφαρμογές.
[3] Εκτός εάν η χρήση αυτή είναι απολύτως αναγκαία είτε για τη στοχευμένη αναζήτηση συγκεκριμένων θυμάτων απαγωγής, εμπορίας ανθρώπων ή σεξουαλικής εκμετάλλευσης ανθρώπων είτε για την πρόληψη συγκεκριμένης ουσιαστικής και επικείμενης απειλής κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή τον εντοπισμό ή/και ταυτοποίηση προσώπου υπόπτου για την τέλεση αξιόποινης πράξης προς τον σκοπό της διεξαγωγής ποινικής έρευνας ή δίωξης ή εκτέλεσης ποινής.