Η Τεχνητή Νοημοσύνη (εφεξής «ΤΝ»), αν και αποτελεί μια ταχέως αναπτυσσόμενη τεχνολογία, η οποία χρησιμοποιείται όλο και ευρύτερα από το σύνολο της αγοράς, δεν περιβαλλόταν μέχρι σήμερα από ένα λεπτομερές νομικό πλαίσιο σε εθνικό ή ενωσιακό επίπεδο. Η θέσπιση ρυθμίσεων για την χρήση και ανάπτυξη της ΤΝ κρίνεται ιδιαιτέρως σημαντική, καθώς αναμένεται να καλλιεργήσει την εμπιστοσύνη των ατόμων και των επιχειρήσεων προς τα συστήματα τεχνητής νοημοσύνης.

Στο πλαίσιο αυτό, οι ρυθμιστικές πρωτοβουλίες της Ευρωπαϊκής Ένωσης κατά τη διάρκεια των τελευταίων ετών επικεντρώθηκαν στη θέσπιση ενός κανονιστικού πλαισίου για την ανάπτυξη και χρήση της ΤΝ. Ήδη από το Φεβρουάριο του 2020, η Ευρωπαϊκή Επιτροπή δημοσίευσε τη Λευκή Βίβλο για την ΤΝ[1], θέτοντας τις βασικές πτυχές του μελλοντικού ευρωπαϊκού ρυθμιστικού πλαισίου για τα αλγοριθμικά συστήματα. Μέσω της Λευκής Βίβλου, προκρίθηκε -σε ενωσιακό επίπεδο- η οριζόντια νομοθετική προσέγγιση του ζητήματος της ΤΝ, με την υιοθέτηση μιας ενιαίας νομοθετικής πράξης που θα εφαρμόζεται για κάθε σύστημα τεχνητής νοημοσύνης. Ένα δε εκτενές νομοθέτημα που θα ρυθμίζει εν γένει τα συστήματα ΤΝ θα εξασφαλίσει την ενιαία αντιμετώπιση των οικείων ζητημάτων σε όλα τα κράτη – μέλη της Ευρωπαϊκής Ένωσης. Σύμφωνα με τη Λευκή Βίβλο, στόχος του επερχόμενου κανονιστικού πλαισίου είναι να κινητοποιήσει πόρους για την επίτευξη του «οικοσυστήματος αριστείας» σε ολόκληρη την αλυσίδα αξιών, ώστε να δημιουργηθούν κίνητρα για την ταχύτερη υιοθέτηση λύσεων από τις επιχειρήσεις, πάντοτε με σεβασμό στα θεμελιώδη δικαιώματα και τις ελευθερίες των ευρωπαίων πολιτών.

Εν αναμονή της ψήφισης του νέου Κανονισμού για την Τεχνητή Νοημοσύνη[2] που θα θέσει τα θεμέλια για ένα ενιαίο κανονιστικό πλαίσιο σε ενωσιακό επίπεδο, δημοσιεύτηκε στη χώρα μας ο νόμος Ν.4961/2022 «Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις»[3]. Το εν λόγω νομοθέτημα, εμπεριέχει κάποιες βασικές ρυθμίσεις για την ανάπτυξη και χρήση της Τεχνητής Νοημοσύνης στο δημόσιο και ιδιωτικό τομέα, θεσπίζοντας συγκεκριμένες υποχρεώσεις για τους Φορείς του «Δημοσίου Τομέα»[4] και τους «Αναδόχους»[5], που αναπτύσσουν και χρησιμοποιούν προηγμένα συστήματα Τεχνητής Νοημοσύνης, καθώς και εγγυήσεις για την προστασία των φυσικών και νομικών προσώπων έναντι των κινδύνων που ελλοχεύουν κατά τη χρήση και λειτουργία των εν λόγω συστημάτων στον δημόσιο και ιδιωτικό τομέα.

1.    Σκοπός – Αντικείμενο του Ν.4961/2022

Ο νέος εθνικός νόμος 4961/2022 εισάγει ποικίλες ρυθμίσεις που αφορούν: την ανάπτυξη και ασφαλή χρήση της Τεχνητής Νοημοσύνης, την αξιοποίηση αναδυόμενων τεχνολογιών (Διαδίκτυο των Πραγμάτων, Συστήματα Μη Επανδρωμένων Αεροσκαφών, Τρισδιάστατες Εκτυπώσεις) με γνώμονα την ασφάλεια των πληροφοριών, την ενίσχυση της Κυβερνοασφάλειας για την θωράκιση του κράτους απέναντι σε κυβερνοεπιθέσεις, καθώς και την εφαρμογή διαδικασιών Ψηφιακής Διακυβέρνησης στο πλαίσιο του ψηφιακού μετασχηματισμού.

Βασικός στόχος του ν. 4961/2022 είναι η διαμόρφωση μίας ενιαίας εθνικής στρατηγικής για την ανάπτυξη των τεχνολογιών Τεχνητής Νοημοσύνης, παρακολουθώντας τις σύγχονες εξελίξεις στον εν λόγω τομέα. Ειδικότερα, οι σχετικές ρυθμίσεις θέτουν το υπόβαθρο για τη θεμιτή και ασφαλή αξιοποίηση των δυνατοτήτων της τεχνολογίας τεχνητής νοημοσύνης από φορείς του δημόσιου και του ιδιωτικού τομέα. Μεταξύ των υποχρεώσεων που καταγράφονται, περιλαμβάνονται κατάλληλα μέτρα για την αποτροπή κινδύνων που ελλοχεύουν από την χρήση συστημάτων ΤΝ και συνακόλουθα την ενίσχυση και διασφάλιση των δικαιωμάτων των φυσικών και νομικών προσώπων.

Το παραπάνω νομοθέτημα ρυθμίζει τις υποχρεώσεις των εμπλεκόμενων μερών (του δημοσίου, των αναδόχων και των ιδιωτικών επιχειρήσεων) όταν υλοποιείται η ανάπτυξη συστημάτων ΤΝ, με γνώμονα την ενίσχυση των αρχών λογοδοσίας και διαφάνειας. Στο πλαίσιο αυτό, προβλέπει την υποχρέωση εκπόνησης αλγοριθμικής εκτίμησης αντικτύπου, υποχρεώσεις ενημέρωσης από τους φορείς για τη λειτουργία τέτοιων συστημάτων,την ίδρυση και τις αρμοδιότητες συλλογικών διοικητικών οργάνων σχετικά με συστήματα ΤΝ κ.α.

Όσον αφορά την επεξεργασία προσωπικών δεδομένων που πραγματοποιείται κατά τη χρήση και λειτουργία των συστημάτων ΤΝ αλλά και το θεσμικό πλαίσιο που διέπει την προστασία των δεδομένων προσωπικού χαρακτήρα, ο Ν.4961/2022 λειτουργεί παράλληλα και συμπληρωματικά με την ως άνω προστατευτική νομοθεσία, καθώς όπως ρητώς ορίζεται στο κείμενο αυτού, δεν θίγει τα δικαιώματα και τις υποχρεώσεις που απορρέουν από τον Κανονισμό (ΕΕ) 2016/679 (εφεξής «ΓΚΠΔ») αλλά και από το Ν.4624/2019, όπως ισχύει.

2.    Κυριότερες ρυθμίσεις:

2.1.                       Γενικές προϋποθέσεις για τη χρήση συστημάτων ΤΝ (άρθρο 4 του Ν. 4961/2022)

Θεμελιώδης είναι η διάταξη του άρ. 4 σύμφωνα με την οποία οι φορείς του δημοσίου, στο πλαίσιο των αρμοδιοτήτων τους, δύνανται να χρησιμοποιούν συστήματα ΤΝ κατά τη διαδικασία λήψης μιας απόφασης ή για την έκδοση μιας πράξης με ενδεχόμενο αντίκτυπο στα δικαιώματα φυσικών και νομικών προσώπων, υπό την προϋπόθεση ότι η χρήση αυτή προβλέπεται ρητά από ειδική διάταξη νόμου που περιλαμβάνει κατάλληλες εγγυήσεις για την προστασία των δικαιωμάτων. Ως εκ τούτου, προκειμένου να είναι σύννομη η χρήση των εν λόγω προηγμένων συστημάτων από τη δημόσια διοίκηση, θα πρέπει αυτή να θεμελιώνεται σε συγκεκριμένη νομοθετική διάταξη.

 

2.2.                       Υποχρεώσεις για Φορείς/Αναδόχους/Επιχειρήσεις ιδιωτικού τομέα (άρθρα 6,7,9 του Ν.4961/2022)

Οι υποχρεώσεις που καταγράφονται στο νέο νόμο αφορούν τους Δημόσιους Φορείς, τους Αναδόχους και τις Ιδιωτικές Επιχειρήσεις.

2.2.1.      Για τους Δημόσιους φορείς

Κάθε φορέας του δημοσίου που χρησιμοποιεί σύστημα ΤΝ, παράλληλα με τις υποχρεώσεις ενημέρωσης των φυσικών προσώπων που προβλέπονται από τον ΓΚΠΔ, οφείλει να παρέχει πληροφορίες στο κοινό σε κατανοητή και εύκολα προσβάσιμη μορφή ως προς:

• τον χρόνο έναρξης λειτουργίας του συστήματος,
• τις παραμέτρους λειτουργίας, τις δυνατότητες και τα τεχνικά χαρακτηριστικά του συστήματος ΤΝ,
• το είδος των αποφάσεων που λαμβάνει και των πράξεων τις οποίες εκδίδει το σύστημα ΤΝ καθώς και
• τη διενέργεια αλγοριθμικής εκτίμησης αντικτύπου, μία αξιολόγηση κινδύνων για την χρήση του συστήματος διάφορη από την Εκτίμηση Αντικτύπου Προστασίας Δεδομένων (ΕΑΠΔ) που προβλέπεται στον ΓΚΠΔ (βλ. κατωτέρω, κεφ. 3.4). Επισημαίνεται ότι αρμόδια για την εξέταση και αξιολόγηση τυχόν καταγγελιών ή αναφορών επί τη βάσει παραβίασης των ως άνω υποχρεώσεων διαφάνειας των δημοσίων φορέων, ορίζεται η Εθνική Αρχή Διαφάνειας (Ε.Α.Δ.).

Περαιτέρω, κάθε ανάδοχος δημόσιας σύμβασης με αντικείμενο το σχεδιασμό ή την ανάπτυξη συστήματος ΤΝ, οφείλει αφενός να παρέχει στον φορέα του δημοσίου τις παραπάνω (υπό στοιχεία α-δ) πληροφορίες και τους όρους υπό τους οποίους λειτουργεί το σύστημα ΤΝ. Επιπλέον, κατά τον σχεδιασμό του συστήματος ΤΝ να λαμβάνει τα κατάλληλα μέτρα για τη συμβατότητά τους με τον νόμο (π.χ. με το δίκαιο των προσωπικών δεδομένων, το εργατικό δίκαιο κ.α.). Τέτοια παραδείγματα ενδέχεται να είναι τα chatbots, αυτόνομα λογισμικά δηλαδή τα οποία αναπτύσσονται στο πλαίσιο άμεσης επικοινωνίας του φορέα με τους ενδιαφερομένους.

2.2.2.      Για τους Ιδιωτικούς Φορείς:

Ακόμα, κάθε επιχείρηση του ιδιωτικού τομέα, εφόσον χρησιμοποιεί σύστημα ΤΝ το οποίο επηρεάζει οποιαδήποτε διαδικασία λήψης αποφάσεων σχετικά με τους εργαζομένους (ή τους υποψηφίους εργαζομένους) και έχει αντίκτυπο στις συνθήκες εργασίας, την επιλογή, την πρόσληψη ή την αξιολόγησή τους, οφείλει, πριν τη χρήση του, να παρέχει επαρκή και σαφή πληροφόρηση σε κάθε εργαζόμενο (ή υποψήφιο εργαζόμενο) τουλάχιστον σχετικά με τις παραμέτρους στις οποίες βασίζεται η λήψη αποφάσεων. Με αυτόν τον τρόπο διασφαλίζεται η τήρηση της αρχής της ίσης μεταχείρισης και της καταπολέμησης των διακρίσεων. Σε περίπτωση δε που παραβιάζεται αυτή η υποχρέωση, επιβάλλονται διοικητικές και ποινικές κυρώσεις, σύμφωνα με την εργατική νομοθεσία, άρ. 24 και 28, αντίστοιχα, του ν. 3996/2011 (Α’ 170), όπως ισχύει.

Η εν λόγω υποχρέωση δεν θίγει τις υποχρεώσεις που επιβάλλονται στους υπευθύνους επεξεργασίας, δυνάμει του άρθρου 22 του ΓΚΠΔ. Το εν λόγω άρθρο αφορά τη λήψη κατάλληλων μέτρων για την προστασία των δικαιωμάτων, των ελευθεριών και των έννομων συμφερόντων του υποκειμένου των δεδομένων, τουλάχιστον του δικαιώματος εξασφάλισης ανθρώπινης παρέμβασης, έκφρασης άποψης και αμφισβήτησης της απόφασης, όταν αυτή αποτελεί προϊόν αυτοματοποιημένης λήψης αποφάσεως συμπεριλαμβανομένης της κατάρτισης προφίλ.

2.3.                       Τι συστήνεται; (άρθρα 8, 10,11,12,13,14 του Ν.4961/2022)

• Ο νέος νόμος προβλέπει την διάρθρωση ορισμένων διαδικασιών και την ίδρυση σχετικών οργάνων, με γνώμονα την ασφαλή λειτουργία των συστημάτων ΤΝ, τη συμμόρφωσή τους με το δίκαιο (π.χ. με τα θεμελιώδη δικαιώματα του ανθρώπου) και το συντονισμό της Εθνικής Στρατηγικής για την ανάπτυξη της ΤΝ. Ιδιαίτερα σημαντικές ρυθμίσεις κρίνονται οι κατωτέρω:
• Κάθε δημόσιος φορέας και κάθε επιχείρηση του ιδιωτικού τομέα υποχρεούται να τηρεί μητρώο με τα συστήματα ΤΝ που χρησιμοποιεί σύμφωνα με τα ειδικότερα οριζόμενα στον νόμο ανάλογα με τη φύση της κάθε οντότητας.
• Για τον συντονισμό της εθνικής στρατηγικής για την ΤΝ συστήνεται οικεία Συντονιστική Επιτροπή, η οποία είναι αρμόδια για τη λήψη αποφάσεων, τη διαμόρφωση των εθνικών προτεραιοτήτων, τον σχεδιασμό των δράσεων και τη λήψη διορθωτικών μέτρων με γνώμονα την προστασία των θεμελιωδών δικαιωμάτων του ανθρώπου.
• Επίσης, συστήνεται Επιτροπή Εποπτείας της Εθνικής Στρατηγικής για την ανάπτυξη ΤΝ (ως εκτελεστικό όργανο της Συντονιστικής Επιτροπής), αλλά και Παρατηρητήριο ΤΝ που – μεταξύ άλλων – παρέχει πληροφορίες για τις επιπτώσεις της ΤΝ στα θεμελιώδη ανθρώπινα δικαιώματα.

2.4.                       Αλγοριθμική εκτίμηση αντικτύπου (άρθρο 5 του Ν.4961/2022)

Όπως ήδη αναφέρθηκε, κάθε φορέας του δημοσίου που χρησιμοποιεί σύστημα ΤΝ, υποχρεούται πριν από την έναρξη λειτουργίας του συστήματος να εκπονήσει αλγοριθμική εκτίμηση αντικτύπου, η οποία αποτελεί ξεχωριστή διαδικασία και δεν υποκαθιστά την υποχρέωση διενέργειας της Εκτίμησης Αντικτύπου Προστασίας Δεδομένων που προβλέπεται στο άρθρο 35 του ΓΚΠΔ.

Στο πλαίσιο εκπόνησης της αλγοριθμικής εκτίμησης αντικτύπου εξετάζονται:

• ο επιδιωκόμενος σκοπός που επιτελεί το σύστημα ΤΝ,
• οι δυνατότητες, τα τεχνικά χαρακτηριστικά και οι παράμετροι λειτουργίας του συστήματος ΤΝ,
• το είδος των αποφάσεων και πράξεων του συστήματος ΤΝ,
• οι κατηγορίες των δεδομένων που το σύστημα ΤΝ επεξεργάζεται,
• οι κίνδυνοι που ελλοχεύουν από την χρήση του συστήματος ΤΝ, καθώς και
• το προσδοκώμενο όφελος για το κοινωνικό σύνολο σε συνάρτηση με τους κινδύνους που το σύστημα ΤΝ εγκυμονεί, ιδίως για τις ευάλωτες κοινωνικές ομάδες. Επομένως, προκύπτει ότι η αλγοριθμική εκτίμηση αντικτύπου αποτελεί ένα εργαλείο λογοδοσίας για τους δημόσιους φορείς που θα ενισχύσει την εμπιστοσύνη των πολιτών – χρηστών απέναντι σε αυτά τα συστήματα.

3.    Συμπέρασμα

Ενόψει της ψήφισης του νέου Κανονισμού για την ΤΝ από την Ευρωπαϊκή Ένωση, τα κράτη μέλη της Ευρώπης προετοιμάζονται για τις αλλαγές που θα επέλθουν. Σε αυτό το πνεύμα, ο νέος εθνικός νόμος προβλέπει πλήθος ρυθμίσεων για την ασφαλή χρήση της ΤΝ, θέτοντας παράλληλα στο επίκεντρο την ψηφιακή αναβάθμιση της δημόσιας διοίκησης. Τόσο οι δημόσιοι όσο και οι ιδιωτικοί φορείς που θέτουν σε λειτουργία συστήματα ΤΝ, πρέπει να είναι σε θέση να αποδεικνύουν τη νομιμότητα της χρήσης τους, παράλληλα δε, έρχονται αντιμέτωποι με την επιβολή διοικητικών και ποινικών κυρώσεων σε περίπτωση παραβίασης των οικείων διατάξεων, καθώς και με επιπτώσεις που σχετίζονται με την υποβολή καταγγελιών σε βάρος τους ενώπιον της Εθνικής Αρχής Διαφάνειας. Η δε ψήφιση και εφαρμογή του Νέου Κανονισμού για την Τεχνητή Νοημοσύνη αναμένεται να φέρει δημοσίους φορείς και εταιρείες αντιμέτωπους με κυρώσεις ύψους έως 30.000.000 ευρώ ή ως 6% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών. Τις κυρώσεις αυτές θα επιβάλλει η εθνική αρμόδια αρχή, που – σύμφωνα με την κοινή πρόταση του Ευρωπαίου Επόπτη και του Ευρωπαϊκού Συμβουλίου για τα Προσωπικά Δεδομένα (ΕΕΠΔ και ΕΣΠΔ) – αναμένεται να είναι για την Ελλάδα η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, η οποία διαθέτει ήδη εμπειρία για την επιβολή και την επιμέτρηση τέτοιου είδους προστίμων στο πλαίσιο του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR). Επομένως, η έγκαιρη συμμόρφωση των φορέων με το νέο θεσμικό πλαίσιο για την ανάπτυξη της ΤΝ κρίνεται επιβεβλημένη.

Για τη

«ΝΙΚΟΛΑΣ ΚΑΝΕΛΛΟΠΟΥΛΟΣ – ΧΑΡΑ ΖΕΡΒΑ & ΣΥΝΕΡΓΑΤΕΣ

ΔΙΚΗΓΟΡΙΚΗ ΕΤΑΙΡΕΙΑ»

 

Χρύσα Μπακιρτζόγλου Δικηγόρος – Associate LL.M., MSc, Certified DPO

Ιφιγένεια Μαρσέλλου Δικηγόρος – Associate MSc, Certified DPO

Άλκηστη Κωστοπούλου Δικηγόρος – Associate LL.M., MSc

 

[1] Λευκή Βίβλος – Τεχνητή Νοημοσύνη, Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης COM (2020) 65 final, 19 Φεβρουαρίου 2020.

[2] Πρόταση – Κανονισμός του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση Εναρμονισμένων Κανόνων σχετικά με την Τεχνητή Νοημοσύνη (Πράξη για την Τεχνητή Νοημοσύνη) και για την Τροποποίηση Ορισμένων Νομοθετικών Πράξεων της Ένωσης, Ευρωπαϊκή Επιτροπή, COM (2021) 206 final, 21 Απριλίου 2021.

[3] ΦΕΚ Α’ 146/27-07-2022

[4] Για τους σκοπούς του εν λόγω νόμου ο «Δημόσιος τομέας» περιλαμβάνει τη Γενική Κυβέρνηση, τα εκτός αυτής νομικά πρόσωπα δημοσίου δικαίου (ΝΠΔΔ), καθώς και τις εκτός αυτής δημόσιες επιχειρήσεις και οργανισμούς του Κεφαλαίου Α` του ν. 3429/2005 (Α`314), ανεξαρτήτως εάν έχουν εξαιρεθεί από την εφαρμογή του [βλ. παρ. 1 του άρθρου 14 του ν. 4270/2014 (Α’ 143)].

[5] Ως «Aνάδοχος» νοείται ο οικονομικός φορέας στον οποίο έχει ανατεθεί με δημόσια σύμβαση [ή εν γένει σύμβαση εξ επαχθούς αιτίας, η οποία συνάπτεται γραπτώς μεταξύ ενός ή περισσότερων οικονομικών φορέων και μιας ή ενός ή περισσότερων αναθετουσών αρχών ή αναθετόντων φορέων, αντίστοιχα, και έχει ως αντικείμενο την εκτέλεση έργων, την εκπόνηση μελετών, την προμήθεια αγαθών ή την παροχή υπηρεσιών (βλ. άρ. 1 παρ. 1 περ. 5 ν. 4412/2016)], η κατασκευή έργου ή η μελέτη έργου ή η προμήθεια αγαθών ή η παροχή υπηρεσιών (βλ. άρ. 1 παρ. 1 περ. 43 ν. 4412/2016).