Η αρχιτεκτονική με την οποία η Ελλάδα φιλοδοξεί να εποπτεύσει την Τεχνητή Νοημοσύνη τίθεται ήδη υπό αμφισβήτηση, πριν ακόμη τεθεί σε εφαρμογή. Αυτό τουλάχιστον προκύπτει από τα σχόλια που έχουν υποβληθεί μέχρι σήμερα στην ανοιχτή δημόσια διαβούλευση για το εθνικό πλαίσιο εφαρμογής του ευρωπαϊκού AI Act. Η συγκέντρωση κρίσιμων αρμοδιοτήτων σε περιορισμένο αριθμό φορέων, οι πιθανές επικαλύψεις ρόλων, αλλά και τα ερωτήματα για το κατά πόσο ο κρατικός μηχανισμός διαθέτει την τεχνική επάρκεια να αναλάβει μια τόσο σύνθετη αποστολή είναι τα βασικά σημεία προβληματισμού που καταγράφονται στη διαβούλευση για το «ελληνικό ΑΙ Act», το οποίο εξειδικεύει σε εθνικό επίπεδο τους κανόνες, τις αρμόδιες Αρχές και τους μηχανισμούς εφαρμογής του ευρωπαϊκού κανονισμού για την ΑΙ.
Το υπό διαβούλευση σχέδιο νόμου δεν εισάγει νέους κανόνες για την ΑΙ, αφού αυτοί προβλέπονται ήδη στον ευρωπαϊκό AI Act, ο οποίος τίθεται σταδιακά σε εφαρμογή σε όλα τα κράτη-μέλη. Στόχος του είναι να καθορίσει τον τρόπο με τον οποίο θα εφαρμοστεί ο κανονισμός στην Ελλάδα, ορίζοντας τις αρμόδιες εποπτικές Αρχές, τους μηχανισμούς ελέγχου και τις δομές που θα υποστηρίξουν την εφαρμογή του. Μεταξύ άλλων, προβλέπει τον ορισμό της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα ως εθνικής εποπτικής αρχής, τη δημιουργία Κέντρου Συντονισμού και Τεχνογνωσίας για την Τεχνητή Νοημοσύνη στην ΕΕΤΤ, Μητρώου Συστημάτων ΑΙ για το Δημόσιο, Παρατηρητηρίου ΑΙ και Ρυθμιστικού Δοκιμαστηρίου (AI Regulatory Sandbox), καθώς και διαδικασίες ελέγχου, υποβολής καταγγελιών και συνεργασίας με την Ευρωπαϊκή Επιτροπή.
Ποιος θα ελέγχει
Στο επίκεντρο της δημόσιας διαβούλευσης βρίσκεται το μοντέλο εποπτείας της ΑΙ, που προτείνει το σχέδιο νόμου το οποίο βρίσκεται σε δημόσια διαβούλευση μέχρι τις 6 Ιουλίου, αλλά και σημεία όπως ο συντονισμός των αρμόδιων Αρχών. Το σχέδιο νόμου τοποθετεί την Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ) στο επίκεντρο του νέου πλαισίου, αναθέτοντάς της τον ρόλο της εθνικής εποπτικής αρχής και του σημείου επαφής με την Ευρωπαϊκή Επιτροπή. Η επιλογή αυτή ουσιαστικά καθιστά την ΑΠΔΠΧ τον βασικό πυλώνα εφαρμογής του AI Act στην Ελλάδα. Αν και μέχρι σήμερα ο αριθμός των παρεμβάσεων στη δημόσια διαβούλευση παραμένει περιορισμένος, τα σχόλια που έχουν κατατεθεί συγκλίνουν σε έναν βασικό προβληματισμό: μπορεί μια Αρχή που έχει ως βασική αποστολή την προστασία προσωπικών δεδομένων να αναλάβει και την εποπτεία ενός τόσο σύνθετου τεχνολογικού πεδίου, που περιλαμβάνει αξιολόγηση αλγορίθμων, συστήματα υψηλού κινδύνου, κυβερνοασφάλεια και τεχνική συμμόρφωση;
Οι επιφυλάξεις γίνονται ακόμη εντονότερες σε επιμέρους διατάξεις του νομοσχεδίου, όπως, για παράδειγμα, το άρθρο 11, σύμφωνα με το οποίο η ΑΠΔΠΧ αναλαμβάνει, για συγκεκριμένες κατηγορίες συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου, όχι μόνο εποπτικό ρόλο, αλλά και ρόλο κοινοποιημένου οργανισμού αξιολόγησης συμμόρφωσης. Το σημείο αυτό θεωρείται από αρκετούς σχολιαστές το πιο προβληματικό του σχεδίου νόμου, καθώς δημιουργεί έναν δυνητικό διττό ρόλο για την ίδια Αρχή: αφενός αξιολογεί τη συμμόρφωση ενός συστήματος και αφετέρου καλείται να εποπτεύει την εφαρμογή του. Η αναφορά στο γερμανικό μοντέλο χρησιμοποιείται ως παράδειγμα διαφορετικής θεσμικής φιλοσοφίας, όπου οι λειτουργίες εποπτείας, διαπίστευσης και αξιολόγησης συμμόρφωσης κατανέμονται σε διαφορετικούς φορείς ώστε να αποφεύγονται επικαλύψεις.
Η συζήτηση, ωστόσο, δεν περιορίζεται στην ΑΠΔΠΧ. Αντίστοιχος προβληματισμός διατυπώνεται και για τη συνολική αρχιτεκτονική του νέου μηχανισμού εποπτείας. Το σχέδιο νόμου ενεργοποιεί την ΕΕΤΤ ως κοινοποιούσα αρχή, δημιουργεί Κέντρο Συντονισμού και Τεχνογνωσίας για την Τεχνητή Νοημοσύνη, θεσπίζει ενιαίο σύστημα υποβολής καταγγελιών, νέο Μητρώο Συστημάτων ΑΙ για το Δημόσιο, Παρατηρητήριο ΑΙ και Ρυθμιστικό Δοκιμαστήριο (AI Regulatory Sandbox), ενώ στον μηχανισμό συμμετέχουν και οι κατά περίπτωση αρχές εποπτείας της αγοράς.
Το πολυεπίπεδο αυτό σχήμα εγείρει ερωτήματα για το πώς θα λειτουργήσει στην πράξη. Ποιος θα έχει τον τελικό λόγο όταν εμπλέκονται περισσότερες από μία αρχές; Πώς θα επιλύονται οι επικαλύψεις αρμοδιοτήτων; Και ποιος θα αναλαμβάνει τον επιχειρησιακό συντονισμό σε υποθέσεις που αφορούν διαφορετικούς τομείς της οικονομίας; Αντίστοιχα, ζητούνται σαφέστερες προβλέψεις για τον ρόλο του νέου Κέντρου Συντονισμού και Τεχνογνωσίας της ΕΕΤΤ, καθώς και για τη συνεργασία του με τις υπόλοιπες εποπτικές αρχές.
Κρίσιμο το θέμα της στελέχωσης
Μια από τις δομές που δημιουργούνται στο πλαίσιο του νομοσχεδίου είναι το Κέντρο Συντονισμού και Τεχνογνωσίας στην ΕΕΤΤ. Αν και προορίζεται να αποτελέσει τον βασικό τεχνικό βραχίονα του νέου συστήματος, αρκετοί θεωρούν ότι το σχέδιο νόμου περιγράφει τις αρμοδιότητές του χωρίς να αποσαφηνίζει επαρκώς τον τρόπο με τον οποίο θα ασκεί τον συντονιστικό του ρόλο ή θα συνεργάζεται με τις υπόλοιπες αρχές.
Συνολικά, η κριτική που ασκείται είναι ότι το σχέδιο νόμου δημιουργεί νέες δομές, χωρίς όμως να αποσαφηνίζει με ποιο προσωπικό θα λειτουργήσουν. Η ενίσχυση της ΑΠΔΠΧ προβλέπεται να γίνει αρχικά μέσω κινητικότητας για δύο χρόνια, ενώ για το νέο Κέντρο Τεχνογνωσίας δεν προσδιορίζονται ούτε ο αριθμός ούτε οι ειδικότητες των επιστημόνων που θα το στελεχώσουν. Η εποπτεία της ΑΙ προϋποθέτει εξειδικευμένες δεξιότητες – από μηχανικούς λογισμικού και data scientists έως ειδικούς στην κυβερνοασφάλεια και την αξιολόγηση αλγορίθμων – γεγονός που εγείρει ερωτήματα για το κατά πόσο οι νέες δομές θα μπορέσουν να στελεχωθούν επαρκώς, σε μια περίοδο κατά την οποία τέτοια στελέχη σπανίζουν ακόμη και στην αγορά.
Το ερώτημα που θέτουν πολλοί εξ όσων συμμετέχουν στα σχόλια δεν είναι μόνο ποιες δομές θα δημιουργηθούν, αλλά αν μπορούν να λειτουργήσουν από την πρώτη ημέρα εφαρμογής του AI Act. Η διαβούλευση αναδεικνύει και μια σειρά λειτουργικών ζητημάτων που θα κρίνουν την εφαρμογή του νέου πλαισίου. Το νέο Μητρώο Συστημάτων ΑΙ του Δημοσίου προβλέπει την υποχρεωτική καταγραφή όλων των συστημάτων πριν από τη λειτουργία τους. Ωστόσο, παραμένουν ανοιχτά ζητήματα για τα πεδία καταχώρισης, τη διαδικασία επικαιροποίησης, τη διαλειτουργικότητα με άλλα πληροφοριακά συστήματα και τη σύνδεσή του με τις ευρωπαϊκές βάσεις δεδομένων.
Αντίστοιχα, ερωτήματα εγείρονται για το αν το προβλεπόμενο χρονοδιάγραμμα μπορεί να τηρηθεί, καθώς οι δημόσιοι φορείς καλούνται να καταχωρίσουν τα υφιστάμενα συστήματα πριν ακόμη εκδοθούν πολλές από τις εφαρμοστικές αποφάσεις που θα καθορίσουν τον τρόπο λειτουργίας του νέου μηχανισμού.
Το στοίχημα της καινοτομίας
Κοινός τόπος σχεδόν όλων των παρεμβάσεων είναι ότι η εφαρμογή του AI Act δεν πρέπει να εξελιχθεί σε τροχοπέδη για την ανάπτυξη της ελληνικής αγοράς τεχνητής νοημοσύνης. Το AI Regulatory Sandbox θεωρείται μία από τις σημαντικότερες προβλέψεις του νομοσχεδίου, καθώς μπορεί να προσφέρει στις νεοφυείς και μικρομεσαίες επιχειρήσεις τη δυνατότητα να αναπτύξουν και να δοκιμάσουν εφαρμογές σε ελεγχόμενο περιβάλλον.
Την ίδια στιγμή, όμως, εκφράζονται ανησυχίες ότι η πολυπλοκότητα του νέου πλαισίου, οι πολλαπλές διοικητικές διαδικασίες και η αβεβαιότητα ως προς τις αρμοδιότητες των εποπτικών αρχών ενδέχεται να αυξήσουν το κόστος συμμόρφωσης, ιδιαίτερα για μικρότερες επιχειρήσεις που δεν διαθέτουν εξειδικευμένα νομικά και κανονιστικά τμήματα.
