Μητρώο Τεχνητής Νοημοσύνης στο Δημόσιο: Η νέα υποχρέωση για υπουργεία και οργανισμούς

Η κυβέρνηση προχωρά στη θεσμοθέτηση του ενιαίου Μητρώου Συστημάτων Τεχνητής Νοημοσύνης, επιβάλλοντας την υποχρεωτική καταγραφή κάθε εφαρμογής AI πριν από την έναρξη λειτουργίας της στον δημόσιο τομέα. Η ρύθμιση, που περιλαμβάνεται στο άρθρο 21 του νέου νομοσχεδίου, στοχεύει στην πλήρη χαρτογράφηση της ψηφιακής ωριμότητας των υπουργείων και των ανεξάρτητων αρχών, δημιουργώντας για πρώτη φορά ένα πλαίσιο κεντρικής εποπτείας.

Η πρωτοβουλία αυτή αποτελεί το επόμενο βήμα για την εναρμόνιση της χώρας με τις επιταγές της Ευρωπαϊκής Ένωσης, έπειτα και από την πρόσφατη υπερψήφιση του νομοσχεδίου για την τεχνητή νοημοσύνη. Στο επίκεντρο της στρατηγικής βρίσκεται η ανάγκη για διαφάνεια και λογοδοσία, καθώς η χρήση αλγορίθμων επεκτείνεται πλέον σε κρίσιμους τομείς της δημόσιας διοίκησης.

Η υποχρεωτική καταγραφή στο άρθρο 21

Σύμφωνα με τη νέα διάταξη, κάθε δημόσιος φορέας υποχρεούται να δηλώνει τα συστήματα AI στην Ειδική Γραμματεία Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων. Η διαδικασία αυτή πρέπει να ολοκληρώνεται πριν από την παραγωγική λειτουργία της εφαρμογής, διασφαλίζοντας ότι το Υπουργείο Ψηφιακής Διακυβέρνησης διαθέτει πλήρη εικόνα των τεχνολογικών εργαλείων που χρησιμοποιούνται.

Η κυβέρνηση εκτιμά ότι το μητρώο θα λειτουργήσει ως εργαλείο χαρτογράφησης, επιτρέποντας τον εντοπισμό των αναγκών κάθε φορέα. Παράλληλα, η συγκέντρωση των στοιχείων αναμένεται να βοηθήσει στον αποτελεσματικότερο συντονισμό των έργων, αποφεύγοντας τις δαπανηρές επικαλύψεις μεταξύ διαφορετικών υπηρεσιών.

Οφέλη και προσδοκίες της αγοράς

Σύμφωνα με τις εκτιμήσεις έμπειρων στελεχών της πληροφορικής, η κεντρική εποπτεία μπορεί να λειτουργήσει ως καταλύτης για τη διάχυση βέλτιστων πρακτικών. Η δυνατότητα να γνωρίζει ένας φορέας τι έχει αναπτύξει ένας άλλος, ενισχύει τη συνεργασία και την επαναχρησιμοποίηση επιτυχημένων μοντέλων AI.

Επιπλέον, υποστηρίζεται ότι το μέτρο περιορίζει τον κίνδυνο ανεξέλεγκτης χρήσης εφαρμογών που θα μπορούσαν να επηρεάσουν τα δικαιώματα των πολιτών. Η δημιουργία ενός πλαισίου λογοδοσίας κρίνεται απαραίτητη, ειδικά όταν οι αλγόριθμοι εμπλέκονται σε διαδικασίες επιλογής προσωπικού ή στην παροχή κοινωνικών υπηρεσιών.

Οι επιφυλάξεις για τη γραφειοκρατία και τη διαφάνεια

Παρά τις θετικές προοπτικές, κοινωνικοί ερευνητές εκφράζουν προβληματισμό για το αν το μητρώο θα εξελιχθεί σε μια τυπική διοικητική διαδικασία. Το ερώτημα που παραμένει αναπάντητο είναι το επίπεδο δημόσιας πρόσβασης στα δεδομένα αυτά, ώστε οι πολίτες να γνωρίζουν πότε μια απόφαση βασίζεται σε αυτοματοποιημένα συστήματα.

Ανησυχία υπάρχει επίσης για την ταχύτητα υλοποίησης καινοτόμων έργων. Η υποχρέωση καταχώρισης πριν από τη λειτουργία ενδέχεται να επιβραδύνει πιλοτικές δοκιμές, σε μια περίοδο που η τεχνολογία εξελίσσεται με καταιγιστικούς ρυθμούς, όπως συμβαίνει και με το ψηφιακό μητρώο παροχών.

Η ανάγκη για ανεξάρτητο έλεγχο

Ένα κρίσιμο σημείο που επισημαίνουν αναλυτές στρατηγικής είναι η απουσία εξωτερικής επαλήθευσης. Το νομοσχέδιο προβλέπει ότι οι ίδιοι οι φορείς θα υποβάλλουν τα στοιχεία, χωρίς να καθορίζεται μηχανισμός που θα ελέγχει την ακρίβεια και την πληρότητα των δηλώσεων.

Χωρίς ένα σαφές πλαίσιο αξιολόγησης κινδύνου, το μητρώο κινδυνεύει να συγκεντρώσει ετερογενείς εφαρμογές χωρίς ουσιαστική κατηγοριοποίηση. Η επόμενη μέρα της δημόσιας διαβούλευσης θα δείξει αν θα υπάρξουν διορθωτικές κινήσεις που θα διασφαλίζουν την ουσιαστική εποπτεία των συστημάτων τεχνητής νοημοσύνης.