Επιτελική Σύνοψη Αλγοριθμικής Εκτίμησης Αντικτύπου (ΑΕΑ) του εργαλείου ΤΝ

Προοίμιο

Με αφετηρία την πεποίθηση ότι η Τεχνητή Νοημοσύνη (ΤΝ) μπορεί να συμβάλει αποφασιστικά στην αποτελεσματικότητα της δημόσιας διοίκησης μόνο εφόσον η χρήση της είναι αξιόπιστη και σύννομη, διενεργήθηκε Αλγοριθμική Εκτίμηση Αντικτύπου (ΑΕΑ) του εργαλείου ΤΝ που υποστηρίζει την τεκμηρίωση της αξιολόγησης της υψηλής απόδοσης των υπαλλήλων του δημόσιου τομέα, όπως ο χαρακτηρισμός αυτός ορίζεται στο άρθρο 13 και ελέγχεται από τις Επιτροπές Εποπτείας Αξιολόγησης του άρθρου 15 του ν. 4940/2022.

Η ΑΕΑ εκπονήθηκε σε συμμόρφωση με τις ρυθμίσεις του άρθρου  5 του ν. 4961/2022, που ίσχυε κατά τον χρόνο διενέργειάς της, με συμπληρωματική αξιοποίηση του Πλαισίου Διαχείρισης Κινδύνων Τεχνητής Νοημοσύνης (AI Risk Management Framework, AI RMF 1.0) του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας των ΗΠΑ (National Institute of Standards and Technology  (NIST), ενός διεθνώς αναγνωρισμένου μεθοδολογικού πλαισίου για τον εντοπισμό, την αξιολόγηση και τη διαχείριση των κινδύνων που σχετίζονται με τα συστήματα TN, παρέχοντας έναν δομημένο πλαίσιο για τον εντοπισμό και τη διαχείριση κινδύνων του συγκεκριμένου συστήματος ΤΝ.

Σε αυτό το πλαίσιο, το εργαλείο ΤΝ υποστηρίζει το έργο του Υπουργείου Εσωτερικών και των Επιτροπών Εποπτείας Αξιολόγησης, προσφέροντας ένα πρόσθετο, μη δεσμευτικό επίπεδο ανάλυσης.

Το έργο υλοποιείται από την Expertise France, σε συνεργασία με και για λογαριασμό του Υπουργείου Εσωτερικών στο πλαίσιο του έργου «Υποστήριξη της εφαρμογής του νέου συστήματος στοχοθεσίας και αξιολόγησης απόδοσης στην Ελλάδα (Ν. 4940/2022)», και εστιάζει στον ρόλο του εργαλείου ΤΝ στην τεκμηρίωση της αξιολόγησης ισχυρισμών για υψηλή απόδοση χρησιμοποιώντας παραδείγματα από τον πραγματικό κόσμο και προκαθορισμένα φίλτρα.

Ειδικότερα, το έργο αφορά ολοκληρωμένο σύστημα εκσυγχρονισμού και ποιοτικής αναβάθμισης των διαδικασιών στοχοθεσίας και αξιολόγησης απόδοσης, μέσω της ενσωμάτωσης τεχνολογιών αιχμής στην υφιστάμενη πληροφοριακή υποδομή. Το σύστημα έχει αμιγώς υποστηρικτικό/συμβουλευτικό χαρακτήρα, δεν λαμβάνει αυτοματοποιημένες αποφάσεις και δεν αντικαθιστά τη διοικητική κρίση των οργάνων.

Bασική λειτουργία του εργαλείου ΤΝ είναι ότι γίνεται αντικειμενικός έλεγχος της τεκμηρίωσης των προτάσεων αξιολόγησης δημοσίων υπαλλήλων υψηλής απόδοσης (ανάλυση τουλάχιστον 54.000 αρχικών περιπτώσεων, εκ των οποίων τουλάχιστον 4.000 αναγνωρίστηκαν ως πλήρως τεκμηριωμένες, 38.000 ως ανεπαρκείς και περίπου 12.000 εντάχθηκαν σε «γκρίζα ζώνη» προς περαιτέρω έλεγχο) και η δημιουργία εισηγήσεων (εκτίμηση και σύνοψη) των αξιολογήσεων.

Η παρούσα έκθεση αντιπροσωπεύει την τελική έκδοση της αρχικής ΑΕΑ που διεξήχθη πριν την έναρξη του έργου τον Ιούνιο του 2024, ενσωματώνοντας αναθεωρήσεις, βελτιώσεις και σχόλια που συλλέχθηκαν καθ’ όλη τη διάρκεια του κύκλου ζωής του έργου. Η έκθεση επικαιροποιείται περαιτέρω ενόψει της σταδιακής εφαρμογής των απαιτήσεων του Κανονισμού (ΕΕ) 2024/1689 (Κανονισμός για την ΤΝ) και του εθνικού εφαρμοστικού πλαισίου, διασφαλίζοντας τη συνεχή παρακολούθηση της συμμόρφωσης με τις απαιτήσεις της νομοθεσίας κατά τη  λειτουργία του εργαλείου. Στόχος της είναι να αναδείξει την αξία της υπεύθυνης διακυβέρνησης της ΤΝ, ιδίως στην υποστήριξη της κρίσης των Επιτροπών Εποπτείας Αξιολόγησης στο έργο τους, χωρίς να τις αντικαθιστά.

Η έκθεση συντάχθηκε από την Expertise France, η οποία παρέχει τεχνική υποστήριξη προς το Υπουργείο Εσωτερικών μέσω σχετικής σύμβασης με τη Reform and Investment Task Force (SG REFORM) της Ευρωπαϊκής Επιτροπής για την υλοποίηση του ίδιου έργου.

Επιτελική Σύνοψη

Η παρούσα Αλγοριθμική Εκτίμηση Αντικτύπου (ΑΕΑ) αφορά τη χρήση εργαλείου ΤΝ για την τεκμηρίωση της αξιολόγησης της υψηλής απόδοσης υπαλλήλων στο ελληνικό Δημόσιο. Κατά τα πορίσματα της εκτίμησης αυτής:

α) Το σύστημα σχεδιάστηκε με γνώμονα τις απαιτήσεις για  δικαιοσύνη, θεμιτή χρήση, την αντικειμενικότητα,  διαφάνεια και διασφάλιση της ανθρώπινης εποπτείας.

β) Σκοποί του συστήματος: Λαμβάνεται υπόψη ότι ο επιδιωκόμενος σκοπός του συστήματος είναι η υποβοήθηση, η τυποποίηση και η επιτάχυνση της αξιολόγησης 54.000 αναφορών τεκμηρίωσης απόδοσης ανά ετήσιο κύκλο. Εκτιμάται ότι το εργαλείο εξυπηρετεί το δημόσιο συμφέρον καθώς μειώνει δραστικά το διοικητικό βάρος, ενώ λαμβάνει υπόψη την ανάγκη για αντικειμενική αξιολόγηση.

γ) Τεχνικά χαρακτηριστικά και παράμετροι λειτουργίας: Το σύστημα λειτουργεί σε ασφαλές, ιδιωτικό περιβάλλον (Azure OpenAI GPT-4o) αποκλειστικά ως μοντέλο Επεξεργασίας Φυσικής Γλώσσας (NLP). Η λειτουργία του περιορίζεται στην ταξινόμηση κειμένων (classification) και τη δημιουργία συνόψεων (summarization) βάσει των κριτηρίων του άρθρου 13 του ν. 4940/2022. Δεν αποτελεί εργαλείο προβλεπτικής ανάλυσης, βιομετρικής ταυτοποίησης, συμπεριφορικής αξιολόγησης ή κατάρτισης προφίλ (profiling).

δ) Υποστηριζόμενες αποφάσεις και ανθρώπινη εποπτεία: Στο πλαίσιο λειτουργίας του συστήματος το εργαλείο λειτουργεί αυστηρά ως συμβουλευτικός – υποστηρικτικός μηχανισμός, παράγοντας μια εισήγηση (εκτίμηση και σύνοψη) προς υποβοήθηση του έργου των Επιτροπών Εποπτείας Αξιολόγησης (Ε.Ε.Α.). Οι Ε.Ε.Α. ενημερώνονται για τα στοιχεία που παράγονται από τη χρήση του εργαλείου αλλά διατηρούν την αρμοδιότητα και την ευθύνη διαμόρφωσης και διατύπωσης της τελικής κρίσης τους και της  λήψης των σχετικών αποφάσεων. Ως κρίσιμο θεσμικό ανάχωμα απέναντι στον κίνδυνο της άκριτης υιοθέτησης των αποτελεσμάτων του αλγορίθμου (automation bias), οι Επιτροπές έχουν τη νομική υποχρέωση (βάσει του άρθρου 15 παρ. 6 του ν. 4940/2022) να εγκρίνουν ή να διορθώνουν κάθε έκθεση αξιολόγησης με παράθεση πλήρους αιτιολογίας, είτε συντάσσονται με την εισήγηση είτε αποκλίνουν από αυτήν. Παράλληλα, διασφαλίζεται η ανθρώπινη λογοδοσία, δεδομένου ότι οι αξιολογούμενοι διαθέτουν την δυνατότητα υποβολής ενστάσεως ενώπιον των Επιτροπών Εποπτείας Αξιολόγησης κατά το άρθρο 14 του ν. 4940/2022,  καθώς και τα λοιπά προβλεπόμενα διοικητικά και ένδικα βοηθήματα.

ε) Κατηγορίες δεδομένων και ελαχιστοποίηση: Όπως διαπιστώθηκε, η διαχείριση και επεξεργασία των προσωπικών δεδομένων διακρίνεται σε αυστηρά οριοθετημένα στάδια. Η άντληση των δεδομένων γίνεται μέσω API από την πλατφόρμα «Απογραφή» και το σύστημα ανακτά αποκλειστικά το «περίγραμμα θέσης» χωρίς τους κωδικούς υπαλλήλων και οργανικών θέσεων. Πριν από την οποιαδήποτε εισαγωγή ελεύθερου κειμένου στο μοντέλο ΤΝ, τα δεδομένα υφίστανται προ-επεξεργασία σε απομονωμένο περιβάλλον, μέσω εξειδικευμένων εργαλείων (όπως η τεχνολογία textPII και το Microsoft Presidio), για τον εντοπισμό και την αφαίρεση κάθε στοιχείου που επιτρέπει την ταυτοποίηση. Κατά συνέπεια, σε κανένα στάδιο της επεξεργασίας μέσω του συστήματος ΤΝ δεν εισάγονται προσωπικά δεδομένα, γεγονός που περιορίζει ουσιωδώς τους σχετικούς κινδύνους. Η επεξεργασία διενεργείται με εφαρμογή της αρχής της προστασίας δεδομένων ήδη από τον σχεδιασμό και των κατάλληλων μέτρων του ΓΚΠΔ.

στ) Κίνδυνοι και μέτρα μετριασμού: Κατά τη διενέργεια της εκτίμησης αντικτύπου διαπιστώθηκε ότι το σύστημα έχει σχεδιαστεί με χαμηλή ανοχή στον κίνδυνο (low risk tolerance). Ο κίνδυνος αυτοματοποιημένης προκατάληψης (automation bias) περιορίζεται μέσω της σήμανσης των αλγοριθμικών αποτελεσμάτων ως παραγόμενων από ΤΝ, ώστε τα αρμόδια όργανα να γνωρίζουν την προέλευσή τους και της νομικής υποχρέωσης των Επιτροπών για πλήρη αιτιολογία κατά το άρθρο 15 παρ. 6 του ν. 4940/2022. Οι κίνδυνοι μεροληψίας/διακρίσεων περιορίζονται με την αφαίρεση ταυτοποιητικών και δημογραφικών στοιχείων, ενώ η τεχνική ρύθμιση του μοντέλου ευνοεί τα εσφαλμένα θετικά (false positives) έναντι των εσφαλμένων αρνητικών (false negatives), δηλαδή προτιμά την προώθηση μιας υπόθεσης στον ανθρώπινο έλεγχο έναντι του αποκλεισμού της. Στόχος είναι η μείωση του κινδύνου εσφαλμένου αποκλεισμού δυνητικά δικαιούχων υπαλλήλων.

ζ) Προσδοκώμενο όφελος έναντι κινδύνων: Η αυτοματοποίηση του αρχικού ελέγχου χιλιάδων αναφορών προσφέρει ένα συντριπτικό διοικητικό όφελος ταχύτητας, ισότητας και αντικειμενικότητας, το οποίο υπερτερεί σαφώς των χαμηλών και μετριασμένων υπολειπόμενων κινδύνων.

Συμπερασματικά, ο συνολικός εκτιμώμενος κίνδυνος αξιολογείται ως χαμηλός και η τελική εκτίμηση ως προς τη νομιμότητα, τον θεμιτό χαρακτήρα, την ανάπτυξη και χρήση  του συστήματος είναι θετική. Το σύστημα κρίνεται ασφαλές, εναρμονισμένο με το ισχύον νομικό πλαίσιο (ΓΚΠΔ, Κανονισμός για την ΤΝ, Εθνική Νομοθεσία) και εξαιρετικά επωφελές για την ελληνική Δημόσια Διοίκηση.