Τεχνητή νοημοσύνη και Δημόσιο Δίκαιο τελούν σε σχέση διαρκούς αλληλεπίδρασης. Στο πλαίσιο της ελληνικής έννομης τάξης, η αλληλεπίδραση αυτή εκδηλώθηκε ιδίως στο πεδίο του Γενικού Διοικητικού Δικαίου, την επιστήμη του οποίου απασχόλησε η προβληματική της έκδοσης αυτοματοποιημένων διοικητικών πράξεων με τη βοήθεια των ηλεκτρονικών υπολογιστών.[1] Το σχετικό ενδιαφέρον επικεντρώθηκε, κατά βάση, στην επίδραση της χρήσης (απλών) αλγοριθμικών συστημάτων Τεχνητής Νοημοσύνης στις διοικητικές διαδικασίες και στα αναφυόμενα εξ αυτής θεμελιώδη ζητήματα Συνταγματικού και Διοικητικού Δικαίου. Συγκεκριμένα, εγέρθηκαν από τη θεωρία αξιοπρόσεκτοι προβληματισμοί αναφορικά με το συνταγματικώς επιτρεπτό της έκδοσης διοικητικών πράξεων με την συνεπικουρία αλγορίθμων, κυρίως υπό το πρίσμα της δημοκρατικής αρχής και του Κράτους Δικαίου. Οι προβληματισμοί αυτοί συνάντησαν ακολούθως το δόγμα του Διοικητικού Δικαίου. Γεννήθηκε συναφώς η κρατούσα μέχρι σήμερα διάκριση των αυτοματοποιημένων διοικητικών πράξεων σε πλήρως και μερικώς αυτοματοποιημένες: Οι μερικώς αυτοματοποιημένες διοικητικές πράξεις παράγονται διά της αξιοποίησης, ανάλυσης και επεξεργασίας πολλαπλών δεδομένων των διοικουμένων, με τα οποία τροφοδοτούνται τα υπολογιστικά συστήματα της Διοίκησης. Κατόπιν μεσολάβησης του αρμόδιου υπαλλήλου, τα επεξεργασθέντα αυτά δεδομένα χρησιμοποιούνται για την κατάστρωση του διοικητικού συλλογισμού και την αποτύπωση αυτού στην εκδιδόμενη διοικητική πράξη. Τούτων διαφέρουν οι παραγόμενες σε πλήρως αυτοματοποιημένο περιβάλλον πράξεις, ήτοι αυτές για την έκδοση των οποίων δεν είναι απαραίτητη η παρεμβολή του υπαλλήλου αλλά αρκεί αποκλειστικά η αλγοριθμική ανάλυση και επεξεργασία για τη θέσπιση της σκοπούμενης ρύθμισης.[2] Αμφότερες οι κατηγορίες αυτές υπόκεινται σε κριτικό έλεγχο υπό τη σκοπιά των θεμελιωδών εγγυήσεων του Διοικητικού Δικαίου: Ζητήματα εν ευρεία εννοία συμμετοχής του διοικουμένου στην αυτοματοποιημένη διοικητική διαδικασία, ακρόασης αυτού προς της έκδοσης δυσμενούς για τα συμφέροντά του αυτοματοποιημένης διοικητικής πράξης, πληρότητας της αιτιολογίας μιας τέτοιας πράξης, καθώς και δικαστικού, σε τελική ανάλυση, ελέγχου αυτής, απετέλεσαν το κύριο αντικείμενο της επιστημονικής έρευνας.[3]
Νομοθετική κατοχύρωση του επιτρεπτού της έκδοσης ηλεκτρονικών διοικητικών πράξεων επήλθε ρητά στην ελληνική έννομη τάξη με το α. 12 του ν. 3979/2011[4], δυνάμει του οποίου “όλες οι διαδικασίες για την έκδοση διοικητικών πράξεων και λοιπών εγγράφων από τους φορείς του Δημοσίου, όπως η σύνταξη, η προώθηση για υπογραφή, η θέση υπογραφής, η χρέωση προς ενέργεια εισερχομένων εγγράφων, η εσωτερική διακίνηση, καθώς και η αρχειοθέτησή τους πραγματοποιούνται αποκλειστικά μέσω Τεχνολογιών Πληροφορικής και Επικοινωνιών (Τ.Π.Ε.), με χρήση εγκεκριμένης ηλεκτρονικής υπογραφής και εγκεκριμένης ηλεκτρονικής χρονοσφραγίδας”. Η εκτεταμένη ενσωμάτωση των νέων τεχνολογιών στη διοικητική διαδικασία και η συνεπακόλουθη επιβεβαίωση του επιτρεπτού της έκδοσης ηλεκτρονικών διοικητικών πράξεων είναι πλέον γεγονός. Επί τη βάσει της διάταξης αυτής, καθιερώθηκαν εν συνεχεία από το νομοθέτη μια σειρά από αυτοματοποιημένες διοικητικές διαδικασίες. Παρατίθενται ενδεικτικά στο παρόν οι ακόλουθες: Με τη διάταξη του α. 33 του ν. 4495/2017[5] προβλέπεται η ηλεκτρονική έκδοση οικοδομικών αδειών, με το α. 17 παρ. 7 του ν. 4670/2020[6] τυποποιείται η αυτοματοποιημένη έκδοση απόφασης συνταξιοδότησης, ενώ με το α. 6 της Α. 1162/19.10.2023[7] κατοχυρώνεται η έκδοση ψηφιακού αποδεικτικού φορολογικής ενημερότητας. Η αυτοματοποίηση της διοικητικής διαδικασίας για λόγους ταχύτητας και αποτελεσματικότητας της διοικητικής δράσης πρωταγωνιστεί πλέον στο δημόσιο τομέα της χώρας.
Άξιο μνείας συνιστά ιδιαίτερα το γεγονός πως το σύνολο των αυτοματοποιημένων διοικητικών πράξεων εκδίδεται μέχρι σήμερα κατά την άσκηση δέσμιας αρμοδιότητας της Διοίκησης.[8] Το εκάστοτε αλγοριθμικό σύστημα ελέγχει τη συνδρομή των κατά νόμο, απαραίτητων για την έκδοση της πράξης, προϋποθέσεων και σε περίπτωση κατάφασης αυτών, ύστερα από κατάλληλη ανάλυση και επεξεργασία των δεδομένων, προετοιμάζει (στην περίπτωση της μερικής αυτοματοποίησης) ή και προβαίνει το ίδιο (εν περιπτώσει πλήρους αυτοματοποίησης) στην παραγωγή της ρύθμισης με το περιεχόμενο που τάσσει το οικείο νομοθετικό καθεστώς για αυτήν. Θεωρείτο, δε, μέχρι πρότινος ως πάγια και ακλόνητη θέση στη θεωρία πως η διοικητική αυτοματοποίηση δεν είναι επιτρεπτή κατά την άσκηση της διακριτικής ευχέρειας της Διοίκησης.[9] Επιχειρηματολογείτο σχετικώς πως τα αλγοριθμικά συστήματα αδυνατούν να διενεργήσουν, πολύπλοκες ή μη, σταθμίσεις και να προβαίνουν στις αξιολογήσεις και εκτιμήσεις που απορρέουν από τους περί διακριτικής ευχέρειας κανόνες. Η αδιαμφισβήτητη αυτή θέση επιρρωνύεται και από αντίστοιχες νομοθετικές τάσεις εντός του ευρωπαϊκού χώρου. Ιδιαίτερου ενδιαφέροντος κρίνεται η διάταξη του α. 35α του γερμανικού Κώδικα Διοικητικής Διαδικασίας (Verwaltunsgverfahrensgesetz), βάσει της οποίας η έκδοση διοικητικής πράξης διά αυτόματων μέσων κατά την άσκηση της διακριτικής εξουσίας της Διοίκησης υπόκειται σε απόλυτη απαγόρευση.[10]
Την αντίληψη αυτή φαίνεται να ξεπερνάει πλέον η ίδια η πραγματικότητα. Οι κοσμογονικές εξελίξεις στο πεδίο της τεχνητής νοημοσύνης, με την εμφάνιση ιδιαίτερα εξελιγμένων συστημάτων (στη σχετική ορολογία αποτυπωμένων ως Generative/Deep Artificial Intelligence), ικανών να εκτελούν και τις πλέον απαιτητικές διεργασίες, μεταβάλλουν άρδην το σκηνικό. Εκτιμάται πως τα συστήματα αυτά είναι σε θέση να πραγματοποιούν εξόχως σύνθετες αυτοματοποιημένες διεργασίες, υποκαθιστώντας πλήρως τον ανθρώπινο παράγοντα και παράγοντας εφάμιλλο ή και μάλλον ανώτερο ποιοτικά αποτέλεσμα. Η εξελιγμένη τεχνητή νοημοσύνη δύναται να σταθμίζει, αξιολογεί και εν τέλει καταλήγει στη βέλτιστη λύση μεταξύ περισσότερων αντικρουόμενων μεταξύ τους επιλογών. Υπό το δεδομένο αυτό, έχει εκκινήσει σιγά σιγά στους κόλπους της νομικής κοινότητας μια συζήτηση σε σχέση με τη δυνατότητα των εξελιγμένων συστημάτων τεχνητής νοημοσύνης να προβαίνουν στην έκδοση αυτοματοποιημένων διοικητικών πράξεων διακριτικής ευχέρειας.[11] Η ραγδαία ανάπτυξη της τεχνητής νοημοσύνης καθιστά ασφαλή την εκτίμηση πως εντός των επόμενων ετών θα κατασκευαστούν άκρως εξελιγμένα λογισμικά, τα οποία θα αναπαράγουν με απόλυτη τελειότητα το σύνολο των ανθρωπίνων γνωστικών λειτουργιών, όπως είναι η μάθηση, ο σχεδιασμός και η δημιουργικότητα. Διακινδυνεύεται, συνεπώς, στη βιβλιογραφία ήδη η πρόβλεψη πως τέτοια, με ικανότητα ανθρώπινου νου, αλγοριθμικά συστήματα θα ενσωματωθούν μελλοντικά και στη Δημόσια Διοίκηση. Ο λόγος παρίσταται κάτι παραπάνω από προφανής: Η σημαντική ενίσχυση της ταχύτητας, αποτελεσματικότητας και πρακτικότητας της δράσης της. Εάν ήθελε υποτεθεί πως η βελτιωμένη εκδοχή της τεχνητής νοημοσύνης θα συνέβαλλε καθοριστικά στην περαιτέρω εξοικονόμηση διοικητικών πόρων, στην επιτάχυνση της διαδικασίας λήψης πολύπλοκων διοικητικών αποφάσεων καθώς και στη συρρίκνωση, έως πλήρη εξάλειψη, του περιθωρίου σφάλματος κατά την εξωτερίκευση της δεσμευτικής προς τον ιδιώτη βούλησής της με την έκδοση μονομερών διοικητικών πράξεων, μόνο περιορισμένες επιφυλάξεις θα μπορούσαν εκ πρώτης όψης πειστικά να εκφρασθούν προς την κατεύθυνση της απόρριψης της αξιοποίησης αυτής στο σύνολο του δημοσίου τομέα.
Τα εξελιγμένα συστήματα τεχνητής νοημοσύνης θα επεκτείνουν τη διοικητική αυτοματοποίηση κατεξοχήν στο πεδίο, όπου στη Διοίκηση αναγνωρίζεται εκ του νόμου περιθώριο δράσης. Εκεί όπου κατ’ αρχήν είναι αυτή ελεύθερη να διαμορφώσει το τελικό περιεχόμενο της βούλησής της και να ρυθμίσει μια έννομη σχέση επί τη βάσει ίδιων σταθμίσεων, εκτιμήσεων και αξιολογήσεων. Στο πεδίο αυτό θα εισέλθει δυναμικά ο αλγόριθμος και θα κληθεί, αξιοποιώντας την πλέον σύνθετη μορφή του αυτοματοποιημένου συλλογισμού, να εκδίδει, υποκαθιστώντας την αξιολογική κρίση του διοικητικού οργάνου, διοικητικές πράξεις διακριτικής ευχέρειας. Μια τέτοια εξέλιξη θα σηματοδοτούσε εκ των πραγμάτων σημαντικούς κινδύνους για τα δικαιώματα των διοικουμένων. Οι κίνδυνοι αυτοί φαντάζουν πολύ μεγαλύτεροι έναντι αυτών που ανακύπτουν κατά την έκδοση αυτοματοποιημένων διοικητικών πράξεων κατά την άσκηση δέσμιας αρμοδιότητας. Στην περίπτωση αυτή, το τελικό περιεχόμενο της πράξης προδιαγράφεται αυστηρά στο νόμο και οι βασικότεροι προβληματισμοί αναφορικά με την χρήση αυτοματοποιημένων μέσων εστίαζαν στη διασφάλιση των διαδικαστικών εγγυήσεων προ της οριστικής έκδοσης αυτής. Κατά την άσκηση, όμως, διακριτικής ευχέρειας, όπου η Διοίκηση διαθέτει ευρύ περιθώριο επιλογών, υποκείμενη μόνο σε δικαστικό έλεγχο της τήρησης των άκρων ορίων αυτής, με μια πρώτη ανάγνωση, η πλήρης υποκατάσταση του υπαλλήλου από σύστημα τεχνητής νοημοσύνης, δυνάμενο να επιλέγει αυτόνομα τον ενδεδειγμένο τρόπο δράσης στη συγκεκριμένη υπόθεση, γεννά σοβαρές ανησυχίες. Δε θα ήταν υπερβολή να λεχθεί πως οι αυτοματοποιημένες διοικητικές πράξεις θα αποτελέσουν στο μέλλον προνομιακό πεδίο δοκιμασίας του συνόλου των εγγυήσεων του Συνταγματικού και Διοικητικού Δικαίου που τάσσονται προς προστασία των δικαιωμάτων και εννόμων συμφερόντων των διοικουμένων στη διοικητική διαδικασία.
Η διαπίστωση αυτή επιβεβαιώνεται πανηγυρικά από τη θέση σε ισχύ της νεοπαγούς διάταξης του α. 4 του ν. 4961/2022[12], βάσει της οποίας “οι φορείς του δημόσιου τομέα κατά την έννοια της περ. α’ της παρ. 1 του άρθρου 14 του ν. 4270/2014 (Α’ 143) δύνανται, κατά την άσκηση των αρμοδιοτήτων τους, να χρησιμοποιούν συστήματα τεχνητής νοημοσύνης για τη διαδικασία λήψης ή την υποστήριξη της διαδικασίας λήψης μιας απόφασης ή την έκδοση πράξης, οι οποίες επηρεάζουν τα δικαιώματα ενός φυσικού ή νομικού προσώπου, μόνον εφόσον η χρήση αυτή προβλέπεται ρητά σε ειδική διάταξη νόμου που περιλαμβάνει κατάλληλες εγγυήσεις για την προστασία των δικαιωμάτων αυτών”. Με τη ρύθμιση αυτή, η οποία δεν έχει τύχει ακόμα ειδικότερης επεξεργασίας και εφαρμογής, ο Έλληνας νομοθέτης τάσσεται πλέον ανενδοίαστα υπέρ του επιτρεπτού της χρήσης της τεχνητής νοημοσύνης στη διοικητική διαδικασία, η οποία απολήγει στην έκδοση δυσμενούς για τον διοικούμενο πράξης. Φαίνεται πως το επιτρεπτό αυτό εκτείνεται, υπό την επιφύλαξη ρητής νομοθετικής πρόβλεψης, τόσο επί των μερικώς όσο και επί των πλήρως αυτοματοποιημένων διοικητικών διαδικασιών, ενώ προτεραιότητα του νομοθέτη συνιστά και η πρόβλεψη κατάλληλων δικαιοκρατικών εγγυήσεων, προκειμένου η αξιοποίηση της τεχνητής νοημοσύνης στο δημόσιο τομέα να μην αποβεί τελικώς βλαπτική για τα συμφέροντα των ιδιωτών.
Τις ανησυχίες για τον αντίκτυπο της χρήσης εξελιγμένων αλγοριθμικών συστημάτων στα θεμελιώδη δικαιώματα των πολιτών συμμερίσθηκε πρόσφατα και ο Ευρωπαίος νομοθέτης, εγκρίνοντας την Πράξη για Τεχνητή Νοημοσύνη (AI ACT), τον πρώτο Κανονισμό του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων αναφορικά με την χρήση συστημάτων τεχνητής νοημοσύνης.[13] Με τον Κανονισμό αυτόν τίθενται το πρώτον υπό απαγόρευση “μη αποδεκτά” συστήματα τεχνητής νοημοσύνης, τα οποία θεωρείται ότι αποτελούν ευθεία απειλή για τα δικαιώματα των πολιτών.[14] Αυξημένες υποχρεώσεις εποπτείας επιβάλλει ο Κανονισμός επί των “υψηλού κινδύνου” συστημάτων τεχνητής νοημοσύνης, τα οποία πρέπει να αξιολογούν και να ελαχιστοποιούν τους κινδύνους για τα δικαιώματα των πολιτών, να τηρούν αρχεία καταγραφής της χρήσης τους, να είναι διαφανή και ακριβή και να εποπτεύονται από ανθρώπους.[15] Οι πολίτες δικαιούνται αντιστοίχως να λαμβάνουν εξηγήσεις για τυχόν αποφάσεις που βασίστηκαν σε συστήματα “υψηλού κινδύνου” και επιδρούν στα δικαιώματά τους. Αξιοσημείωτη, προστατευτική των δικαιωμάτων των ιδιωτών, λειτουργία επιτελεί, μάλιστα, η υποχρέωση των δημοσίων φορέων να διενεργούν σχετική εκτίμηση των επιπτώσεων των συστημάτων υψηλού κινδύνου στις ατομικές ελευθερίες των αποδεκτών τους.[16] Η εκτίμηση συνίσταται σε περιγραφή των διαδικασιών του φορέα εφαρμογής, στις οποίες θα χρησιμοποιείται το σύστημα υψηλού κινδύνου, του χρονικού διαστήματος και της συχνότητας με την οποία πρόκειται να τίθεται σε λειτουργία αυτό, των κατηγοριών φυσικών προσώπων και ομάδων που ενδέχεται να επηρεάζονται από τη χρήση του εντός του συγκεκριμένου πλαισίου καθώς και σε περιγραφή της εφαρμογής προληπτικών μέτρων ανθρώπινης εποπτείας και αντιστοίχως αποκαταστατικών μέτρων που πρέπει να λαμβάνονται σε περίπτωση επέλευσης των κινδύνων.[17]
Αναφορικά με την προστασία των προσωπικών δεδομένων των διοικουμένων, με τα οποία θα τροφοδοτούνται οι φορείς τεχνητής νοημοσύνης κατά τη διαδικασία λήψης αυτοματοποιημένων διοικητικών αποφάσεων, ειδική ρύθμιση διαλαμβάνει ο Γενικός Κανονισμός για την Προστασία Δεδομένων[18]. Σύμφωνα με την παρ. 1 του α. 22 αυτού, “το υποκείμενο των δεδομένων έχει το δικαίωμα να μην υπόκειται σε απόφαση που λαμβάνεται αποκλειστικά βάσει αυτοματοποιημένης επεξεργασίας, συμπεριλαμβανομένης της κατάρτισης προφίλ, η οποία παράγει έννομα αποτελέσματα που το αφορούν ή το επηρεάζει σημαντικά με παρόμοιο τρόπο”. Βάσει της παρ. 3, “ο υπεύθυνος επεξεργασίας των δεδομένων εφαρμόζει κατάλληλα μέτρα για την προστασία των δικαιωμάτων, των ελευθεριών και των έννομων συμφερόντων του υποκειμένου των δεδομένων, τουλάχιστον του δικαιώματος εξασφάλισης ανθρώπινης παρέμβασης από την πλευρά του υπευθύνου επεξεργασίας, έκφρασης άποψης και αμφισβήτησης της απόφασης”. Τίθενται, συνεπώς, σαφή όρια και προϋποθέσεις ως προς τη νομιμότητα της επεξεργασίας δεδομένων προσωπικού χαρακτήρα με αυτοματοποιημένα μέσα της Δημόσιας Διοίκησης, τόσο σε επίπεδο παρέμβασης του υπευθύνου επεξεργασίας επί της οικείας διοικητικής διαδικασίας, όσο και ενεργού συμμετοχής του θιγόμενου ιδιώτη σε αυτήν, συμπεριλαμβανομένης και της δυνατότητας αυτού προς διοικητική και δικαστική αμφισβήτηση του τελικού, βλαπτικού για αυτόν, αποτελέσματος.
Η ζωηρή συζήτηση, που διεξάγεται στη θεωρία αναφορικά με την εκτεταμένη πλέον παρουσία της τεχνητής νοημοσύνης στις διοικητικές διαδικασίες, μεταφέρεται υπό αντίστοιχους όρους και στο πεδίο της δικαστικής απόφασης. Η ενσωμάτωση εξελιγμένων αλγορίθμων κατά τη διαμόρφωση των επιμέρους σταδίων του δικανικού συλλογισμού απασχολεί όλο και εντονότερα τον επιστημονικό διάλογο.[19] Ο καθορισμός των επακριβών ορίων και προυποθέσεων για τη λήψη δικαστικής απόφασης διά της προσφυγής σε αλγοριθμικά συστήματα θα αποτελέσει με μαθηματική ακρίβεια μείζον διακύβευμα των επόμενων ετών. Ευλόγως ζητήματα διαφάνειας, αμεροληψίας, ισότητας και αντικειμενικότητας κατά την παραγωγή του δικανικού συλλογισμού θα μονοπωλήσουν την προσοχή οιουδήποτε εγχειρήματος ένταξης της τεχνητής νοημοσύνης στο έργο του δικαστή. Καθίσταται ευκόλως αντιληπτό πως τέτοια ζητήματα δε θα ανακύψουν με ένταση κατά την απλή υποβοήθηση του δικαστικού έργου από αλγοριθμικά συστήματα. Περιπτώσεις όπως η απλή συλλογή της οικείας, κρίσιμης για την επίλυση της υπό κρίση διαφοράς, νομοθεσίας και νομολογίας, η κατηγοριοποίηση των δικαστικών αποφάσεων που κλήθηκαν στο παρελθόν να τάμουν αντίστοιχα ή παρεμφερή νομικά ζητήματα, ακόμα και η ίδια η εξ ολοκλήρου συγκρότηση του φακέλου της υπόθεσης από αλγορίθμους δεν χρήζουν ιδιαίτερης δογματικής επεξεργασίας.
Διαφορετικής φύσης προβληματισμούς εγείρει, αντίθετα, το ενδεχόμενο να επιφορτιστούν οι αλγόριθμοι με την τελική κρίση επί της αχθείσας διαφοράς, διαμορφώνοντας το διατακτικό της εκδιδόμενης απόφασης. Τούτο προϋποθέτει πως ο αλγόριθμος θα πρέπει, μεταξύ άλλων, να προβεί στις αναγκαίες σταθμίσεις επί των αναφυόμενων συγκρούσεων μεταξύ θεμελιωδών δικαιωμάτων, αρχών, αξιών ή και συμφερόντων, ώστε να ανεύρει, εκφέροντας όλως εξατομικευμένη κρίση, τη δίκαιη ισορροπία και να προκρίνει την προτεραιοποίηση κάποιων εξ αυτών έναντι των άλλων. Στις περιπτώσεις αυτές, όπως παρατηρεί προσφυώς και ο Σαρμάς, “οι σταθμίσεις απαιτούν βαθιά κατανόηση των δικαιικών αρχών που εφαρμόζονται, λήψη υπόψη του συγκεκριμένου, περίπλοκου κατά κανόνα, πραγματικού της υπόθεσης, και σεβασμό σε κριτήρια που διέπουν καθοριστικά τη συγκεκριμένη στάθμιση”.[20] Κατά πόσον, συνεπώς, η τεχνητή νοημοσύνη διαθέτει, υπό την παρούσα της μορφή, την ικανότητα να διατυπώνει αιτιολογημένη κρίση περί την επίτευξη της δίκαιης ισορροπίας, να επιλέγει, συμφώνως προς τα προτάγματα της αρχής της αναλογικότητας και της πρακτικής εναρμόνισης, την προσφορότερη μεταξύ των περισσότερων, εναλλακτικών και αντικρουόμενων μεταξύ τους, λύσεων και εν τέλει να υποκαταστήσει πλήρως τον ανθρώπινο δικανικό συλλογισμό, επιδέχεται διεξοδικής ανάλυσης, υπό το φως των συνταγματικών και εν γένει δικαιοκρατικών εγγυήσεων. Η σχεδιαζόμενη αλλαγή της ακυρωτικής δικονομίας του Συμβουλίου της Επικρατείας[21] προς την κατεύθυνση της εκτεταμένης ενσωμάτωσης των αλγορίθμων στο έργο του ακυρωτικού δικαστή επεκτείνει την σχετική προβληματική και στο πεδίο της διοικητικής δικαιοσύνης. Διαφαίνεται πως η επικείμενη τροποποίηση βασικών διαδικαστικών διατάξεων του ΠΔ 18/1989, με στόχο την ένταξη συστημάτων τεχνητής νοημοσύνης στη διαδικασία προπαρασκευής και έκδοσης της ακυρωτικής απόφασης, θα μεταβάλλει ριζικά την φυσιογνωμία της ακυρωτικής δίκης και θα γεννήσει νέους προβληματισμούς εν σχέσει προς τη δικαστική προστασία του προσφεύγοντος διοικουμένου.
Δημόκριτος Μπατσούλας
Δικηγόρος, Διδάκτωρ Δημοσίου Δικαίου (Tübingen), LL.M. (Tübingen)
Υποσημειώσεις:
[1] Βλ από την (ομολογουμένως περιορισμένη) ελληνική βιβλιογραφία επί της διοικητικής αυτοματοποίησης και της δογματικής της αυτοματοποιημένης διοικητικής πράξης ιδίως Γέροντα, Οι μηχανογραφημένες διοικητικές πράξεις, ΔιΔικ 4/1989, σελ. 746επ., του ιδίου, Η εφαρμογή του Αλγόριθμου στο διοικητικό δίκαιο. Μια πρώτη προσέγγιση, ΔιΔικ 5/2020, σελ. 705επ., Λαζαράτο, Νομική φύση και τύπος των αυτοματοποιημένων διοικητικών πράξεων, ΤοΣ 1990, σελ. 197επ., του ιδίου, Το δικαίωμα της προηγούμενης ακροάσεως του άρθρου 20 παρ. 2 Συντ. κατά την έκδοση διοικητικών πράξεων με τη βοήθεια ηλεκτρονικών υπολογιστών, ΝοΒ 1990, σελ. 427επ., Κουβαρά, Το παραδεκτό στη διοικητική δίκη. Η πρόσβαση στο δικαστή υπό το φως των άρθρων 20 παρ.1 του Συντάγματος και 6 παρ.1 της ΕΣΔΑ, 2021, σελ. 374επ.
[2] Λαζαράτος, Νομική φύση και τύπος των αυτοματοποιημένων διοικητικών πράξεων, ΤοΣ 1990, σελ. 200επ., ο ίδιος, Το δικαίωμα της προηγούμενης ακροάσεως του άρθρου 20 παρ. 2 Συντ. κατά την έκδοση διοικητικών πράξεων με τη βοήθεια ηλεκτρονικών υπολογιστών, ΝοΒ 1990, σελ. 431-433, Βρόντου, Το δικαίωμα προηγούμενης ακροάσεως στη φορολογική διαδικασία. Συγκριτική μελέτη ελληνικού και γερμανικού δικαίου, 2022, σελ. 365-367.
[3] Βλ. μεταξύ άλλων Βρόντου, Το δικαίωμα προηγούμενης ακροάσεως στη φορολογική διαδικασία. Συγκριτική μελέτη ελληνικού και γερμανικού δικαίου, 2022, σελ. 357επ., Νικολάκη, Ο δικαστικός έλεγχος της Διοίκησης στην εποχή του ψηφιακού κράτους, σε: Το βιώσιμο κράτος. Τιμητικός Τόμος για την Κατερίνα Σακελλαροπούλου, 2022, σελ. 35επ., Πρεβεδούρου, Η διοικητική διαδικασία ως παράγων ενδυνάμωσης του κράτους δικαίου, ΘΠΔΔ 6/2023, σελ. 601 (609επ.).
[4] Ν. 3979/2011 (ΦΕΚ 138/Α` 16.6.2011) <<Για την ηλεκτρονική διακυβέρνηση και άλλες διατάξεις>>.
[5] Ν. 4495/2017 (ΦΕΚ 167/Α’ 3.11.2017) <<Έλεγχος και προστασία του Δομημένου Περιβάλλοντος και άλλες διατάξεις>>.
[6] Ν. 4670/2020 (ΦΕΚ 43/Α` 28.2.2020) <<Ασφαλιστική μεταρρύθμιση και ψηφιακός μετασχηματισμός Εθνικού Φορέα Κοινωνικής Ασφάλισης (e-Ε.Φ.Κ.Α.) και άλλες διατάξεις>>.
[7] Αποδεικτικό Ενημερότητας άρθρου 12 του Κώδικα Φορολογικής Διαδικασίας (ΚΦΔ, N. 4987/2022, Α’ 206).
[8] Πρεβεδούρου, Η διοικητική διαδικασία ως παράγων ενδυνάμωσης του κράτους δικαίου, ΘΠΔΔ 6/2023, σελ. 601 (609), υποσ 63.
[9] Κυρίως επί τη βάσει του επιχειρήματος πως η διοικητική αυτοματοποίηση αποσκοπεί στη ρύθμιση/τυποποίηση (Standarisierung) ομοειδών περιπτώσεων διοικουμένων, επί των οποίων η ηλεκτρονική επεξεργασία των δεδομένων τους είναι ομοιόμορφη χωρίς ατομικές ιδιορρυθμίες, ενώ δε δύναται να εύρει εφαρμογή επί ζητημάτων που χρήζουν όλως εξατομικευμένης επεξεργασίας και κρίσης. Βλ. συναφώς από την πλούσια γερμανική βιβλιογραφία Lazaratos, Rechtliche Auswirkungen der Verwaltungsautomation auf das Verwaltungsverfahren, 1990 σελ. 219επ., Polomski, Der automatisierte Verwaltungsakt. Die Verwaltung an der Schwelle von der Automation zur Informations- und Kommunikationstechnik, 1993, σελ. 55επ., Tönsmeyer-Uzuner, Expertensysteme in der öffentlichen Verwaltung. Rechtliche Anforderungen an den Einsatz eines neuen behördlichen Handlungsinstrumentes, 2000, σελ. 210επ.
[10] <<Ein Verwaltungsakt kann vollständig durch automatische Einrichtungen erlassen werden, sofern dies durch Rechtsvorschrift zugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht.>> Άξια μνείας κρίνεται σχετικώς και η διάταξη του α. L-311-31-1 του Γαλλικού Κώδικα Σχέσεων μεταξύ Διοίκησης και Κοινού (CRPA), με την οποία τίθενται συγκεκριμένες προϋποθέσεις για τη νομιμότητα διοικητικής απόφασης ληφθείσας κατόπιν αλγοριθμικής επεξεργασίας δεδομένων των διοικουμένων: <<Sous réserve de l’application du 2° de l’article L. 311-5, une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande.>> Συναφώς Alhama, Vers une plus grande accessibilité des décisions rendues par les juridictions administratives, RFDA 2019, σελ. 695επ.
[11] Η προβληματική αυτή αντιμετωπίζεται με ιδιαίτερο ενδιαφέρον στους κόλπους της γερμανικής έννομης τάξης, όπου τα τελευταία χρόνια παρατηρείται ζωηρή επιστημονική παραγωγή επί των συναφών ζητημάτων. Βλ. από την πλούσια, εντελώς πρόσφατη, γερμανική βιβλιογραφία Eisenberger/Merli, Automatisierung, Algorithmen und künstliche Intelligenz in der öffentlichen Verwaltung. Eine Positionsbestimmung, JRP 2023, σελ. 25επ., Busche, Verwaltungsautomation 2.0. Automatisiert erlassene Verwaltungsakte im Bereich von Spielräumen, 2023, σελ. 195επ., Mund, Das Recht auf menschliche Entscheidung. Zu den verfassungsrechtlichen Vorgaben der technischen Erzeugung von Verwaltungsentscheidungen, 2022, σελ. 138επ., Pilniok, Administratives Entscheiden mit Künstlicher Intelligenz: Anwendungsfelder, Rechtsfragen und Regelungsbedarfe, JZ 2022, σελ. 1021 επ., Herold, Demokratische Legitimation automatisiert erlassener Verwaltungsakte, 2020, σελ. 214επ., Stelkens, Der vollständig automatisierte Erlass eines Verwaltungsakts als Regelungsgegenstand des VwVfG, σε: Hill/Kugelmann/Martini (εκδ.), Digitalisierung in Recht, Politik und Verwaltung, 2018, Nomos, σελ. 81 (111επ.).
[12] Ν. 4961/2022 (ΦΕΚ 146/Α’ 27.07.2022) <<Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις>>.
[13] Πρόταση Κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (Πράξη για την Τεχνητή Νοημοσύνη) και για την τροποποίηση ορισμένων νομοθετικών πράξεων της Ένωσης.
[14] Α. 5 της Πράξης για την Τεχνητή Νοημοσύνη.
[15] Α. 6επ. της Πράξης για την Τεχνητή Νοημοσύνη.
[16] Α. 9 παρ. 2 περ. β΄ της Πράξης για την Τεχνητή Νοημοσύνη.
[17] Α. 16επ. της Πράξης για την Τεχνητή Νοημοσύνη.
[18] Κανονισμός (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της οδηγίας 95/46/ΕΚ (Γενικός Κανονισμός για την Προστασία Δεδομένων).
[19] Βλ. μεταξύ άλλων Σαρμά, Το μέλλον της δικαστικής απόφασης σε εποχές τεχνητής νοημοσύνης, e-politeia, 6/2023, σελ. 136επ., Κανέλλο, Εφαρμογές Τεχνητής Νοημοσύνης στο δίκαιο και στη δικαστική πρακτική, 2021, σελ. 160επ., Nink, Justiz und Algorithmen. Über die Schwächen menschlicher Entscheidungsfindung und die Möglichkeiten neuer Technologien in der Rechtsprechung, 2021, σελ. 139επ., Συμεωνίδη, Τεχνητή Νοημοσύνη και Δικαιοσύνη, ΕφημΔΔ 4/2019, σελ. 462επ., Sayn, Connaître la production des juridictions ou prédire les décisions de justice?, Les cahiers de la justice 2019, σελ. 229επ.
[20] Σαρμάς, Είναι σήμερα εφικτή η λήψη δικαστικής απόφασης μέσω συστημάτων τεχνητής νοημοσύνης, https://www.syntagmawatch.gr (23.02.2024).
[21] Βλ. σχετικώς https://daily.nb.org/nomika-nea/pro-ton-pylon-simantikes-allages-stis-dikes-tou-symvouliou-epikrateias-i-prodikasia-to-paravolo-oi-anavoles-kai-o-algorithmos/.
