Η ανθεκτικότητα των κλασικών διαδικαστικών εγγυήσεων: αναβάθμιση του άρθρου 17 Κώδικα Διοικητικής Διαδικασίας (ΣτΕ 1206/2024, ΣτΕ 1206)
8. Οι κρίσιμες παραδοχές που συνάγονται από την παραπάνω σκέψη συνοψίζονται ως εξής:
i. O ακυρωτικός έλεγχος ατομικής διοικητικής πράξης εκδιδόμενης εν όλω ή εν μέρει βάσει ηλεκτρονικής αυτοματοποιημένης διαδικασίας δεν συνάπτεται με τηντεχνολογική αρτιότητα του οικείου λογισμικού ή του υλικού εξοπλισμού που χρησιμοποιήθηκε στη διαδικασία έκδοσής της, αλλά με τηνεν γένει νομιμότητα της διοικητικής πράξης, δηλαδή, με την ορθή ερμηνεία και εφαρμογή των νομίμων προϋποθέσεων του κανόνα δικαίου που διέπει την έκδοσή της.
ii. Η υποχρέωση της Διοίκησης να αιτιολογεί τις ατομικές αποφάσεις της αποτελεί συστατικό στοιχείο του κράτους δικαίου συναπτόμενη με τις αρχές της διαφάνειας και της νομιμότητας της διοικητικής δράσης, αλλά και της αποτελεσματικής δικαστικής προστασίας. Eπομένως, πρόκειται για υποχρέωση συνταγματικής περιωπής.
iii. Tην υποχρέωση αιτιολόγησης εξειδικεύει το άρθρο 17 παρ. 1 του Κώδικα Διοικητικής Διαδικασίας (ν. 2690/1999, Α΄ 45), το οποίο θεσπίζει τον γενικό κανόνα ότιη ατομική διοικητική πράξη πρέπει να περιέχει αιτιολογία, η οποία να περιλαμβάνει τη διαπίστωση της συνδρομής των κατά νόμο προϋποθέσεων για την έκδοσή της.
iv. Σε περίπτωση αμφισβήτησης της νομιμότητας ατομικής διοικητικής πράξης εκδοθείσας εν όλω ή εν μέρει βάσει αυτοματοποιημένης επεξεργασίας δεδομένων, πρέπει να προκύπτουν από την εκδιδόμενη επί της σχετικής ενστάσεως [ενδικοφανούς προσφυγής] απόφαση τόσο τα κρίσιμα στάδια των μαθηματικών υπολογισμών στους οποίους προέβη η Αρχή, όσο και τα πραγματικά στοιχεία (μεταβλητές) που ελήφθησαν συναφώς υπόψη, ώστε αφενός μεν ο διοικούμενος να είναι σε θέση να διαπιστώσει εάν τηρήθηκαν στην περίπτωσή του οι προβλεπόμενες από τους οικείους κανόνες δικαίου προϋποθέσεις εξέτασής της, αφετέρου δε ο δικαστής να είναι σε θέση να ασκήσει αποτελεσματικώς τον σχετικό δικαστικό έλεγχο. Στο σημείο αυτό, ο Έλληνας δικαστής εμπνέεται από τον γαλλικό κώδικα των σχέσεων της Διοίκησης και του κοινού καθώς και τη σχετική νομολογία του Conseil constitutionnel.
9. Περαιτέρω, χωρίς να διατυπώνει αυτοτελή διαταγή (injonction) προς τη Διοίκηση, δυνατότητα που δεν προβλέπεται ευθέως στο ελληνικό δικονομικό σύστημα, ο δικαστής την καθοδηγεί με ακρίβεια μέσω του σκεπτικού της ακυρωτικής απόφασής του, ως προς τα στοιχεία που πρέπει να περιλαμβάνει η αιτιολογία πράξεων που εκδίδονται βάσει αυτοματοποιημένης επεξεργασίας δεδομένων, διευκολύνοντας έτσι τη συμμόρφωσή της. Οι παραπάνω παραδοχές και οδηγίες καλύπτουν τη χρήση όχι μόνο μαθηματικού τύπου στο πλαίσιο μιας αυτοματοποιημένης ηλεκτρονικής διαδικασίας αξιολόγησης προσωπικών δεδομένων, αλλά και οποιουδήποτε προωθημένου τεχνολογικού μέσου στη διαδικασία έκδοσης διοικητικών πράξεων.
10. Η απόφαση ΣτΕ 1206/2024, παρά τη μικρή πρακτική εμβέλεια του αντικειμένου της συγκεκριμένης δίκης, αναδεικνύει την προσαρμογή των θεμελιωδών εννοιών και αρχών του διοικητικού δικαίου στις εξελίξεις που οφείλουν να καλύψουν, εν προκειμένω, τις τεχνολογικές. Καθίσταται σαφές ότι οι κλασικές αυτές έννοιες και αρχές διακρίνονται για τη στιβαρότητα, την ευελιξία και την ανθεκτικότητά τους. Μάλιστα, η ευελιξία αυτή δεν σημαίνει ανεξέλεγκτη και απεριόριστη ρευστοποίηση του περιεχομένου τους που θα απειλούσε να τις απονευρώσει, να τις αποδυναμώσει, να τις απαξιώσει ή ακόμη και να τις διαστρεβλώσει. Ο δογματικός πυρήνας τους διατηρείται αναλλοίωτος: τήρηση του πλέγματος νομιμότητας, εξυπηρέτηση του δημόσιου συμφέροντος, δηλαδή του κοινού καλού, με τα αναγκαία προνόμια δημόσιας εξουσίας και προστασία των ατομικών δικαιωμάτων. Η υποχρέωση αιτιολόγησης των διοικητικών πράξεων, ανεξαρτήτως των τεχνολογικών μέσων έκδοσής τους, αποτελεί χαρακτηριστική περίπτωση τέτοιας αρχής. Η δυναμική και απρόβλεπτη πραγματικότητα υπάγεται, μέσω αυτών, αφενός, στο δίκαιο και, αφετέρου, στον δικαστικό έλεγχο, που συνιστούν τα θεμέλια της αρχής του κράτους δικαίου. Άλλωστε, υπέρτατο δικαιοκρατικό αντίβαρο έναντι των κινδύνων και των ενδεχόμενων αυθαιρεσιών από την πλήρη αυτοματοποίηση της διοικητικής διαδικασίας είναι πάντοτε ο δικαστικός έλεγχος [18]. Στο πνεύμα αυτό της προστασίας των ιδιωτών έναντι των νέων τεχνολογιών που χρησιμοποιεί η Διοίκηση, ιδιαίτερης μνείας χρήζει η απόφαση ΣτΕ 497/2021, με την οποία το Γ΄ Τμήμα προστάτευσε τον ιδιώτη, με το σκεπτικό ότι η αρχή της χρηστής διοίκησης στον τομέα της ηλεκτρονικής διακυβέρνησης επιβάλλει στη Διοίκηση ουσιώδεις υποχρεώσεις, συνιστάμενες, κατ’ αρχήν, στην πρόσδοση στα πληροφοριακά συστήματα της μεγαλύτερης, κατά το δυνατόν, «αντιληπτικότητας, χρηστικότητας, κατανοησιμότητας και στιβαρότητας». Η απόφαση παραπέμπει στην οδηγία 2016/2102/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, για την προσβασιμότητα των ιστότοπων και των εφαρμογών για φορητές συσκευές των οργανισμών του δημόσιου τομέα (ΕΕ 2016, L 327). Τέλος, επιβάλλεται να τονιστεί ότι το Συμβούλιο της Επικρατείας έχει «προειδοποιήσει» ήδη εδώ και μια δεκαετία περίπου ότι το δίκαιο δεν υποχωρεί απέναντι στην τεχνολογία. Από την απόφαση ΣτΕ 873/2024 (με παραπομπή σε περαιτέρω νομολογία) συνάγεται η εξής αρχή: “τα τεχνολογικά μέσα της Διοίκησης πρέπει να εξελίσσονται και να προσαρμόζονται αναλόγως, ώστε να εξυπηρετούν τις ανάγκες της ορθής και αποτελεσματικής εφαρμογής του εκάστοτε προβλεπόμενου κανονιστικού πλαισίου, το οποίο καλούνται να υπηρετήσουν, και όχι το τελευταίο να ερμηνεύεται και να εφαρμόζεται ενόψει των περιορισμών που προκύπτουν από τις υφιστάμενες τεχνικές ρυθμίσεις και δυνατότητες των ηλεκτρονικών συστημάτων της Διοίκησης (πρβλ. ΣτΕ 1445/2016 επταμ., 330/2018 επταμ., 1098/2023)”.
Υποσημειώσεις
[1] Ν. Νικολάκης, Ο Δικαστικός Έλεγχος της Διοίκησης στην Εποχή του Ψηφιακού Κράτους, εις Το βιώσιμο κράτος. Τιμητικός Τόμος για την Κατερίνα Σακελλαροπούλου, Εκδ. Σάκκουλα, 2022, σ. 35.
[2] Της 8ης Φεβρουαρίου 1873 του Tribunal des conflits: «la responsabilité, qui peut incomber à l’État, pour les dommages causés aux particuliers par le fait des personnes qu’il emploie dans le service public, ne peut être régie par les principes qui sont établis dans le Code civil, pour les rapports de particulier à particulier»
[3] ΔΕΚ της 5ης Φεβρουαρίου 1963, 26/62, EU:C:1963:1 (αίτηση του Tariefcommissie, ολλανδικού διοικητικού δικαστηρίου που δικάζει σε τελευταίο βαθμό προσφυγές επί φορολογικών θεμάτων)
[4] ΔΕΚ της 15ης Ιουλίου 1964, 6/64, EU:C:1964:66 (Giudice Conciliatore του Μιλάνου)
[5] Βλ. διεξοδικά P. Lazaratos, Rechtliche Auswirkungen der Verwaltungsautomation auf das Verwaltungsverfahren, Duncker & Humblot, Berlin, 1989.
[6] Και η ελληνική Διοίκηση χρησιμοποιεί τα πληροφοριακά συστήματα στα πεδία της φορολογίας, της κοινωνικής ασφάλειας, της δημόσιας υγείας. Γενικά οι αυτοματοποιημένες πράξεις που εκδίδονται ηλεκτρονικά, χωρίς τη μεσολάβηση δημοσίων υπαλλήλων, είναι σχετικά λίγες και η έκδοσή τους προϋποθέτει α) ηλεκτρονική αίτηση με την οποία ο ενδιαφερόμενος τροφοδοτεί το πληροφοριακό σύστημα με τα στοιχεία που αντιστοιχούν στις νόμιμες προϋποθέσεις έκδοσης της πράξης και β) ειδικό λογισμικό, δηλαδή τον αλγόριθμο, που εξετάζει τη συνδρομή των νόμιμων προϋποθέσεων και εκδίδει αυτοματοποιημένα θετική ή αρνητική ψηφιακή πράξη. Με τον Ν 3979/2011, Για την ηλεκτρονική διακυβέρνηση (ΦΕΚ Α΄ 138), προβλέφθηκε ως δυνατότητα η έκδοση «ηλεκτρονικών» διοικητικών πράξεων, οι οποίες φέρουν προηγμένη ηλεκτρονική υπογραφή και ασφαλή χρονοσήμανση και έχουν την ίδια νομική ισχύ με τα έγγραφα που φέρουν ιδιόχειρη υπογραφή και σφραγίδα. Με τον Ν 4495/2017, Έλεγχος και προστασία του δομημένου περιβάλλοντος (ΦΕΚ Α΄ 167), όπως τροποποιήθηκε επανειλημμένως, προσφάτως δε από τον Ν. 5131/2024, προβλέφθηκε η ηλεκτρονική έκδοση οικοδομικών αδειών (άρθρα 33 και 34). Περαιτέρω, στον Ν 4727/2020, Ψηφιακή Διακυβέρνηση (Ενσωμάτωση στην Ελληνική Νομοθεσία της Οδηγίας (ΕΕ) 2016/2102 και της Οδηγίας (ΕΕ) 2019/1024) Ηλεκτρονικές Επικοινωνίες (Ενσωμάτωση στο Ελληνικό Δίκαιο της Οδηγίας (ΕΕ) 2018/1972) και άλλες διατάξεις (ΦΕΚ Α΄ 184), προβλέπεται ότι όλες οι διαδικασίες για τη διαχείριση δημοσίων εγγράφων από τους φορείς του δημόσιου τομέα, όπως η σύνταξη, η προώθηση για υπογραφή, η θέση υπογραφής, η έκδοση, η χρέωση προς ενέργεια εισερχομένων εγγράφων, η εσωτερική και η εξωτερική διακίνηση, η πρωτοκόλληση, καθώς και η αρχειοθέτησή τους πραγματοποιούνται αποκλειστικάμέσω ΤΠΕ. Ειδικότερα, τα ηλεκτρονικά δημόσια έγγραφα παράγονται είτε πλήρως αυτοματοποιημένα μέσω ειδικού πληροφοριακού συστήματος που συνθέτει κατάλληλα στοιχεία δεδομένων, είτε μέσω ηλεκτρονικής εφαρμογής γραφείου, είτε μέσω ψηφιοποίησης έντυπου εγγράφου και φέρουν: α) εγκεκριμένη ηλεκτρονική χρονοσφραγίδα και β) είτε την εγκεκριμένη ηλεκτρονική σφραγίδα του φορέα είτε την εγκεκριμένη ηλεκτρονική υπογραφή του αρμόδιου οργάνου. Βλ. και Η. Κουβαρά, Το παραδεκτό στη διοικητική δίκη. Η πρόσβαση στο δικαστή υπό το φως των άρθρων 20 παρ.1 του Συντάγματος και 6 παρ.1 της ΕΣΔΑ, Νομική Βιβλιοθήκη, 2021, σ. 374.
[7]«Ein Verwaltungsakt kann vollständig durch automatische Einrichtungen erlassen werden, sofern dies durchRechtsvorschriftzugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht».
[8] Απλουστευτικά και σχηματικά αναφέρεται ότι ο αλγόριθμος είναι μια πεπερασμένη σειρά ενεργειών, αυστηρά καθορισμένων και εκτελέσιμων σε πεπερασμένο χρόνο, που στοχεύουν στην επίλυση ενός προβλήματος, δηλαδή μια συστηματική διαδικασία αριθμητικών χειρισμών, αποτελεί δε τη βάση και της Τεχνητής Νοημοσύνης (ΤΝ), καθώς τροφοδοτούμενος με δεδομένα, μέσα από την κατάλληλη υπολογιστική διαδικασία, δημιουργεί ένα νέο επιθυμητό αποτέλεσμα. Για τα προβλήματα διαφάνειας που δημιουργεί η χρήση των αλγορίθμων στη διοικητική διαδικασία, βλ. E. Mouriesse, L’opacité des algorithmes et la transparence administrative, RFDA 2019, σ. 45. Για τη Γερμανία, βλ. U. Schliesky, Digitalisierung des Verwaltungsverfahrens, W. Kahl/M. Ludwigs (Hg.), HVwR, IV, 2022, § 113, ο οποίος παρουσιάζει, αφενός, τα ενωσιακά και συνταγματικά ερείσματα της διαμόρφωσης της ψηφιακής διαδικασίας που αποδυναμώνει την κλασική γερμανική διάκριση μεταξύ οργάνωσης και διαδικασίας και, αφετέρου, τα προβλήματα ένταξης της τεχνητής νοημοσύνης, επισημαίνει δε την ανάγκη θέσπισης νέων κανόνων προς αντικατάσταση πολλών παρωχημένων ρυθμίσεων του κώδικα διοικητικής διαδικασίας. Για την εφαρμογή της τεχνητής νοημοσύνης στη λήψη της δικαστικής απόφασης, βλ. την ορθολογική και αντικειμενική προσέγγιση του Προέδρου Ι. Σαρμά, Το μέλλον της δικαστικής απόφασης σε εποχές τεχνητής νοημοσύνης, e-politeia, τεύχος 6/2023, σ. 136. Για τη σχετική συζήτηση στη Γαλλία, βλ., ενδεικτικά, J.-M. Sauvé, Le juge administratif et l’intelligence artificielle, intervention du 20 avr. 2018 lorsde Conférence des présidents des juridictions administratives, κατά τον οποίον, ο νομικός συλλογισμός είναι υπερβολικά ανθρώπινος ώστε η έννοια μιας δικαστικής απόφασης να μπορεί να προβλεφθεί από έναν αλγόριθμό όσο ισχυρός και αν είναι. Την άποψη αυτή συμμερίζεται σε μεγάλο βαθμό το Conseil d’État (βλ. και B. Stirn, Premières réflexions sur le juge administratif et le droit prédictif, APD, 2018, t. 60,σ. 218 : « Il existe en outre une irréductible singularité du procès administratif qu’aucun algorithme ne saurait prétendre remplacer ». M. Guyomar, Le point de vue du juge, in La justice prédictive, Dalloz 2018, σ. 98 : « Je ne crois pas que l’intelligence artificielle puisse nous aider en quoi que ce soit à apprécier la validité d’une norme »). Η συντριπτική πλειονότητα των θεωρητικών είναι της ίδιας άποψης (ενδεικτικά Y. Meneceur, Quel avenir pour la “justice prédictive” ?, JCP févr. 2018, n° 7, 190· L.-M. Augagneur, D’où jugez-vous ?, JCP mars 2018, n° 13, 341· I. Sayn, Connaître la production des juridictions ou prédire les décisions de justice ?, Les cahiers de la justice, 2019. 229). Βλ. και F. Alhama, Vers une plus grande accessibilité des décisions rendues par les juridictions administratives?,RFDA 2019, σ. 695.
[9] Y. Hermstrüwer, Artificial Intelligence and Administrative Decisions under Uncertainty, in T. Wischmezer & T. Radmacher (ed.), Regulating Artificial Intelligence, Springer Nature (2020), σ. 199-223.
[10] Βλ. διεξοδικά για τα ζητήματα αυτά Λ. Μήτρου, Μπορεί ο αλγόριθμος να διοικεί; Τεχνητή νοημοσύνη και διοίκηση: μια όχι και τόσο προφανής σχέση, εις Λ. Μήτρου (επιμ.), Μπορεί ο αλγόριθμος…Πανεπιστημιακές εκδόσεις Κρήτης, 2023, σ. 235.
[11] Aναλυτικά Μ. Martini, Digitalisierung der Verwaltung, in W. Kahl/M. Ludwigs (Hg.), HVwR, I, 2021, § 28, ο οποίος εξετάζει τις προκλήσεις που θέτει η ΤΝ για τη δημοκρατική νομιμοποίηση και το κράτος δικαίου καθώς και τις επιταγές ελέγχου που απορρέουν από την έννομη τάξη. Για μια πανοραμική θεώρηση του νέου δικαίου της τεχνητής νοημοσύνης στις πολλαπλές εφαρμογές της, βλ. Σπ. Βλαχόπουλου, Το «εγωιστικό» γονίδιο του δικαίου και το δίκαιο της τεχνητής νοημοσύνης. Από τον ανθρωποκεντρισμό στον οικοκεντρισμό και στους έξυπνους αλγόριθμους, Εκδ. Ευρασία, 2023, σ. 85 επ., με πλούσιες βιβλιογραφικές παραπομπές.
[12] Ε. Πρεβεδούρου, Η διοικητική διαδικασία ως παράγων ενδυνάμωσης του κράτους δικαίου, ΘΠΔΔ 2023, σ. 601 επ.
[13] Βλ. ιδίως τις αναλύσεις στα ακόλουθα κεφάλαια της μελέτης «Ο δικαστικός έλεγχος της νομιμότητας ατομικών διοικητικών πράξεων εκδιδόμενων μέσω ηλεκτρονικώς αυτοματοποιημένης επεξεργασίας δεδομένων. Σχόλια στην απόφαση ΣτΕ 1206/2024», www.constitutionalism.gr : Α. «Ιδιομορφίες» της παραγωγής και της διαδικασίας έκδοσης των ατομικών διοικητικών πράξεων καθώς και των «συντεταγμένων» του δικαστικού ελέγχου της νομιμότητάς τους σύμφωνα με τα «προτάγματα» του σύγχρονου Κράτους Δικαίου και Β. Συμπεράσματα με βάση την κανονιστική ιδιοσυστασία του νομικού συλλογισμού και ιδίως του δικανικού συλλογισμού
[14] Άρθρο L-311-3-1 του CRPA: «Sous réserve de l’application du 2° de l’article L. 311-5, une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande.
Les conditions d’application du présent article sont fixées par décret en Conseil d’Etat.
Άρθρο R-311-3-1 του CRPA: L’administration communique à la personne faisant l’objet d’une décision individuelle prise sur le fondement d’un traitement algorithmique, à la demande de celle-ci, sous une forme intelligible et sous réserve de ne pas porter atteinte à des secrets protégés par la loi, les informations suivantes : 1° Le degré et le mode de contribution du traitement algorithmique à la prise de décision; 2° Les données traitées et leurs sources; 3° Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l’intéressé ; 4° Les opérations effectuées par le traitement». Για τα προβλήματα διαφάνειας που δημιουργεί η χρήση των αλγορίθμων στη διοικητική διαδικασία, βλ. E. Mouriesse, L’opacité des algorithmes et la transparence administrative, ό.π., σ. 45.
[15] Πρόκειται για απόρρητα που ανάγονται στις συσκέψεις της κυβέρνησης και των αρμόδιων αρχν της εκτελεστικής εξουσίας, στην εθνική άμυνα, στην εξωτερική πολιτική της χώρας, στην κρατική ασφάλεια, στην ασφάλεια των συστημάτων πληροφόρησης των πολιτών, στο νόμισμα, σε ένδικες διαδικασίες κ.λπ.
[16] Cons. const., décision n° 2018-765 DC, du 12 juin 2018. Περαιτέρω, το Δικαστήριο απηύθυνε προειδοποίηση γιατηχρήση αλγορίθμων αυτοοργανούμενης μάθησης: : « Ne peuvent être utilisés, comme fondement exclusif d’une décision administrative individuelle, des algorithmes susceptibles de réviser eux-mêmes les règles qu’ils appliquent, sans le contrôle et la validation du responsable du traitement».
[17] “…(2) Einer Begründung bedarf es nicht,
….
- wenn die Behörde gleichartige Verwaltungsakte in größerer Zahl oder Verwaltungsakte mit Hilfe automatischer Einrichtungen erlässt und die Begründung nach den Umständen des Einzelfalls nicht geboten ist….“
[18] Βλ. διεξοδικά Ν. Νικολάκη, Ο δικαστικός έλεγχος της Διοίκησης στην εποχή του ψηφιακού κράτους, ό.π., σ. 35.