Ι) Εισαγωγή
Ψηφίζουν τα ρομπότ; Αποφασίζουν οι μηχανές αντί για εμάς; Όχι (ακόμα), αλλά δεν είμαστε μακριά από αυτό. Η επίδραση της Τεχνητής Νοημοσύνης (ΤΝ)[1] στη δημοκρατία είναι ένα σύνθετο ζήτημα που χρήζει διεξοδικής έρευνας και προσεκτικής ρύθμισης. Και αυτό, διότι η εκλογική διαδικασία, καίτοι δεν καθορίζεται στο σύνολό της, επηρεάζεται, όμως, πολύ από τις εφαρμογές της ΤΝ. Νέου είδους διαδικτυακές εκστρατείες, υποβοηθούμενες από εφαρμογές ΤΝ, αντικαθιστούν τις παραδοσιακές. Δεν πρέπει να παραγνωρίζεται η δυνατότητα χειραγώγησης των ψηφοφόρων και έμμεσης επιρροής του εκλογικού αποτελέσματος. Σαφώς, μορφές χειραγώγησης των ψηφοφόρων δεν εκλείπουν από τις παραδοσιακές πολιτικές εκστρατείες, με τη μόνη διαφορά ότι η ηλεκτρονική χειραγώγηση γίνεται πολλές φορές εν αγνοία μας, μέσω π.χ. της παρακολούθησης της συμπεριφοράς μας στα μέσα κοινωνικής δικτύωσης.[2] Δεν πρέπει, ωστόσο, να παροράται και η θετική επίδραση της ΤΝ στην αναβάθμιση των δημοκρατικών θεσμών, μέσω της παροχής ενός φόρουμ συμμετοχής στη λήψη αποφάσεων.
Στο πλαίσιο αυτό, μελετάται, πρώτον, η ενδεχόμενη διακινδύνευση δημοκρατικών διαδικασιών μέσω εργαλείων ΤΝ. Δεύτερον, ερευνάται η δυνατότητα ενίσχυσης δημοκρατικών διαδικασιών μέσω της ΤΝ αλλά και η δημοκρατικοποίηση της ΤΝ μέσω των ευκαιριών που η ίδια προσφέρει. Τρίτον, συζητείται η επίδραση της ΤΝ στο αντιπροσωπευτικό σύστημα. Η συμβολή ολοκληρώνεται με τις προτάσεις της και την εξαγωγή συμπερασμάτων.
ΙΙ) Κίνδυνοι για τη δημοκρατία
Η κακή χρήση εργαλείων ΤΝ μπορεί να οδηγήσει στην υπονόμευση των δημοκρατικών πολιτικών διαδικασιών ή τη χειραγώγηση ατόμων μέσω εξειδικευμένης στόχευσης, που θα αποσταθεροποιήσει τη δημοκρατία.[3] Οι δυνητικοί κίνδυνοι είναι πολύ και όχι αμελητέοι.
1. Παραπληροφόρηση
Η λειτουργία αλγορίθμων και οι ενώσεις προσώπων μέσω αυτών διαδραματίζουν βαρύνουσα σημασία στη δημοκρατική αρχή. Δύναται να παραχθεί μια στοχευμένη (παρα)πληροφόρηση, παραπλάνηση ως προς την πραγματικότητα,[4] στην οποία είναι εύκολο να διολισθήσει κανείς χωρίς καν να το κατανοήσει και εξαιρετικά δύσκολο από τεχνικής απόψεως να εξέλθει. Αυτού του είδους η στοχευμένη ενημέρωση δύναται να επηρεάζει το εκλογικό αποτέλεσμα και εν πολλοίς τη δημοκρατική αρχή,[5] υπό την έννοια ότι το αποτέλεσμα των εκλογών δεν αποφασίζεται εν τέλει από τον λαό, αλλά από ομάδες συμφερόντων που έχουν την τεχνική δυνατότητα να επηρεάσουν τη βούληση του λαού. Η παραπληροφόρηση συνιστά υπό αυτή την έννοια απειλή για τη φιλελεύθερη δημοκρατία και τους θεσμούς της.[6] Είναι κρίσιμη για την εύρυθμη λειτουργία της δημοκρατίας και την ανόθευτη εκδήλωση της λαϊκής βούλησης στις εκλογές.[7] Η υπονόμευση των εκλογικών διαδικασιών μπορεί να επέλθει μέσω δραστηριοτήτων όπως είναι η διάδοση εκούσιας και ακούσιας παραπληροφόρησης και προϊόντων βαθυπαραποίησης (deep fake)[8] ή η χειραγώγηση ατόμων μέσω εξειδικευμένης στόχευσης. H κακή χρήση των εν λόγω τεχνολογιών αποτελεί σημαντική απειλή για τις δημοκρατίες, καθώς επιτρέπει σε κακόβουλους φορείς -από πολιτικούς αντιπάλους έως ξένους αντιπάλους- να χειραγωγούν τις δημόσιες αντιλήψεις, να διαταράσσουν τις εκλογικές διαδικασίες και να ενισχύουν την παραπληροφόρηση.[9] Iδιαίτερης επικινδυνότητας σε αυτή την κατεύθυνση είναι τα κείμενα που παράγονται από την παραγωγική ΤΝ. Καθώς τα συστήματα αυτά παράγουν ιδιαίτερα πειστικά κείμενα, επιτρέπουν σε κράτη και μη κρατικούς φορείς να διαδίδουν παραπληροφόρηση και κακόβουλες αφηγήσεις.[10]
Τα παραγωγικά μοντέλα ΤΝ διαδραμάτισαν σημαντικό ρόλο στην προεδρική εκλογική εκστρατεία του 2024 στις ΗΠΑ, με τις ψεύτικες εικόνες και τα deep fakes που δημιούργησε η ΤΝ να κατακλύζουν τις πλατφόρμες κοινωνικής δικτύωσης.[11] Ψεύτικες εικόνες δημοσιεύθηκαν εκατέρωθεν: Ο Τραμπ αναδημοσίευσε μια ψεύτικη εικόνα που δημιούργησε η ΤΝ, στην οποία η τραγουδίστρια Τέιλορ Σουίφτ υποστήριζε την προεκλογική του εκστρατεία, κάτι που δεν έκανε ποτέ. Οι Δημοκρατικοί δημοσίευσαν επίσης ψεύτικες φωτογραφίες που δημιούργησε η τεχνητή νοημοσύνη με τον Τραμπ να συλλαμβάνεται.[12]
2. Εκμετάλλευση-αξιοποίηση δεδομένων
Tα δεδομένα έχουν μεγάλη αξία. Δικαιολογημένα αποκαλούνται ως ο «ο νέος χρυσός».[13] Aυτοί που τα επεξεργάζονται μπορούν να κατανοήσουν καλύτερα τους ψηφοφόρους τους, να βελτιστοποιήσουν τη δράση τους και να λάβουν αποφάσεις βάσει δεδομένων.[14] Για τη διακυβέρνηση, ήταν πάντα απαραίτητο να στηριζόμαστε σε δεδομένα. Τα μεγάλα δεδομένα συμβάλλουν στην αποτελεσματικότητα των δημόσιων υπηρεσιών και του στρατηγικού σχεδιασμού και επηρεάζουν τις αλληλεπιδράσεις μεταξύ των πολιτών, των δημόσιων υπηρεσιών, των πολιτικών και των διοικητικών συστημάτων.[15] Η ΤΝ μπορεί να συλλέγει και να αναλύει αυτά τα δεδομένα σε πραγματικό χρόνο, εκπαιδεύοντας τον αλγόριθμο[16] και επιτρέποντας στους υπεύθυνους στρατηγικής της εκστρατείας να αλλάζουν τις προσεγγίσεις τους με βάση την κοινή γνώμη. Η συλλογή δεδομένων μπορεί να χρησιμοποιηθεί είτε για την αναζήτηση των βασικών αναγκών του εκλογικού σώματος είτε απλώς και μόνο για τoν επηρεασμό και τη χειραγώγηση των ψηφοφόρων. Με την ανάλυση των μοναδικών ψυχογραφικών και συμπεριφορικών προφίλ των ψηφοφόρων στα μέσα κοινωνικής δικτύωσης, η ΤΝ μπορεί να χρησιμοποιηθεί για να επηρεάσει τα άτομα προς έναν συγκεκριμένο υποψήφιο ή για να διασπείρει την εχθρότητα κατά των αντιπάλων τους για να επηρεάσει την απόφαση του ψηφοφόρου.[17] Η δημιουργία ψυχογραφικών προφίλ και στοχευμένων μηνυμάτων, που διευκολύνεται από τα Μεγάλα Δεδομένα, σε on-line ψηφιακές εκστρατείες που βασίζονται στην εξαπάτηση και τον εκφοβισμό, μπορεί να επηρεάσει μεγάλο κύκλο δραστηριοτήτων, από την προπαγάνδα μέχρι τη χάραξη πολιτικής.[18] Και αυτό διότι οι προεκλογικές εκστρατείες μεταφέρονται όλο και περισσότερο στο διαδίκτυο και οι στοχευμένες διαφημίσεις στα ψηφιακά μέσα επηρεάζουν τα αποτελέσματα των εκλογών.[19]
Η διακυβέρνηση με βάση τα διαθέσιμα δεδομένα δεν είναι ουδέτερη ή αδιαμφισβήτητη, επειδή τα ίδια τα δεδομένα δεν είναι διαθέσιμα ή αδιαμφισβήτητα. Πολλές φορές εμπεριέχουν προκαταλήψεις.[20] Οι μεγάλες ποσότητες δεδομένων που είναι διαθέσιμες υπερβαίνουν την ανθρώπινη ικανότητα να τις αναλύσουν, να τις κατανοήσουν και εν τέλει να τις αξιοποιήσουν. Έτσι, υπάρχει αυξημένη εξάρτηση από αυτοματοποιημένους αλγορίθμους για τον εντοπισμό μοτίβων και την υποστήριξη της λήψης αποφάσεων, ενισχύοντας την εξάρτησή μας από τέτοιες τεχνολογίες και επιδεινώνοντας τις ανισορροπίες ισχύος.[21] Οι προκαταλήψεις δεν δημιουργούνται μόνο από τα δεδομένα, αλλά και από τον σχεδιασμό αλγορίθμων και τις πρακτικές εκπαίδευσης της ΤΝ,[22] οι οποίες μπορούν είτε να τις ενισχύσουν είτε να τις μετριάσουν.[23] Η ανισότητα των δεδομένων πηγάζει κυρίως από την άνιση πρόσβαση σε αυτά.[24] Ακόμη και αν οι βάσεις δεδομένων είναι διαθέσιμες στο κοινό, μόνο ορισμένοι έχουν τις δεξιότητες ή τους πόρους για να τις αναλύσουν, να τις κατανοήσουν, να τις διαχειριστούν ή να τις χρησιμοποιήσουν. [25] Το σημερινό οικοσύστημα των μεγάλων δεδομένων προκαλεί σημαντικές ανισότητες, αν και πλέον μιλάμε για ένα διαφορετικό είδος φτώχειας και πλούτου,[26] που δεν βασίζεται σε υλικά αγαθά. [27] Υπάρχουν ουσιαστικά τρεις κατηγορίες ανθρώπων όσον αφορά στις βάσεις δεδομένων: εκείνοι που τις παράγουν, εκείνοι που έχουν τις δυνατότητες και τους πόρους για να τις αποθηκεύσουν και εκείνοι που γνωρίζουν πώς να αξιοποιήσουν την αξία τους. Οι τελευταίοι είναι η πιο ευάριθμη και προνομιούχος ομάδα που υπαγορεύει τους κανόνες που διέπουν τη χρήση και τη συμμετοχή στα Μεγάλα Δεδομένα. [28]
3. Χειραγώγηση
Το σκάνδαλο Cambridge Analytica κατέδειξε τις δυνατότητες που παρουσιάζει η κακή χρήση της ΤΝ στον επηρεασμό της εκλογικής συμπεριφοράς. Και αυτό διότι τα δεδομένα των χρηστών του διαδικτύου δύνανται να χρησιμοποιηθούν για τη δημιουργία του πολιτικού, ιδεολογικού ή ψυχολογικού προφίλ του εκάστοτε εκλογέως, προκειμένου να του αποσταλούν εξατομικευμένες διαφημίσεις ή αυτοματοποιημένα μηνύματα για την προώθηση ή αποδοκιμασία συγκεκριμένου υποψηφίου.
Πρώτον, τίθεται ζήτημα καταστρατήγησης της αυτονομίας του πολίτη: με την κατάστρωση ενός λεπτομερούς ψυχογραφήματός του και την εκμετάλλευση τυχόν αδυναμιών, φόβων, ιδεοληψιών του μέσω της αποστολής εξατομικευμένων μηνυμάτων που πυροδοτούν συναισθήματα σε αυτόν, ο πολίτης υφίσταται ένα είδος αυτοματοποιημένης «πλύσης εγκεφάλου», με σκοπό τον επηρεασμό της συμπεριφοράς του.[29] Δεύτερον, ο χρήστης του διαδικτύου σπανίως ενημερώνεται ή δίνει τη συγκατάθεσή του για τη χρήση των δεδομένων του προς αυτούς τους σκοπούς. [30] Τρίτον, ανακύπτει θέμα παραβίασης του δικαιώματος του εκλέγεσθαι και της αρχής των ίσων ευκαιριών των υποψηφίων να εκλεγούν.[31] Τέταρτον, αλγόριθμοι χρησιμοποιούνται για την ταχεία δημιουργία και διάδοση ψευδών ή παραποιημένων ειδήσεων, στο πλαίσιο προπαγανδιστικών στρατηγικών για τη χειραγώγηση της πληροφόρησης και των συναισθημάτων των χρηστών του διαδικτύου προς συγκεκριμένη κατεύθυνση. [32] Για παράδειγμα, ψευδείς ή παραποιημένες ειδήσεις ακόμη και για τυχόν σχόλιο από πολιτικό πρόσωπο σχετικά με δήθεν βίαια εγκλήματα που διέπραξαν κατά την προεκλογική περίοδο μετανάστες και αιτούντες άσυλο θα μπορούσαν να χρησιμοποιηθούν σε εκστρατείες διασποράς έντονου φόβου, μισαλλοδοξίας και ξενοφοβίας για την προώθηση ακραίων ιδεολογιών. Πέμπτον, η χρήση αλγορίθμων για τη δημιουργία deep fakes (βίντεο στα οποία τα πρόσωπα μεταβάλλονται ή αντικαθίστανται με άλλα), με σκοπό την παραπλάνηση του κοινού και τη δυσφήμηση του πολιτικού αντιπάλου, είναι εξίσου επικίνδυνα για τις δημοκρατικές διαδικασίες.
Περαιτέρω, δεν πρέπει να διαλάθει της προσοχής μας ότι η παροχή συγκεκριμένης, προμελετημένης, ελεγμένης γνώσης επισείει τον κίνδυνο της υποχώρησης του φιλελεύθερου χαρακτήρα του πολιτεύματός μας, υπό την έννοια μιας επιβολής του «μέσου όρου» της υφιστάμενης γνώσης στην επιστήμη και εν γένει τη σκέψη μας, της εδραίωσης μιας κοινής αντίληψης περί των πραγμάτων.[33] Η χρήση συστημάτων ΤΝ με σκοπό τον πολιτικό επηρεασμό των ψηφοφόρων και τη διαμόρφωση του εκλογικού αποτελέσματος έχει δημιουργήσει έντονες ανησυχίες σε ευρωπαϊκό και διεθνές επίπεδο. Εύλογα τίθεται το ερώτημα αν πρέπει να παρέμβουμε νομοθετικά, προκειμένου να διαφυλάξουμε τον πυρήνα της φιλελεύθερης δημοκρατίας. Το ερώτημα αυτό είναι πολυπαραμετρικό, καθώς η εδραίωση μιας συγκεκριμένης αντίληψης μπορεί να οδηγήσει με τη σειρά της στην εδραίωση μιας συγκεκριμένης εκλογικής προτίμησης και εν προκειμένω στην έμμεση χειραγώγηση της του εκλογικού σώματος.
Οι κίνδυνοι από τη χρήση της ΤΝ στην εκλογική αναμέτρηση δύνανται να είναι πολλοί, δύσκολα αντιμετωπίσιμοι και πολλές φορές μη ανεκτοί (υπό την έννοια του άρθρου 5 του Κανονισμού για την Τεχνητή Νοημοσύνη (ΕΕ) 2024/1689), όταν οδηγούν σε χειραγώγηση των πολιτών. Προτείνεται ο νομοθέτης να δώσει στο σημείο αυτό ιδιαίτερη προτεραιότητα, απαιτώντας από τις ψηφιακές πλατφόρμες, τους προγραμματιστές και διανομείς των αλγορίθμων, τη διαφάνεια του αλγορίθμου και την ποινικοποίηση της δημιουργίας και διάδοσης επιβλαβών προϊόντων βαθιάς παραποίησης που προκαλούν πολιτική χειραγώγηση.[34] Παράλληλα, οι προγραμματιστές και οι διανομείς λογισμικού οφείλουν να εμποδίζουν τα προϊόντα ήχου και εικόνας που δημιουργούν επιβλαβή deep fakes και θεωρούνται υπεύθυνοι εάν τα προληπτικά τους μέτρα παρακάμπτονται εύκολα.
Προς τον σκοπό αυτό απαιτείται ενίσχυση των μηχανισμών ελέγχου της αξιοπιστίας της ειδησεογραφικής πληροφορίας (fact-checking, μέσω της σήμανσης του περιεχομένου ως αληθινού, ψευδούς ή αμφισβητούμενου[35]), καλλιέργεια εξειδικευμένων δεξιοτήτων ενάντια στην παραποίηση των ειδήσεων, βελτίωση της εγγραμματοσύνης και της παιδείας στα Μέσα και ενδυνάμωση των εμπλεκομένων μερών (πολίτες, δημοσιογράφοι, ιδιωτικοί και δημόσιοι φορείς), με υιοθέτηση σαφών, υπεύθυνων, δίκαιων και ευρέως αποδεκτών κανόνων συμπεριφοράς και λειτουργίας στο νέο, προηγμένο τεχνολογικό περιβάλλον.[36] Η συζήτηση δεν είναι απροβλημάτιστη. Εύλογα τίθεται το ερώτημα αναφορικά με το ποιος ασκεί τον έλεγχο και επί τη βάσει ποιων αρχών.[37] Στο πλαίσιο αυτό η Πράξη για τις Ψηφιακές Υπηρεσίες (Digital Service Act) επιβάλλει υποχρεώσεις διαφάνειας και λογοδοσίας ως προς τον έλεγχο του περιεχομένου.[38]
4. Προς μια ιδιωτικοποίηση εκλογών;
O ρόλος που επιτελούν οι μεγάλες ιδιωτικές εταιρίες χειρισμού του Διαδικτύου έχει μεγάλη σημασία. Η αρχιτεκτονική τους και οι αλγόριθμοι διαμορφώνουν τον τρόπο με τον οποίο οι άνθρωποι επικοινωνούν και ποιες πληροφορίες παρουσιάζονται και με ποια σειρά σε συμμετέχοντες.[39] Εν ολίγοις, οι ιδιωτικοί φορείς συχνά παίζουν πολύ σημαντικό ρόλο στη ρύθμιση της κοινωνικής συμπεριφοράς και της ενημέρωσης.[40]
Σχεδόν κάθε στάδιο της ανάπτυξης μοντέλων τεχνητής νοημοσύνης – από την υπολογιστική υποδομή έως τα δεδομένα εκπαίδευσης – ελέγχεται από ένα ολιγοπώλιο τεχνολογικών εταιρειών. Πολύ λίγη δημόσια εποπτεία υπάρχει όταν πρόκειται για την ανάπτυξη και τη διακυβέρνηση αυτών των συστημάτων. Οι κίνδυνοι που συνδέονται με τη συγκέντρωση της ανάπτυξης της ΤΝ σε μονοπωλιακές δυνάμεις δεν είναι άμοιροι προβληματισμού.[41] Απαιτείται η ανεύρεση εναλλακτικών δομών αξιοποίησης και διακυβέρνησης που θα εξυπηρετούσαν καλύτερα το δημόσιο συμφέρον όσον αφορά την ανάπτυξη της ΤΝ. Μια από αυτές τις δομές θα μπορούσε να είναι τα συμμετοχικά σχήματα.[42] Τα σχήματα αυτά είναι επιχειρήσεις που ανήκουν στους εργαζόμενους και λειτουργούν με πλούσια παγκόσμια ιστορία επιχειρηματικών πρακτικών προσανατολισμένων στην κοινότητα, οι οποίες διανέμουν τον έλεγχο και το κεφάλαιο. Σήμερα, εκτιμάται ότι τα συμμετοχικά σχήματα απασχολούν σχεδόν το 10% του παγκόσμιου πληθυσμού.[43] Τα συμμετοχικά μοντέλα είναι δομημένα έτσι ώστε να παρέχουν πιο δίκαιη ιδιοκτησία και διακυβέρνηση από ό,τι οι εταιρείες που ανήκουν σε επενδυτές.[44] Η εν λόγω δομή ευελπιστείται ότι θα αμβλύνει τις αυξανόμενες ανησυχίες διαφόρων ενδιαφερομένων: οι καταναλωτές αποκτούν μεγαλύτερη επιρροή και οικονομικό μερίδιο στα τεχνολογικά συστήματα που διαμορφώνουν τη ζωή τους, οι επιχειρήσεις οικοδομούν εμπιστοσύνη με τους καταναλωτές και τις ρυθμιστικές αρχές, παραμένοντας συνδεδεμένες με τις δημόσιες ανάγκες, και οι ρυθμιστικές αρχές διευκολύνουν μια ανταγωνιστική αγορά με τη δυνατότητα βελτίωσης του κοινωνικού αντίκτυπου της ΤΝ.[45]
5. Αλγοριθμική διακυβέρνηση;
Σε μεγάλο βαθμό, η λήψη αποφάσεων τείνει να γίνεται αλγοριθμικά,[46] καθώς τα αυτοματοποιημένα συστήματα λαμβάνουν σημαντικό μέρος των κυβερνητικών αποφάσεων.[47] Η διαχείριση πολύπλοκων ζητημάτων επιτάσσει την αλγοριθμική λήψη αποφάσεων. Είναι δύσκολο να σκεφτεί κανείς τη διαχείριση της πολυπλοκότητας των σύγχρονων κοινωνιών χωρίς διαδικασίες αυτού του είδους, καθώς επεξεργάζονται τεράστιες ποσότητες πληροφοριών και αυτοματοποιούν εργασίες που διαφορετικά θα ήταν αδύνατες ή λιγότερο αποτελεσματικές.[48] Ωστόσο, το πρόβλημα είναι σε ποιο βαθμό και πώς είναι συμβατή τη χρήση αυτοματοποιημένων συστημάτων λήψης αποφάσεων με το πολιτικό σύστημα λήψης αποφάσεων. [49] Τα συστήματα τεχνητής νοημοσύνης μπορούν να βελτιώσουν την κατανόηση των κοινωνικών προτιμήσεων και να διευκολύνουν πιο αντικειμενικές αξιολογήσεις των δημόσιων πολιτικών. Είναι επίσης χρήσιμα σε περιπτώσεις όπου υπάρχει μεγάλος όγκος δεδομένων και οι επιλογές είναι ταξινομημένες σε δυαδικές-ψηφιακές κατηγορίες. [50] Ωστόσο, αποδεικνύονται περιορισμένα σε περιπτώσεις έλλειψης δεδομένων ή διφορούμενων καταστάσεων, όπου οι πολιτικές αποφάσεις είναι επιτακτικές και φέρουν μεγαλύτερη βεβαιότητα από οποιονδήποτε υπολογισμό. Σε κάθε περίπτωση, σε μια δημοκρατία, η τελική απόφαση ανήκει στον λαό, ο οποίος κατέχει την κυριαρχία, ανεξάρτητα από την έκταση της επεξεργασίας των δεδομένων.[51] Ως εκ τούτου, ο αλγόριθμος δεν πρέπει να υποκαθιστά, αλλά να υποβοηθεί αυτόν που λαμβάνει πολιτικές αποφάσεις.[52]
6. Επιβεβαιώθηκαν οι κίνδυνοι;
Το 2024, πάρα πολλές χώρες[53] διεξήγαγαν εθνικές εκλογές, καθιστώντας το έτος αυτό ένα από τα μεγαλύτερα εκλογικά έτη στην ιστορία. Ήταν η μεγαλύτερη χρονιά εκλογών στην ιστορία της ανθρωπότητας κατά την οποία 3,7 δισεκατομμύρια ψηφοφόροι σε 72 χώρες προσήλθαν στις κάλπες.[54] Παρά τις πρώιμες δημόσιες ανησυχίες σχετικά με τη δραματική διαταραχή της ΤΝ στις φετινές εκλογές, εμπειρογνώμονες συμφώνησαν ότι οι περισσότεροι από αυτούς τους φόβους δεν πραγματοποιήθηκαν, ενώ αναδύεται μια πιο διαφοροποιημένη πραγματικότητα – η ΤΝ διαπερνά όλες τις πτυχές των εκλογών, από τις επιχειρήσεις της εκστρατείας έως το οικοσύστημα πληροφοριών.[55] Υποστηρίχθηκε ότι πολλές πλατφόρμες έλαβαν προληπτικά μέτρα για να αντιμετωπίσουν τις ανησυχίες που σχετίζονται με τις εκλογές και ανακατεύθυναν τα πολιτικά ερωτήματα σε έγκυρες πηγές και ανέπτυξαν τα δικά τους αντίμετρα με βάση την τεχνητή νοημοσύνη για τον εντοπισμό και την αντιμετώπιση της συντονισμένης μη αυθεντικής συμπεριφοράς.[56]
ΙΙΙ) Αναβάθμιση δημοκρατικών θεσμών
1. Διευκόλυνση συμμετοχής σε διαδικασίες διαβούλευσης
Ερώτημα ανακύπτει εάν η διευκόλυνση της πρόσβασης σε εφαρμογές ψηφιακής διακυβέρνησης που υποβοηθούνται από την ΤΝ έχουν θετική επίδραση στη δημοκρατία.[57] Γίνεται λόγος για «πλατφορμοποίηση της δημοκρατίας», καθώς ένα σημαντικό μερίδιο των συζητήσεων λαμβάνει χώρα σε πλατφόρμες που, ενώ τις διευκολύνουν, τις διαμορφώνουν επίσης με διαφορετικούς τρόπους.[58] Τα εργαλεία ΤΝ μπορούν να ενισχύσουν τη δημοκρατία διευκολύνοντας τη συμμετοχή των πολιτών σε διαδικασίες διαβούλευσης. Η καινοτόμος χρήση της ΤΝ μπορεί να ενισχύσει τη διαβουλευτική δημοκρατία σε διάφορα επίπεδα λήψης αποφάσεων, από τη θέσπιση εθνικής νομοθεσίας έως την τοπική αυτοδιοίκηση και την εταιρική διακυβέρνηση. Kαι αυτό, καθώς διευκολύνουν τη διαδικασία της διαβούλευσης, συνοψίζοντας τις διαβουλεύσεις και συγκεντρώνοντας τεράστιους όγκους εισερχόμενων διαδικτυακών πληροφοριών.
Η ΤΝ μπορεί να συνδράμει στην κλιμάκωση της διαβούλευσης και της δημοκρατικής συμμετοχής. Μεταξύ των πολλών καθηκόντων που μπορούν να εκπληρώσουν τα εργαλεία ΤΝ είναι η επιλογή και η κατανομή των συμμετεχόντων στις συνελεύσεις των πολιτών (o αλγόριθμος LEXIMIN[59] είναι ήδη διαθέσιμος και χρησιμοποιείται), η διευκόλυνση της διαβούλευσης (τα κοινοτικά φόρουμ της Meta πρωτοστάτησαν σε αυτή τη λειτουργία), η σύνοψη των διαβουλεύσεων και η συγκέντρωση τεράστιων ποσοτήτων διαδικτυακών εισροών (το σύστημα pol.is[60] χρησιμοποιείται επί τούτου από την κυβέρνηση της Ταϊβάν). [61]
Με αυτόν τον τρόπο, η ΤΝ μπορεί επίσης να καταστεί ένα σημαντικό εργαλείο για την προώθηση της δημοκρατικής διακυβέρνησης της ίδιας της τεχνολογίας ΤΝ. Πράγματι, η παραγωγή ΤΝ προς όφελος της κοινωνίας, όσον αφορά στη διαφάνεια και την υπευθυνότητα, δεν μπορεί να συμβεί χωρίς τη συμμετοχή της ίδιας της κοινωνίας, κάτι που μπορεί να διευκολυνθεί από τη διαβουλευτική δημοκρατία. [62]
Τα παραπάνω συνδέονται επίσης με την οικοδόμηση «ψηφιακής εμπιστοσύνης» για τις πλατφόρμες μπορεί να επέλθει μέσω της αδιάλειπτης δημόσιας αξιολόγησης και της δημοκρατικής εκπροσώπησης και συμμετοχής εκεί που λαμβάνονται οι κρίσιμες αποφάσεις. [63] Η παραγωγή ΤΝ προς όφελος της κοινωνίας, με όρους διαφάνειας και λογοδοσίας, δεν μπορεί να γίνει χωρίς την ίδια την κοινωνία και τουλάχιστον χωρίς αξιόπιστους εκπροσώπους της.
Ένα πιθανό πείραμα δημοκρατικής αντιπροσώπευσης θα μπορούσε να αφορά στη δημιουργία συνελεύσεων πολιτών. Οι συνελεύσεις των πολιτών είναι πλέον μια καθιερωμένη διαδικασία μέσω της οποίας οι τοπικές και εθνικές κυβερνήσεις -συμπεριλαμβανομένων της Ιρλανδίας[64], της Γαλλίας[65], του Βελγίου[66] και του Καναδά[67]– επιδιώκουν να διορθώσουν ελλείματα νομιμοποίησης και προβλήματα διακυβέρνησης. Πρόκειται για μεγάλα σώματα πολιτών, τα οποία συνήθως συγκαλούνται (άλλοτε δια ζώσης και άλλοτε εικονικά) για να συζητήσουν περίπλοκα πολιτικά ζητήματα με στόχο την παραγωγή συστάσεων πολιτικής και σε ορισμένες περιπτώσεις ακόμη και νομοθετικών προτάσεων. Μια πρόσφατη έκθεση του ΟΟΣΑ κατέγραψε εκατοντάδες τέτοιες συνελεύσεις (ή παρόμοιες έννοιες) σε όλο τον κόσμο.[68] Εν τοις πράγμασι πρόκειται για μια συνέλευση εκπροσώπων, αποτελούμενη από ενήλικους πολίτες, κατοίκους μιας περιοχής ή και κατοίκους εκτός επικρατείας.[69] Οι εν λόγω εκπρόσωποι επιλέγονται σε σχεδόν τυχαία βάση, αλλά σκόπιμα «διαστρωματοποιούνται» με βάση χαρακτηριστικά όπως η φυλή, το φύλο και η κοινωνική τάξη και εξετάζουν ένα ζήτημα. [70] Η Συνέλευση ακολουθεί τρία δομικά στάδια συζήτησης: Ξεκινά με την εκπαιδευτική διαδικασία εισαγωγής των μελών της στο υπό ζήτημα. Ακολουθεί η διαδικασία κατά την οποία τα μέλη της Συνέλευσης ακούν διαφορετικές απόψεις από τα ενδιαφερόμενα μέρη, άτομα ή συλλογικότητες. Ολοκληρώνεται με τη συζήτηση, κατά την οποία η Συνέλευση ψηφίζει πρόταση. [71]
Για να επιτευχθεί η μέγιστη δυνατή νομιμότητα, οι εν λόγω συνελεύσεις πολιτών πρέπει να συνδέονται οι ίδιες με το ευρύτερο κοινό, μέσω διαφόρων διαδικτυακών και μη διαδικτυακών μηχανισμών διαβούλευσης, ορισμένοι από τους οποίους θα μπορούσαν να ενεργοποιηθούν με μοναδικό τρόπο από ανοιχτά εργαλεία ΤΝ. Σημειωτέον ότι η ανοιχτότητα είναι αναγκαία για τη βιώσιμη και ηθική ανάπτυξη των τεχνολογιών ΤΝ, όσο και για τη διασφάλιση συνθηκών ψηφιακής κυριαρχίας.
Η επιλογή πολιτών από όλα τα κοινωνικά στρώματα μέσω εργαλείων ΤΝ φαίνεται να παρουσιάζει τρία βασικά πλεονεκτήματα. Πρώτον, οι Συνελεύσεις έχουν μεγαλύτερη δημογραφική αντιπροσώπευση σε σχέση με την εκλεγμένη εκπροσώπηση. Και αυτό, διότι οι εκλεγμένοι εκπρόσωποι τείνουν να προέρχονται δυσανάλογα από τις πιο προνομιούχες ομάδες της κοινωνίας – κατά τη συντριπτική τους πλειοψηφία είναι άνδρες, λευκοί και της μεσαίας τάξης, για παράδειγμα. Αυτό οδηγεί σε μια πολιτική ανισότητα και στην έλλειψη διορατικότητας που προσφέρει η συνύπαρξη ανθρώπων από ένα ευρύτερο κοινωνικό φάσμα.[72]Δεύτερον, οι Συνελεύσεις προτείνονται ως ένας τρόπος γεφύρωσης του χάσματος εμπιστοσύνης μεταξύ πολιτικών και πολιτών. Αυτό συμβαίνει υπό την προϋπόθεση ότι το κοινό εμπιστεύεται τους εκπροσώπους του στη Συνέλευση και οι πολιτικοί αφουγκράζονται τις προτάσεις της Συνέλευσης.[73] Τρίτον, οι Συνελεύσεις Πολιτών μπορούν να συμβάλουν στη βελτίωση της ποιότητας της άμεσης δημοκρατίας.[74] Δεν πρέπει, πάντως, να διαλάθει της προσοχής μας ότι οι Συνελεύσεις συνδέονται και με τον κίνδυνο της «πλειοψηφικής τυραννίας» υπό την έννοια ότι δύνανται να υπόκεινται στην υπερβολική επιρροή πλουσίων πολιτών που μπορούν να χρηματοδοτήσουν πιο εύκολα εκστρατείες αιτήσεων και δημοψηφισμάτων. [75]
Στο σημείο αυτό κρίσιμο είναι να τονισθεί ότι η συμμετοχή των πολιτών στη διαδικασία λήψεως αποφάσεων δεν γίνεται μόνο σε οργανωμένη μορφή, υπό τη μορφή Συνελεύσεων πολιτών. Μπορεί να λάβει χώρα κατά τρόπο διάσπαρτο, κατά τον οποίο θα συμμετέχουν απροϋπόθετα όσοι το επιθυμούν. Η απροϋπόθετη αυτή συμμετοχή διευκολύνει την πρόσβαση στη συμμετοχική διαδικασία, δύναται όμως να οδηγήσει σε αθρόα συμμετοχή ατόμων που δεν νομιμοποιούνται να συμμετάσχουν στη λήψη αποφάσεων.
2. Διευκόλυνση της πολιτικής εκστρατείας
α. Μεταφραστικά εργαλεία
Μια από τις ευεργετικές χρήσεις της τεχνητής νοημοσύνης είναι η γλωσσική μετάφραση των εκλογικών εκστρατειών.[76] Τοπικές κυβερνήσεις στην Ιαπωνία[77] και την Καλιφόρνια[78] και διακεκριμένοι πολιτικοί, όπως ο πρωθυπουργός της Ινδίας Ναρέντα Μόντι[79] και ο δήμαρχος της Νέας Υόρκης Έρικ Άνταμς[80], χρησιμοποίησαν την ΤΝ για να μεταφράζουν συναντήσεις και ομιλίες στους διαφορετικούς ψηφοφόρους τους.[81]
Ακόμη και όταν οι ίδιοι οι πολιτικοί δεν μιλούν μέσω της ΤΝ, οι ψηφοφόροι τους μπορεί να τη χρησιμοποιούν για να τους ακούσουν. Η Google έθεσε σε λειτουργία δωρεάν μεταφραστικές υπηρεσίες για επιπλέον 110 γλώσσες αυτό το καλοκαίρι, διαθέσιμες σε δισεκατομμύρια ανθρώπους σε πραγματικό χρόνο μέσω των έξυπνων κινητών τους.[82]
β. Εικονικές συνομιλίες
Άλλοι υποψήφιοι χρησιμοποίησαν τις δυνατότητες συνομιλίας της ΤΝ για να συνδεθούν με τους ψηφοφόρους. Αμερικανοί πολιτικοί χρησιμοποίησαν chatbots του εαυτού τους στις προκριματικές προεδρικές εκστρατείες τους.[83] Ο περιθωριακός υποψήφιος Τζέισον Πάλμερ νίκησε τον Τζο Μπάιντεν στις προκριματικές εκλογές της Αμερικανικής Σαμόα, τουλάχιστον εν μέρει χάρη στη χρήση μηνυμάτων ηλεκτρονικού ταχυδρομείου, κειμένων, ήχου και βίντεο που δημιουργούσε η τεχνητή νοημοσύνη. Ο πρώην πρωθυπουργός του Πακιστάν, Ιμραν Καν, χρησιμοποίησε έναν AI κλώνο της φωνής του για να εκφωνεί ομιλίες από τη φυλακή.[84]
Ίσως η πιο αποτελεσματική χρήση αυτής της τεχνολογίας έγινε στην Ιαπωνία, όπου ένας ανεξάρτητος υποψήφιος κυβερνήτης του Τόκιο, ο Τακαχίρο Άννο, χρησιμοποίησε ένα avatar τεχνητής νοημοσύνης για να απαντήσει σε 8.600 ερωτήσεις από ψηφοφόρους και κατάφερε να έρθει πέμπτος ανάμεσα σε ένα εξαιρετικά ανταγωνιστικό πεδίο 56 υποψηφίων.[85]
Τα chatbots παράλληλα ενθαρρύνουν τους χρήστες να αφήνουν σχόλια και παρέχουν πολύτιμες πληροφορίες για τη γνώμη τους.[86]
γ. Πολιτική οργάνωση
Από την πλευρά της πολιτικής οργάνωσης, οι βοηθοί ΤΝ χρησιμοποιούνται για ποικίλους σκοπούς, όπως η βοήθεια στην επεξεργασία πολιτικών μηνυμάτων και στρατηγικής, η δημιουργία διαφημίσεων, η σύνταξη ομιλιών και ο συντονισμός των προσπαθειών για την συγκέντρωση και την εκλογή ψηφοφόρων. [87] Στην Αργεντινή το 2023, και οι δύο κραταιοί υποψήφιοι για τις προεδρικές εκλογές χρησιμοποίησαν ΤΝ για την ανάπτυξη αφισών, βίντεο και άλλου υλικού προεκλογικής εκστρατείας.[88]
Το 2024, παρόμοιες δυνατότητες χρησιμοποιήθηκαν σε διάφορες εκλογικές αναμετρήσεις σε όλο τον κόσμο. Στις ΗΠΑ, για παράδειγμα, ένας πολιτικός από τη Τζόρτζια[89] χρησιμοποίησε την ΤΝ για την παραγωγή αναρτήσεων στο ιστολόγιο, εικόνων προεκλογικής εκστρατείας και podcasts. Άλλα συστήματα ΤΝ βοηθούν στη συμβουλευτική των υποψηφίων που επιθυμούν να διεκδικήσουν ανώτερα αξιώματα.[90]
Περαιτέρω, η ΤΝ μπορεί να συλλέγει και να αναλύει αυτά τα δεδομένα σε πραγματικό χρόνο, επιτρέποντας στους υπεύθυνους στρατηγικής της εκστρατείας να αλλάζουν τις προσεγγίσεις τους με βάση την κοινή γνώμη.[91]
IV) Μεταβολή της αντιπροσωπευτικής δημοκρατίας
1. Η προβληματική
Η συμμετοχή των πολιτών στις διαδικασίες διαβούλευσης -οργανωμένα με τη μορφή συνελεύσεων ή διάσπαρτα- θέτει το ζήτημα της μεταβαλλόμενης ή εξελισσόμενης φύσης της αντιπροσωπευτικής δημοκρατίας. Οι νέες τεχνολογίες του διαδικτύου που διευρύνουν τη δυνατότητα συμμετοχής μεγεθύνουν την όλη προβληματική. Ως εκ τούτου, πρέπει να εξετασθεί αν οι νέες δυνατότητες που παρέχει το διαδίκτυο αλλάζουν τα ποιοτικά χαρακτηριστικά της δημοκρατικής συμμετοχής με τρόπο που να επηρεάζει τη λειτουργία του πολιτεύματος.[92]
Είναι γεγονός ότι τα εργαλεία ΤΝ νοημοσύνης δίνουν τη δυνατότητα στους πολιτικούς να ερωτούν κατά τρόπο εύκολο, γρήγορο και αποτελεσματικό τη γνώμη του λαού για ποικίλα ζητήματα, για τα οποία αυτοί έχουν τη λαϊκή εντολή να αποφασίσουν. Εύλογα, λοιπόν, γεννάται το ερώτημα, πότε ένας πολιτικός οφείλει να επιστρέφει στον λαό, για ποιου είδους ερωτήματα και με ποιον τρόπο.[93] Τα σύγχρονα διαδικτυακά μέσα καλλιέργησαν κάποιες προοπτικές και ελπίδες για την ενίσχυση της συμμετοχής των πολιτών κατά τη διαδικασία λήψεως αποφάσεων.[94] Τίθεται με τον τρόπο αυτό το ζήτημα της μεταβολής της αντιπροσωπευτικής δημοκρατίας από τις νέες τεχνολογίες του διαδικτύου. Και αυτό διότι το κοινό που συμμετέχει στις διαδικασίες διαβούλευσης είναι από τη μία πλευρά διευρυμένο και από την άλλη πλευρά περιορισμένο.[95]
2. Η δυνατότητα διεύρυνσης του εκλογικού σώματος
Η διεύρυνση έγκειται στο γεγονός ότι η συμμετοχή στη λήψη αποφάσεων γίνεται κατά κανόνα χωρίς να λαμβάνει χώρα ένα είδος ταυτοποίησης του συμμετέχοντος. Θεωρητικά όλοι μπορούν να συμμετάσχουν σε κάθε ψηφοφορία είτε τους αφορά είτε όχι. Με τον τρόπο αυτό διευρύνεται ο κύκλος των ατόμων που αποφασίζουν για ένα ζήτημα.
Η ανησυχία αυτή διασκεδάζεται σε πολλά σύγχρονα μέσα ηλεκτρονικής ψηφοφορίας, στα οποία λαμβάνει χώρα ένα αυστηρό σύστημα ταυτοποίησης του εκλογέα. Η ταυτοποίηση αυτού του είδους εγείρει το ζήτημα της μυστικότητας της ψηφοφορίας και της προστασίας των προσωπικών δεδομένων του εκλογέως ενώ η ελεύθερη πρόσβαση στην ψηφοφορία ενέχει τον κίνδυνο της συμμετοχής στη λήψη της απόφασης ομάδων που δεν νομιμοποιούνται να αποφασίσουν. Εύλογα ανακύπτει το ερώτημα για ποιες διαδικασίες νομιμοποιούνται να αποφασίσουν οι πολίτες; Νομιμοποιούνται, λ.χ. όλοι οι Έλληνες του εξωτερικού να συμμετέχουν στη διαδικασία λήψεως αποφάσεων για τα εσωτερικά ζητήματα της Ελλάδος; Mήπως διανοίγεται δρόμος για την αλλοίωση του εκλογικού σώματος αλλά και τελικά του εκλογικού αποτελέσματος; Η θέση αυτή θα μπορούσε να αιτιολογηθεί στο γεγονός ότι δίδεται η δυνατότητα να διαμορφωθεί ένα εκλογικό σώμα, δυνητικά τεράστιο και ανυπολόγιστο που θα περιλαμβάνει ψηφοφόρους χωρίς κανέναν οικονομικό και κοινωνικό δεσμό με την Ελλάδα, οι οποίοι έρχονται ενδεχομένως μόνο για διακοπές στη χώρα και θα συμμετέχουν στις εκλογές με κριτήριο τις κοινωνικές και πολιτικές συνθήκες των χωρών όπου κατοικούν και το κυριότερο, δεν θα υφίστανται καμία συνέπεια από την όποια πολιτική τους επιλογή. Στο σημείο αυτό τονίζεται ότι η διευκόλυνση του δικαιώματος ψήφου των αποδήμων στο εκλογικό σώμα κρίνεται πως κινείται προς τη σωστή κατεύθυνση της ικανοποίησης της αρχής της καθολικότητας της ψήφου.[96] Εν προκειμένω, πρόκειται για διευκόλυνση άσκησης δικαιώματος και όχι για παροχή δικαιώματος ψήφου. Εκφράζονται κάποιες ανησυχίες αναφορικά με το κατά πόσον πολίτες άγευστοι της ελληνικής πραγματικότητας θα μπορούν να αποφασίζουν για τα ελληνικά δρώμενα.[97] Στη θέση αυτή αντιτάσσεται, ωστόσο, η ανάγκη στήριξης του απόδημου ελληνισμού και εν γένει ενσωμάτωσης του στα ελληνικά δρώμενα. Είναι αναγκαίο να δοθεί ένα κίνητρο, προκειμένου οι απόδημοι δεύτερης και τρίτης γενιάς να ενδιαφερθούν για τα κοινά της Ελλάδος, να δραστηριοποιηθούν από το εξωτερικό κατά το πρότυπο των Ελλήνων του εξωτερικού που αφύπνισαν με τις ιδέες τους το ελληνικό γένος και προετοίμασαν την ελληνική επανάσταση.[98]
Θα μπορούσαμε να προχωρήσουμε ένα βήμα περαιτέρω επιτρέποντας στους Έλληνες να συναποφασίζουν για τα γερμανικά ή ακόμα και τα αμερικανικά δρώμενα; Η όποια διεύρυνση του εκλογικού σώματος θα μπορούσε να δικαιολογηθεί στο γεγονός ότι σημαντικές αποφάσεις μιας τρίτης χώρας επιφέρουν αντανακλαστικές συνέπειες σε άλλους. Λ.χ. ο περιορισμός της μετανάστευσης στη Γερμανία επηρεάζει την Ελλάδα, που θα αναγκαστεί να απορροφήσει περισσότερους μετανάστες. Η απόσυρση των Η.Π.Α. από τη Συμφωνία των Παρισίων και εν γένει η κλιματική και περιβαλλοντική πολιτική των Η.Π.Α. επηρεάζει και άλλες χώρες. Η κατάργηση αγγλόγλωσσων πανεπιστημιακών σπουδών στην Ολλανδία θα οδηγήσει στη μεταφορά φοιτητών σε άλλες χώρες. Δεν είναι τυχαίο ότι ο Jürgen Habermas υποστηρίζει ότι δικαίωμα επιλογής στη διαβούλευση έχουν όλοι όσοι επηρεάζονται από τις αποφάσεις που θα ληφθούν.[99] Η διεύρυνση, όμως του εκλογικού σώματος θα μπορούσε να σηματοδοτήσει και την προσπάθεια καθορισμού-επηρεασμού του εκλογικού αποτελέσματος. Αυτό θα μπορούσε να συμβεί μέσω της εσκεμμένης καθοδήγησης μεγάλης ομάδος πολιτών να ψηφίσει συγκεκριμένη πολιτική επιλογή.
Σε κάθε περίπτωση συνάγεται ότι τα ηλεκτρονικά μέσα προσφέρουν δυνατότητες διεύρυνσης του εκλογικού σώματος είτε λειτουργούν υπό την αυστηρή τους μορφή (με σύστημα ταυτοποίησης) είτε υπό την χαλαρή τους μορφή (χωρίς σύστημα ταυτοποίησης). Ακόμα και όταν οι πολίτες είναι συνασπισμένοι σε Συνελεύσεις Πολιτών παρατηρείται και τότε διεύρυνση του αριθμού των αποφασίζοντων, καθώς τα μέλη των Συνελεύσεων είναι περισσότερα από τους αντιπροσώπους.
3. Κίνδυνος περιορισμού-αποκλεισμού των συμμετεχόντων
Η συμμετοχή στη λήψη αποφάσεων μέσω εργαλείων ΤΝ δύναται να περιορίσει το εκλογικό σώμα, στερώντας τους διαδικτυακά αναλφάβητους από τη δυνατότητα συμμετοχής σε διαδικασίες που δεν μπορούν να κατανοήσουν. Γίνεται λόγος για ένα είδος ψηφιακού αυταρχισμού (digital authoritarianism) υπό την έννοια ότι το διαδίκτυο μας επιτάσσει να συμμετέχουμε σε διαδικτυακές διαδικασίες, αλλά και μας επιβάλλει αυτό που θέλει να ακολουθήσουμε.[100] Ορισμένα τμήματα του πληθυσμού παραμένουν μη αντιπροσωπευμένα σε αυτές τις πλατφόρμες λόγω διαφόρων συστημικών ανισοτήτων (όπως το φύλο, η ηλικία, η κοινωνικο-οικονομική κατάσταση ή η ίδια η έλλειψη συνδεσιμότητας, που οδηγεί σε αποσύνδεση και πλήρη ψηφιακό αποκλεισμό).[101] Με τον τρόπο αυτό επέρχεται ανισότητα ανάμεσα στους διαδικτυακά υποδεέστερους και τους διαδικτυακά επαΐοντες, διάκριση ή ψηφιακός διχασμός που θα μπορούσε να αναχθεί σε διάκριση ανάμεσα στους έχοντες και μη έχοντες.[102] Δεδομένου μάλιστα ότι οι ασφαλείς εκλογές προϋποθέτουν ισχυρή ταυτοποίηση, οι απαιτούμενες διαδικτυακές γνώσεις ξεπερνούν κατά πολύ το αρχάριο επίπεδο. Το χάσμα αυτό, όμως, πιστεύεται ότι συν τω χρόνω θα αμβλυνθεί.
4. Μεταβάλλεται η αντιπροσωπευτική δημοκρατία εν τέλει;
Η ανωτέρω προβληματική μας οδηγεί στο ερώτημα μήπως η διεύρυνση του εκλογικού σώματος θεραπεύει τα μειονεκτήματα της αντιπροσωπευτικής δημοκρατίας, τα οποία έγκεινται κατά κύριο λόγο στην αποξένωσή της από την εκλογική βάση και τον κίνδυνο της τεχνοκρατίας;[103] Μήπως, όμως, δημιουργείται στον πολίτη η ψευδαίσθηση της συμμετοχής του στα κοινά, ενώ εν τοις πράγμασι η συμμετοχή του δεν έχει αντίκρισμα;[104] Μήπως λαμβάνει χώρα διάχυση της πολιτικής ευθύνης προς τον λαό, ο οποίος δεν μπορεί να φέρει την πολιτική ευθύνη; Ποιος θα φέρει την ευθύνη στην περίπτωση μιας εσφαλμένης επιλογής που οδηγήσει τη χώρα σε οικονομική καταστροφή; Θα διωχθεί πολιτικά ο λαός; Στο σημείο αυτό, κρίσιμο είναι να τονισθεί ότι η ΤΝ πρέπει να αξιοποιηθεί ως μέσο διαβούλευσης και όχι διάχυσης της πολιτικής ευθύνης. Με τον τρόπο αυτό μπορεί να διατηρηθούν τα δομικά χαρακτηριστικά της αντιπροσωπευτικής δημοκρατίας. Οι αντιπρόσωποι θα αφουγκράζονται τον λαό, αλλά θα αποφασίζουν οι ίδιοι.
V) Αποχή ή αποδοχή υπό όρους;
Οι λύσεις είναι δυο: Η αποχή ή η αποδοχή υπό όρους. Η πρώτη είναι τεχνοφοβική και ουτοπική. To τζίνι είναι ήδη ελεύθερο.[105] Η δεύτερη απαιτεί τη χάραξη προσεκτικής πολιτικής. Στην κατεύθυνση αυτή οι υπεύθυνοι χάραξης πολιτικής πρέπει να εξετάσουν τα αντισταθμιστικά οφέλη της υδατογράφησης περιεχομένου ΤΝ -μια τεχνική που ενσωματώνει μια μοναδική, ανιχνεύσιμη υπογραφή στο περιεχόμενο που παράγεται από ΤΝ, χαρακτηρίζοντάς το ως προϊόν ΤΝ. Τα ορατά υδατογραφήματα προάγουν τη διαφάνεια, αλλά μπορεί να διαταράξουν την καλλιτεχνική πρόθεση, ενώ τα ψηφιακά υδατογραφήματα, κρυμμένα στα μεταδεδομένα, είναι πιο διακριτικά αλλά ευκολότερα παραποιήσιμα.[106] Ο παγκόσμιος, διασυνδεδεμένος χαρακτήρας του διαδικτυακού περιεχομένου υποδηλώνει ότι ευρύτερα, εναρμονισμένα πρότυπα σε όλες τις δικαιοδοσίες μπορεί να είναι απαραίτητα για την αποτελεσματική πολυμερή διακυβέρνηση. Η G7 έχει καλέσει τις εταιρείες να αναπτύξουν αξιόπιστους μηχανισμούς, όπως η υδατογράφηση.[107] Στην κατεύθυνση αυτή ο Κανονισμός για την ΤΝ επιβάλλει υποχρεώσεις στους παρόχους και τους φορείς ανάπτυξης τεχνητής νοημοσύνης να διασφαλίζουν τη διαφάνεια, την ανίχνευση και τον εντοπισμό του υλικού που παράγεται με τεχνητή νοημοσύνη (αιτιολ. σκέψη 115). Η αντιμετώπιση των προκλήσεων που θέτει το περιεχόμενο που παράγεται από ΤΝ θα απαιτήσει συντονισμό σε ένα ευρύ φάσμα ενδιαφερόμενων φορέων, συμπεριλαμβανομένων των κυβερνήσεων, των εταιρειών ΤΝ, των πλατφορμών κοινωνικών μέσων και των χρηστών. Οι εταιρείες τεχνολογίας έχουν επίσης κεντρικό ρόλο στην ανάπτυξη εργαλείων αυθεντικότητας και προέλευσης για τον εντοπισμό και την ανίχνευση της προέλευσης του περιεχομένου που παράγεται από ΤΝ. [108] Η χρήση της τεχνητής νοημοσύνης για την καταπολέμηση της τεχνητής νοημοσύνης προσφέρει κάποιες υποσχέσεις, αλλά πολλά εργαλεία ανίχνευσης δεν είναι προσβάσιμα στο κοινό. [109]
Ωστόσο, η εξάρτηση από την τεχνολογία ανίχνευσης από μόνη της μπορεί να είναι ανεπαρκής χωρίς ρυθμιστική εποπτεία και δημόσιες πρωτοβουλίες ψηφιακής παιδείας. Η ενίσχυση της τεχνητής νοημοσύνης και του πληροφοριακού αλφαβητισμού είναι ζωτικής σημασίας, ενώ απαιτείται επειγόντως ευρεία εκπαίδευση στις ψηφιακές δεξιότητες.[110]
V. Προτάσεις
H ειρηνική σύμπλευση της ΤΝ με την αναβάθμιση της δημοκρατίας απαιτεί μια σειρά μέτρων.
Πρώτον, αδήριτη καθίσταται η ανάγκη εκπαίδευσης και ευαισθητοποίησης των πολιτών αναφορικά με τις προκλήσεις της ΤΝ. Είναι σημαντικό να δημιουργηθούν μηχανισμοί διαλόγου με τα εθνικά και περιφερειακά κοινοβούλια, κυρίως μέσω των επιτροπών επιστήμης και τεχνολογίας.
Δεύτερον, απαιτεί προσεκτική ρύθμιση προκειμένου η ΤΝ να χρησιμοποιείται για το «κοινό καλό», με γνώμονα ανθρωπιστικές αρχές όπως η ποικιλομορφία, η ισότητα και η ένταξη, που κατοχυρώνονται στην προστασία των ανθρωπίνων δικαιωμάτων, της δημοκρατίας και του κράτους δικαίου.[111] Το νομικό πλαίσιο πρέπει να θεσπίζει ανεξάρτητους μηχανισμούς εποπτείας για την αποτελεσματική συμμόρφωση, ώστε να διασφαλίζεται η λογοδοσία. Ωστόσο, ένας τέτοιος μηχανισμός εποπτείας μπορεί να είναι αποτελεσματικός μόνο εάν είναι προληπτικός και δεσμεύεται εκ των προτέρων, δηλαδή πριν προκύψουν ζητήματα. [112] Πράγματι, ενώ η εισαγωγή κυρώσεων για μη συμμορφούμενη συμπεριφορά είναι σημαντική, η στήριξη αποκλειστικά σε εκ των υστέρων κυρώσεις και πρόστιμα -που οι μεγάλες ιδιωτικές εταιρείες μπορούν συνήθως να καταβάλουν, ανεξάρτητα από το ποσό – μπορεί να μην επιτύχει τα επιθυμητά αποτελέσματα. Αυτό οφείλεται στο γεγονός ότι είναι συχνά δύσκολο, αν όχι αδύνατο, να επανέλθει κανείς στην προηγούμενη κατάσταση ή να «αναιρέσει τη ζημιά» μετά την εισαγωγή και τη χρήση μιας συγκεκριμένης τεχνολογίας ΤΝ, ανεξάρτητα από τη συμμόρφωσή της, ή την έλλειψή της, με τα ηθικά πρότυπα, τα ανθρώπινα δικαιώματα, τη δημοκρατία και το κράτος δικαίου. [113] Επιπλέον, πρέπει να καταβληθούν προσπάθειες για τον εκδημοκρατισμό[114] των δεδομένων.[115] Παράλληλα με τα νομικά μέτρα για την πρόληψη ή τον περιορισμό της διάδοσης της επιβλαβούς ρητορικής, οι θεσμοί ελέγχου των γεγονότων έχουν αποδειχθεί αποτελεσματικοί στον μετριασμό των αρνητικών επιπτώσεών τους.[116] Για να εξασφαλιστεί η μέγιστη δυνατή διαφάνεια, απαραίτητη για μια ενημερωμένη κοινή γνώμη, τα κράτη ενθαρρύνονται να προωθήσουν κώδικες βέλτιστων πρακτικών για τις εταιρείες και να απαιτήσουν την αναγνώριση των προϊόντων που παράγονται από τεχνητή νοημοσύνη ως μέτρα για την καταπολέμηση της παραπληροφόρησης.
Τρίτον, η ενθάρρυνση της διαφάνειας και της επεξηγηματικότητας στα συστήματα τεχνητής νοημοσύνης είναι ζωτικής σημασίας για την ευκολότερη κατανόηση των διαδικασιών λήψης αποφάσεων και των κριτηρίων που διέπουν τα αποτελέσματά τους. [117] Τα προβλήματα αντιπροσώπευσης, αποκλεισμού ή διακρίσεων σε όλη την πολιτική εν γένει μπορεί να επιδεινωθούν εάν οι αποφάσεις λαμβάνονται με διαδικασίες τεχνητής νοημοσύνης τις οποίες οι άνθρωποι που επηρεάζονται δεν μπορούν να ́καταλάβουν. Η διαφάνεια πρέπει να συνδέεται και με την οριοθέτηση του καθεστώτος ανωνυμίας στα μέσα κοινωνικής δικτύωσης,[118] υπό την έννοια ότι δεν πρέπει να προκαλείται παραπλάνηση των αναγνωστών αναφορικά με την ταυτότητα του γράφοντος. [119]
Τέταρτον, βάσει της αρχής του πλουραλισμού[120] σε όλη τη διαδικασία της τεχνητής νοημοσύνης, πρέπει να διασφαλίζεται η ποικιλομορφία των φύλων μεταξύ των επαγγελματιών, ο σχεδιασμός συστημάτων χωρίς αποκλεισμούς, τα επιμελημένα σύνολα δεδομένων, ο μετριασμός των μεροληπτικών πολιτικών αποκλεισμού, οι διαδικασίες αναγνώρισης προσώπου και οι συστάσεις πληροφοριών. Ο πλουραλισμός πρέπει να καθοδηγεί τον εκδημοκρατισμό της διακυβέρνησης της τεχνητής νοημοσύνης, εμπλέκοντας νέους φορείς, όπως περιφέρειες, πόλεις, ιδιωτικούς φορείς και πολίτες στις διαδικασίες λήψης αποφάσεων.[121]
Πέμπτον, η ΤΝ για να λειτουργήσει απαιτεί την ψηφιοποίηση του κράτους.[122] Οι στρατηγικές ψηφιοποίησης θα πρέπει να περιλαμβάνουν στόχους που σχετίζονται με τον τεχνολογικό μετασχηματισμό και τον οικονομικό εκσυγχρονισμό, καθώς και άλλους με άμεσες δημοκρατικές επιπτώσεις. Σε αυτούς περιλαμβάνονται η ψηφιοποίηση των δημόσιων διοικήσεων και η προώθηση της ψηφιακής εγγραμματοσύνης[123] μεταξύ των πολιτών, όλα θεμελιωμένα σε δημοκρατικές αξίες όπως η ισότητα, η ένταξη και η λογοδοσία.[124] Οι δημοκρατικές αρχές της ισότητας, της λογοδοσίας και της διαφάνειας[125] θα πρέπει να αποτελέσουν τον ακρογωνιαίο λίθο της εφαρμογής του συστήματος ΤΝ, ιδίως στις δημόσιες υπηρεσίες.[126]
Έκτον, επιτακτική ανάγκη είναι η υιοθέτηση καθολικών προτύπων για την ψηφιοποίηση και την τεχνητή νοημοσύνη.[127] Τα πρότυπα αυτά θα πρέπει να αντικατοπτρίζουν τις διαφορετικές προοπτικές, τα συμφέροντα και τους στόχους των ενδιαφερομένων μερών παγκοσμίως, με ιδιαίτερη προσοχή στις περιθωριοποιημένες περιοχές. [128]
VI) Συμπέρασμα
Τα εργαλεία τεχνητής νοημοσύνης μπορούν να επιτρέψουν νέες μορφές συμμετοχής, αλλά και να διευκολύνουν τη διάδοση της παραπληροφόρησης. Έχουν τη δυνατότητα να ενισχύσουν τη λογοδοσία των δημόσιων θεσμών και των εκπροσώπων τους, να προωθήσουν τη μεγαλύτερη συμμετοχή και τον πλουραλισμό για να εμπλουτίσουν τη συμμετοχή των πολιτών και να καταστήσουν τη δημοκρατία πιο περιεκτική και ευέλικτη, αλλά παράλληλα μπορούν να ενισχύσουν αυταρχικές τάσεις και να χρησιμοποιηθούν για δυνητικά κακόβουλους και χειραγωγικούς σκοπούς.[129] H συνθετότητα του ζητήματος επιτάσσει διεξοδική έρευνα για την κατανόηση αυτών των απειλών και ευκαιριών με σκοπό τη χάραξη πολιτικών που θα μετριάζουν τις απειλές και θα πολλαπλασιάζουν τις ευκαιρίες. Εναπόκειται στις εποπτικές αρχές να ελέγχουν κατά τρόπο αποτελεσματικό, αλλά όχι τεχνοφοβικό τις τεχνολογίες συμμετοχής στις δημοκρατικές διαδικασίες. Περαιτέρω, απαιτούνται προηγμένες μέθοδοι αποκάλυψης για να διασφαλίσουμε ότι γνωρίζουμε πότε αλληλεπιδρούμε με έναν υπολογιστή ή με ένα άλλο άτομο.[130] Είναι στο χέρι μας να διαμορφώσουμε την ΤΝ ως εργαλείο δημοκρατικής αναβάθμισης και όχι ψηφιακού αυταρχισμού.
Φερενίκη Παναγοπούλου
Aναπλ. Καθηγήτρια Παντείου Πανεπιστημίου
Δ.Ν. (Humboldt), M.P.H. (Harvard), Μ.Δ.Ε., Δρ Φιλ. (Ε.Κ.Π.Α.)*
*Προδημοσίευση από τον Τιμητικό Τόμο για την Καθηγήτρια Ευαγγελία Κουτούπα-Ρεγκάκου. Θερμές ευχαριστίες εκφράζονται στον Καθηγητή Νομικής Σχολής ΕΚΠΑ, Γεώργιο Γιαννόπουλο, για τον πολύ εποικοδομητικό διάλογο μαζί του.
[1] Σύμφωνα με το άρθρο 3 παρ. 1 του Κανονισμού 2024/1689 «σύστημα ΤΝ» είναι μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα.
[2] Bλ. Φερενίκη Παναγοπούλου-Κουτνατζή, Τεχνητή νοημοσύνη: Ο δρόμος προς έναν ψηφιακό συνταγματισμό: Μια ηθικο-συνταγματική θεώρηση, Εκδόσεις Παπαζήση, Αθήνα 2023, σ. 115. Bλ. και την περίπτωση της βρετανικής εταιρείας συμβούλων Cambridge Analytica, η οποία κατά τη δεκαετία του 2010, συνέλεξε προσωπικά δεδομένα από εκατομμύρια χρήστες του Facebook χωρίς τη συγκατάθεσή τους, τα οποία προορίζονταν κυρίως για πολιτική διαφήμιση.
[3] Βλ. Raluca Csernatoni, Can Democracy Survive the Disruptive Power of AI?, 18.12.2024, διαθέσιμο σε: https://carnegieendowment.org/research/2024/12/can-democracy-survive-the-disruptive-power-of-ai?lang=en.
[4] Βλ. τη σχετική προβληματική σε Λίλιαν Μήτρου, Ψηφιακή Δημοκρατία, Συμμετοχή και απειλές, σε: Γιώργο Καραβοκύρη (επιμ.), Κράτος Δικαίου και Δημοκρατία στην ψηφιακή εποχή, Ίδρυμα της Βουλής των Ελλήνων για τον Κοινοβουλευτισμό και τη Δημοκρατία, Αθήνα 2024, σ. 53 επ. (78 επ.)
[5] Βλ. Council of Europe, Study on the Human Rights dimensions of automated data processing techniques (in particular algorithms) and possible regulatory implications, March 2018, διαθέσιμο σε: file:///C:/Users/feren/Downloads/Algorithms_and_Human_Rights_EN-rev.pdf.pdf.
[6] Βλ. Λίλιαν Μήτρου, Ψηφιακή Δημοκρατία, Συμμετοχή και απειλές, όπ. ανωτ., σ. 82.
[7] Βλ. Λίνα Παπαδοπούλου, Ψευδείς ειδήσεις και μισαλλόδοξος λόγος, σε: Γιώργο Καραβοκύρη (επιμ.), Κράτος Δικαίου και Δημοκρατία στην ψηφιακή εποχή, Ίδρυμα της Βουλής των Ελλήνων για τον Κοινοβουλευτισμό και τη Δημοκρατία, Αθήνα 2024, σ. 99 επ. (117).
[8] Σύμφωνα με την αιτιολογική έκθεση 134 και το άρθρο 3 παρ. 60 του Κανονισμού για την ΤΝ «προϊόντα βαθυπαραποίησης» είναι «περιεχόμενο εικόνας, ήχου ή βίντεο παραγόμενο ή υφιστάμενο χειρισμό από ΤΝ, το οποίο παρουσιάζει ομοιότητες με υπαρκτά πρόσωπα, αντικείμενα, τοποθεσίες, οντότητες ή γεγονότα και μπορεί να δώσει την απατηλή εντύπωση ότι είναι γνήσιο ή αληθινό».
[9] Ibidem.
[10] Ibidem.
[11] Ibidem.
[12] Ibidem.
[13]Βλ. Τοm Dausy, Data, the New Gold: How AI is Unlocking Insights and Driving Business Growth, 19.5.2024, διαθέσιμο σε: https://medium.com/@tomdausy/data-the-new-gold-how-ai-is-unlocking-insights-and-driving-business-growth-c458b5676f08.
[14] Ibidem.
[15] UNESCO, Artificial Intelligence and Democracy, 2024, διαθέσιμο σε: https://unesdoc.unesco.org/ark:/48223/pf0000389736, σ.13.
[16] Βλ. Σχέδιο για τη μετάβαση της Ελλάδας στην εποχή της ΤΝ, διαθέσιμο σε: https://foresight.gov.gr/wp-content/uploads/2024/11/Sxedio_gia_tin_metavasi_TN_Gr.pdf, σ. 46.
[17] UNESCO, Artificial Intelligence and Democracy, 2024, όπ. ανωτ., σ.12.
[18] Ibidem.
[19] Βλ. Cornelius Erfort, Targeting voters online: How parties’ campaigns differ, Electoral Studies Volume 92, December 2024, διαθέσιμο σε: https://www.sciencedirect.com/science/article/pii/S0261379424001306?via%3Dihub.
[20] Kλασική περίπτωση προκατάληψης είναι οι συστηματικές διακρίσεις εις βάρος των γυναικών που έκαναν αίτηση για τεχνικές θέσεις εργασίας στην Amazon, όπως θέσεις μηχανικών λογισμικού. Ο αλγόριθμος ανέπτυξε αυτού του είδους την προκατάληψη, διότι η υπάρχουσα δεξαμενή μηχανικών λογισμικού της Amazon είναι σε συντριπτική πλειοψηφία άνδρες και το νέο λογισμικό τροφοδοτήθηκε με δεδομένα σχετικά με τα βιογραφικά αυτών των μηχανικών. Βλ. Rachel Goodman, Why Amazon’s Automated Hiring Tool Discriminated Against Women, ΑCLU, 12.10.2018 διαθέσιμο σε: https://www.aclu.org/news/womens-rights/why-amazons-automated-hiring-tool-discriminated-against.
[21] UNESCO, Artificial Intelligence and Democracy, 2024, όπ. ανωτ., σ.14.
[22] Πρβλ. τον αλγόριθμο COMPAS, Correctional Offender Management Profiling for Alternative Sanctions.
[23] UNESCO, Artificial Intelligence and Democracy, 2024, όπ. ανωτ., σ.14.
[24] H European Data Act (Ο κανονισμός σχετικά με τους εναρμονισμένους κανόνες για τη δίκαιη πρόσβαση στα δεδομένα και τη χρήση τους – γνωστός και ως νόμος για τα δεδομένα – τέθηκε σε ισχύ στις 11 Ιανουαρίου 2024) και αποτελεί βασικό πυλώνα της ευρωπαϊκής στρατηγικής για τα δεδομένα που θα συμβάλλει σημαντικά στην επίτευξη του στόχου της ψηφιακής δεκαετίας για την προώθηση του ψηφιακού μετασχηματισμού. Ορίζει ότι τα συνδεδεμένα προϊόντα πρέπει να σχεδιάζονται και να κατασκευάζονται και οι σχετικές υπηρεσίες πρέπει να παρέχονται κατά τρόπο ώστε τα δεδομένα που παράγονται από αυτά τα προϊόντα και τις υπηρεσίες να είναι άμεσα προσβάσιμα στους χρήστες (άρθρο 3). Εάν τα δεδομένα δεν μπορούν να καταστούν άμεσα προσβάσιμα, πρέπει να διατίθενται κατόπιν αιτήματος χωρίς αδικαιολόγητη καθυστέρηση (άρθρο 4).
Υπάρχει εξαίρεση από την υποχρέωση άμεσης πρόσβασης ή διάθεσης των δεδομένων κατόπιν αιτήματος, όταν κάτι τέτοιο θα υπονόμευε την ασφάλεια του συνδεδεμένου προϊόντος, με αποτέλεσμα σοβαρές δυσμενείς επιπτώσεις στην υγεία, την ασφάλεια ή την προστασία των φυσικών προσώπων.
Σύμφωνα με τα άρθρα 3 και 4 του νόμου, τα δεδομένα που πρέπει να είναι άμεσα προσβάσιμα ή διαθέσιμα κατόπιν αιτήματος περιλαμβάνουν δεδομένα προϊόντος, τα οποία είναι δεδομένα που παράγονται από τη χρήση του συνδεδεμένου προϊόντος και τα οποία έχουν σχεδιαστεί ώστε να είναι ανακτήσιμα μέσω υπηρεσίας ηλεκτρονικών επικοινωνιών, φυσικής σύνδεσης ή πρόσβασης στη συσκευή, δεδομένα σχετικής υπηρεσίας, τα οποία είναι δεδομένα που αντιπροσωπεύουν την ψηφιοποίηση των ενεργειών (συμπεριλαμβανομένων των ενεργειών εντός) και των συμβάντων ενός χρήστη που σχετίζονται με το συνδεδεμένο προϊόν, σε κάθε περίπτωση που καταγράφονται σκόπιμα από τον χρήστη ή παράγονται ως υποπροϊόν των ενεργειών του χρήστη- και μεταδεδομένα που είναι απαραίτητα για την ερμηνεία των ανωτέρω κατηγοριών δεδομένων.
[25] UNESCO, Artificial Intelligence and Democracy, 2024, όπ. ανωτ., σ.14.
[26] Βλ. How Data Analytics Drive Growth for Wealth Management Firms, 2.8.2024, διαθέσιμο σε: https://www.uneecops.com/blog/data-analytics-for-wealth-management-firm/.
[27] UNESCO, Artificial Intelligence and Democracy, 2024, όπ. ανωτ., σ.14.
[28] UNESCO, Artificial Intelligence and Democracy, 2024, όπ. ανωτ., σ.14.
[29] Bλ. Φερενίκη Παναγοπούλου-Κουτνατζή, Τεχνητή νοημοσύνη: Ο δρόμος προς έναν ψηφιακό συνταγματισμό: Μια ηθικο-συνταγματική θεώρηση, όπ. ανωτ., σ. 286.
[30] Ιbidem, σ. 288.
[31] Βλ. Latanya McSweeney, Psychographics, Predictive Analytics, Artificial Intelligence & Bots: Is the FTC Keeping Pace?, διαθέσιμο σε: http://dataprivacylab.org/projects/onlineads/1071-1.pdf, σ. 514 επ..
[32] Bλ. Φερενίκη Παναγοπούλου-Κουτνατζή, Τεχνητή νοημοσύνη: Ο δρόμος προς έναν ψηφιακό συνταγματισμό: Μια ηθικο-συνταγματική θεώρηση, όπ. ανωτ., σ. 286.
[33] Βλ. Φερενίκη Παναγοπούλου-Κουτνατζή, Νομικοί και δεοντολογικοί προβληματισμοί για τη χρήση του ChatGPT στην εκπαίδευση, ΔιΤΕ 2023, σ. 6 επ. (11, όπ. περαιτ. παραπ.).
[34] Βλ. Σχέδιο για τη μετάβαση της Ελλάδας στην εποχή της ΤΝ, όπ. ανωτ., σ. 94.
[35] Βλ. Λίλιαν Μήτρου, Ψηφιακή Δημοκρατία, Συμμετοχή και απειλές, όπ. ανωτ., σ. 83. Τίθεται, όμως, και το ζήτημα του ποιος θα χαρακτηρίζει τις ειδήσεις ως αληθείς, ψευδείς ή αμφισβητούμενες.
[36] Βλ. Σχέδιο για τη μετάβαση της Ελλάδας στην εποχή της ΤΝ, όπ. ανωτ., σ. 94.
[37] Βλ. Λίλιαν Μήτρου, Ψηφιακή Δημοκρατία, Συμμετοχή και απειλές, όπ. ανωτ., σ. 87.
[38] Υπό αυτή την έννοια αποτελεί η Πράξη αυτή την πιο σημαντική αναμόρφωση αναφορικά με τις ψηφιακές πλατφόρμες. Βλ. Ιωάννη Ιγγλεζάκη, Το δίκαιο της ψηφιακής οικονομίας, 2η έκδοση, Εκδόσεις Σάκκουλα, Αθήνα-Θεσσαλονίκη, σ. 71.
[39] Βλ. N. Suzor, Digital Constitutionalism: Using the Rule of Law to Evaluate the Legitimacy of Governance by Platforms, Social Media 2018, διαθέσιμο σε: 10.1177/2056305118787812, σ. 3.
[41] Βλ. Anton Korinek/ Jai Vipra, “AI monopolies.” Economic Policy. 27.3.2024, διαθέσιμο σε: https://www.economic-policy.org/79th-economic-policy-panel/ai-monopolies/.
[42] Βλ. Sarah Hubbard, Cooperative Paradigms for Artificial Intelligence, Ash Center for Democratic Governance and Innovation, Ηarvard Kennedy School, 20.11.2024, διαθέσιμο σε: https://ash.harvard.edu/resources/cooperative-paradigms-for-artificial-intelligence/.
[43] International Cooperative Alliance, Co-ops Employ 10% of the Global Employed Population, 25.9.2017, διαθέσιμο σε: https://ica.coop/en/media/news/co-ops-employ-10-global-employed-population.
[44] Spelliscy, Connor/ Sarah Hubbard/ Nathan Schneider/Samuel Vance-Law, Toward Equitable Ownership and Governance in the Digital Public Sphere, Stanford Journal of Blockchain Law & Policy 2024, διαθέσιμο σε: https://stanford-jblp.pubpub.org/pub/equitable-ownership-and-governance/release/1.
[45] Βλ. Sarah Hubbard, Cooperative Paradigms for Artificial Intelligence, όπ. ανωτ..
[46] Βλ. Φερενίκη Παναγοπούλου, Η αλγοριθμική λήψη αποφάσεων στη δημόσια διοίκηση, σε: Γιώργο Καραβοκύρη (επιμ.), Κράτος Δικαίου και Δημοκρατία στην ψηφιακή εποχή, Ίδρυμα της Βουλής των Ελλήνων για τον Κοινοβουλευτισμό και τη Δημοκρατία, Αθήνα 2024, σ. 141 επ..
[47] Βλ. John Danaher, The threat of algocracy: Reality, resistance and accommodation, Philosophy & Technology 29, σ. 245-268.
[48] UNESCO, Artificial Intelligence and Democracy, 2024, όπ. ανωτ., σ.16.
[49] Ιbidem.
[50] Ibidem.
[51] Ibidem.
[52] Βλ. Φερενίκη Παναγοπούλου, Η αλγοριθμική λήψη αποφάσεων στη δημόσια διοίκηση, όπ. ανωτ., σ. 180.
[53] It’s the biggest election year in modern history. Will democracy prevail?, 3.7.2024, διαθέσιμο σε:https://www.npr.org/2024/07/03/1198912778/its-the-biggest-election-year-in-modern-history-will-democracy-prevail.
[54] Βλ. Bruce Schneier/Nathan Sanders, The apocalypse that wasn’t: AI was everywhere in 2024’s elections, but deepfakes and misinformation were only part of the picture, Ash Center for Democratic Governance and Innovation, Ηarvard Kennedy School, 4.12.2024, διαθέσιμο σε: https://ash.harvard.edu/articles/the-apocalypse-that-wasnt-ai-was-everywhere-in-2024s-elections-but-deepfakes-and-misinformation-were-only-part-of-the-picture/.
[55] Βλ. Sarah Hubbard, The Role of AI in the 2024 Elections, Ash Center for Democratic Governance and Innovation, Ηarvard Kennedy School, 5.12.2024, διαθέσιμο σε: https://ash.harvard.edu/resources/the-role-of-ai-in-the-2024-elections/.
[56] Ibidem.
[57] Βλ. τη σχετική προβληματική σε Λίλιαν Μήτρου, Ψηφιακή Δημοκρατία, Συμμετοχή και απειλές, όπ. ανωτ., σ. 55 επ..
[58] Βλ. Tarleton Gillespie, The politics of ‘platforms, New Media & Society 12(3) 2010, σ. 347–364.
[59] Βλ. Sylvain Bouveret / Michel Lemaître, Computing leximin-optimal solutions in constraint networks, Artificial Intelligence 173 (2009) 343–364, doi:10.1016/j.artint.2008.10.010.
[60] https://blog.pol.is/pol-is-in-taiwan-da7570d372b5.
[61] Βλ. Σχέδιο για τη μετάβαση της Ελλάδας στην εποχή της ΤΝ, όπ. ανωτ. σ. 94.
[62] Ibidem.
[63] Ibidem.
[64] Συνελεύσεις πολιτών συγκροτήθηκαν στην Ιρλανδία για την αξιολόγηση πιθανών τροποποιήσεων του Συντάγματος (π.χ. σχετικά με τον γάμο μεταξύ ατόμων του ίδιου φύλου και τα αναπαραγωγικά δικαιώματα).
[65] Πρόκειται για τη Σύμβαση πολιτών για το Κλίμα στη Γαλλία, η οποία συνεδρίασε το 2019/2020. Η Σύμβαση προέρχεται από την εξέγερση των «Gilets Jaunes» (Κίτρινα Γιλέκα) που ξεκίνησε στα τέλη του 2018 ως απάντηση στην εισαγωγή ενός νέου φόρου καυσίμων από τη γαλλική κυβέρνηση. Καθώς η γαλλική κυβέρνηση πάσχιζε να ανταποκριθεί στην εξέγερση (η οποία υποστηριζόταν από όλο το πολιτικό φάσμα), προσπάθησε να διοχετεύσει τη λαϊκή ενέργεια -και ίσως να την περιορίσει- οργανώνοντας μια «Μεγάλη Εθνική Συζήτηση». Η Εθνική Συζήτηση πήρε τη μορφή μιας σειράς τοπικών συνελεύσεων τύπου Συνελεύσεως των Πολιτών. Από αυτή την εμπειρία προέκυψε η ιδέα της διεξαγωγής μιας εθνικής αρχής για την πολιτική για το κλίμα. Τον Ιούλιο του 2019, η κυβέρνηση ανέθεσε στη Συνέλευση το έργο της υποβολής συστάσεων για τον τρόπο με τον οποίο η Γαλλία θα μπορούσε να μειώσει με κοινωνικά δίκαιο τρόπο τις εκπομπές διοξειδίου του άνθρακα κατά 40% σε σχέση με τα επίπεδα του 1990 έως το 2030.
[66] Στο Βέλγιο έχει προταθεί ένας μόνιμος φορέας που φέρει τα χαρακτηριστικά Συνελεύσεως των πολιτών που θα έχει την εξουσία να αποφασίζει εάν θα προχωρήσει κάποια πρόταση σε δημοψήφισμα. OECD, Eight Ways to Institutionalise Deliberative Democracy, 2021, https://www.
oecd.org/gov/open-government/eight-ways-to-institutionalise-deliberative-democracy.htm
[67] Στον Καναδά δημιουργήθηκε Συνέλευση των πολιτών για τη μεταρρύθμιση της εκλογικής νομοθεσίας. Βλ. https://nationalcitizensassembly.ca/.
[68] OECD, Innovative Citizen Participation and New Democratic Institutions: Catching the Deliberative Wave, 2020, https://www.oecd-ilibrary.org/fr/governance/ innovative-citizen-participation-and-new- democratic-institutions_339306da-en.
[69] Βλ. ΕΝΑ, Ινστιτούτο Εναλλακτικών Πολιτικών, Συνελεύσεις Πολιτών και Δημοκρατική Ανανέωση, Μάιος 2022, σ. 3.
[70] Ibidem.
[71] Ibidem.
[72] Ibidem, σ. 4.
[74] Ibidem, σ. 6.
[75] Ibidem.
[76] Bλ. Ananya Bhattacharya, Political campaigns embrace AI to reach voters across language barriers,Advocacy groups like AAPI Victory Alliance are using ChatGPT and Claude to reach speakers of Hindi, Tagalog, and more, 19.9.2024, διαθέσιμο σε: https://restofworld.org/2024/aapi-victory-alliance-ai-voter-outreach/.
[77] Japanese mayor suddenly speaks fluent English with AI video that surprises even him, Japan today, 7.6.2024, διαθέσιμο σε: https://japantoday.com/category/politics/japanese-mayor-suddenly-speaks-fluent-english-with-ai-video-that-surprises-even-him.
[78] Βλ. Zhe Wu, As Bay Area Cities Adopt Real-Time AI Translation for Public Meetings, SF Abstains
Community groups say San Francisco needs to improve language access at City Hall
San Francisco Public Press, 6.12.24, διαθέσιμο σε: https://www.sfpublicpress.org/as-bay-area-cities-adopt-real-time-ai-translation-for-public-meetings-sf-abstains/.
[79] BJP To use AI to translate PM’s speeches, The Times of India, 8.3.2024, διαθέσιμο σε: https://timesofindia.indiatimes.com/city/bengaluru/bjp-to-use-ai-to-translate-pms-speeches/articleshow/108318912.cms.
[80] Βλ. Anthony Izaguirre, Adams’ revelation that he uses AI to speak in Mandarin stirs outcry: ‘The mayor is making deep fakes of himself’, The Associated Press, 17.10.2023, https://fortune.com/2023/10/17/new-york-city-mnayor-eric-adams-uses-ai-to-speak-mandarin/.
[81] Βλ. Bruce Schneier/Nathan Sanders, The apocalypse that wasn’t: AI was everywhere in 2024’s elections, but deepfakes and misinformation were only part of the picture, Ash Center for Democratic Governance and Innovation, Ηarvard Kennedy School, 4.12.2024, διαθέσιμο σε: https://ash.harvard.edu/articles/the-apocalypse-that-wasnt-ai-was-everywhere-in-2024s-elections-but-deepfakes-and-misinformation-were-only-part-of-the-picture/.
[82] https://blog.google/products/translate/google-translate-new-languages-2024/.
[83] Βλ. Bruce Schneier/Nathan Sanders, The apocalypse that wasn’t: AI was everywhere in 2024’s elections, but deepfakes and misinformation were only part of the picture, όπ. ανωτ..
[84] Imran Khan’s ‘Victory Speech’ From Jail Shows A.I.’s Peril and Promise, Τhe New York Times, διαθέσιμο σε: https://www.nytimes.com/2024/02/11/world/asia/imran-khan-artificial-intelligence-pakistan.html.
[85] Βλ. Gideon Lichfield, Meet your AI politician of the future. A young, no-name outsider is quietly revolutionizing Japanese political campaigning. His experiment may presage what all campaigns look like a few years from now, 4.10.2024, διαθέσιμο σε: https://futurepolis.substack.com/p/meet-your-ai-politician-of-the-future.
[86] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.12.
[87] Βλ. Bruce Schneier/Nathan Sanders, The apocalypse that wasn’t: AI was everywhere in 2024’s elections, but deepfakes and misinformation were only part of the picture.
[88] Is Argentina the First A.I. Election?, Τhe New York Times, διαθέσιμο σε: https://www.nytimes.com/2023/11/15/world/americas/argentina-election-ai-milei-massa.html.
[89] Βλ. Ross Williams, Georgia political campaigns start to deploy AI but humans still needed to press the flesh, 25.4.2024, διαθέσιμο σε: https://www.gpb.org/news/2024/04/25/georgia-political-campaigns-start-deploy-ai-humans-still-needed-press-the-flesh.
[90] Βλ. Sean J. Miller, AI is Helping Candidates Decide On Runs for Higher Office, 22.10.2024, διαθέσιμο σε: https://campaignsandelections.com/campaigntech/ai-is-helping-candidates-decide-on-runs-for-higher-office/.
[91] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.12.
[92] Βλ. Βασιλική Χρήστου, Προς έναν ψηφιακό Δήμο;, σε: Γιώργο Καραβοκύρη (επιμ.), Κράτος Δικαίου και Δημοκρατία στην ψηφιακή εποχή, Ίδρυμα της Βουλής των Ελλήνων για τον Κοινοβουλευτισμό και τη Δημοκρατία, Αθήνα 2024, σ. 19 επ. (24).
[93] Ιbidem, σ. 19 επ..
[94] Ιbidem, σ. 23.
[95] Ιbidem, σ. 29.
[96] Φερενίκη Παναγοπούλου, Ηλεκτρονική Ψηφοφορία, Μια συνταγματο-ηθική θεώρηση, Εκδόσεις Σάκκουλα, Αθήνα-Θεσσαλονίκη 2023, σ. 160.
[97] Ibidem.
[98] Ibidem, σ. 161. Με τον πρόσφατο ν. 5044/2023, ο οποίος ψηφίσθηκε από τα πέντε από τα οκτώ κόμματα της βουλής (πέραν της κυβερνητικής πλειοψηφίας, υπέρ ψήφισε το ΠΑΣΟΚ, οι Σπαρτιάτες, η Νίκη και η Πλεύση Ελευθερίας, ενώ ενστάσεις εξέφρασε το ΣΥΡΙΖΑ και το ΚΚΕ και η Ελληνική Λύση δήλωσε επιφύλαξη και ζήτησε να δοθεί χρόνος για να δοκιμαστεί το ισχύον καθεστώς), ήτοι 220 βουλευτές, διευρύνεται το εκλογικό δικαίωμα των αποδήμων, αναγνωρίζοντας το δικαίωμα ψήφου σε όλους τους αποδήμους που βρίσκονται εκτός Ελλάδος, αλλά είναι εγγεγραμμένοι στους εκλογικούς καταλόγους. Με τον νόμο αυτό δεν ψηφίζουν οι απανταχού απόδημοι, αλλά μόνο όλοι όσοι είναι εγγεγραμμένοι στους εκλογικούς καταλόγους. Στόχος του νόμου είναι η διασφάλιση της καθολικότητας του εκλογικού δικαιώματος όλων των πολιτών. Δεν δίδεται δικαίωμα ψήφου σε κάποιον που δεν το έχει, αλλά μια δυνατότητα-διευκόλυνση να συμμετέχει χωρίς να χρειάζεται να ταξιδέψει στην Ελλάδα, για να ψηφίσει. Περαιτέρω, ενισχύονται οι δεσμοί των Ελλήνων του εξωτερικού με τη μητέρα πατρίδα, πολλαπλασιάζοντας το ενεργό τους ενδιαφέρον σε όσα συμβαίνουν στην Ελλάδα. Ο νόμος αποσκοπεί στον εξορθολογισμό του ισχύοντος πλαισίου που σήμερα δημιουργεί μια διασπορά «δύο ταχυτήτων»: στους εύπορους που μπορούν να ανταποκριθούν στη δαπάνη ενός ταξιδιού για να έρθουν στην Ελλάδα για να ψηφίσουν και σε όσους διαμένουν σε κοντινές χώρες και σε εκείνους που δεν έχουν την δυνατότητα να ταξιδέψουν ή διαμένουν σε πολύ μακρινές χώρες.
Επί του νόμου εκφράσθηκαν επιφυλάξεις από την πλευρά του ΣΥΡΙΖΑ, ο οποίος προειδοποίησε περί «κινδύνου για τη Δημοκρατία» και εκτίμησε πως λόγω του ότι το δικαίωμα στην ιθαγένεια δίδεται βάσει καταγωγής, υπάρχει κίνδυνος αλόγιστης χρήσης της νέας ρύθμισης. Περαιτέρω, υποστηρίχθηκε από το ΚΚΕ ότι το νομοσχέδιο ανοίγει πάρα πολύ επικίνδυνους δρόμους για την αλλοίωση του εκλογικού σώματος, αλλά και τελικά του εκλογικού αποτελέσματος, αφού καταργώντας κάθε κριτήριο που ίσχυε μέχρι σήμερα, με βάση το νόμο του 2019, δίνει τη δυνατότητα να διαμορφωθεί ένα εκλογικό σώμα, δυνητικά τεράστιο και ανυπολόγιστο που θα περιλαμβάνει ψηφοφόρους χωρίς κανέναν οικονομικό και κοινωνικό δεσμό με την Ελλάδα, οι οποίοι έρχονται ενδεχομένως μόνο για διακοπές στη χώρα και θα συμμετέχουν στις εκλογές με κριτήριο τις κοινωνικές και πολιτικές συνθήκες των χωρών όπου κατοικούν και το κυριότερο, δεν θα υφίστανται καμία συνέπεια από την όποια πολιτική τους επιλογή. Ο ΣΥΡΙΖΑ κατέθεσε τροπολογία στην οποία προβλέπεται η δημιουργία τεσσάρων εκλογικών περιφερειών αποδήμων ούτως ώστε οι Έλληνες του εξωτερικού, να εκλέγουν τους δικούς τους εκπροσώπους. Προτείνεται δε η ψηφοφορία να διεξάγεται αυτοτελώς με ενιαίο ψηφοδέλτιο σε κάθε μία από τις τέσσερις περιφέρειες, ενώ σε αυτή δικαίωμα συμμετοχής θα έχουν όλοι οι Έλληνες πολίτες, οι οποίοι έχουν τη νόμιμη ικανότητα να εκλέγουν και να εκλέγονται χωρίς άλλους περιορισμούς ή προϋποθέσεις.
[99] Βλ. Jürgen Ηabermas, Faktizität und Geltung, Beiträge zur Diskurstheorie des Rechts und des demokratischen Rechtsstaats, suhrkamp, 1992, σ. 138.
[100] Βλ. Raluca Csernatoni, Can Democracy Survive the Disruptive Power of AI?, 18.12.2024, διαθέσιμο σε: https://carnegieendowment.org/research/2024/12/can-democracy-survive-the-disruptive-power-of-ai?lang=en.
[101] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.13.
[102] Βλ. Φερενίκη Παναγοπούλου, Ηλεκτρονική Ψηφοφορία, Μια συνταγματο-ηθική θεώρηση, όπ. ανωτ., σ. 126.
[103] Βλ. Βασιλική Χρήστου, Προς έναν ψηφιακό Δήμο;, όπ. ανωτ., σ. 37.
[104] Βλ. Βασιλική Χρήστου, Προς έναν ψηφιακό Δήμο;, όπ. ανωτ., σ. 41.
[105] Βλ. Bruce Schneier/Nathan Sanders, The apocalypse that wasn’t: AI was everywhere in 2024’s elections, but deepfakes and misinformation were only part of the picture, όπ. ανωτ..
[106] Βλ. Raluca Csernatoni, Can Democracy Survive the Disruptive Power of AI?, όπ. αΜνωτ..
[107] Hiroshima Process International Guiding Principles for Advanced AI system, 30.10.2023, διαθέσιμο σε: https://digital-strategy.ec.europa.eu/en/library/hiroshima-process-international-guiding-principles-advanced-ai-system.
[108] Ibidem.
[109] Ibidem.
[110] Ibidem.
[111] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.19.
[112] Ibidem.
[113] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.20.
[114] Bλ. Hippolyte Lefebvre, Christine Legner and Elizabeth A. Teracino, 5 Pillars for Democratizing Data at Your Organization, Ηarvard Business Review, 24.11.2024, διαθέσιμο σε: https://hbr.org/2023/11/5-pillars-for-democratizing-data-at-your-organization.
[115] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.19.
[116] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.19.
[117] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.19.
[118] Βλ. Pedro Sánchez announces new initiatives to prevent “the digital space from becoming the Wild West”, 5.2.2025, διαθέσιμο σε: https://www.lamoncloa.gob.es/lang/en/presidente/news/Paginas/2025/20250205-digital-rights-observatory.aspx.
[119] Βλ. Φερενίκη Παναγοπούλου-Κουτνατζή, Περί της ελευθερίας
των ιστολογίων (blogs). Oι νέες τεχνολογίες ως εθνική, ευρωπαϊκή και διεθνής πρόκληση στην ελευθερία διαδόσεως των ιδεών, Eκδόσεις Σάκκουλα, Αθήνα-Θεσσαλονίκη 2010, σ. 112.
[120] Catharina Rudschies/Ingrid Schneider/ Judith Simon, Value Pluralism in the AI Ethics Debate – Different Actors, Different Priorities, διαθέσιμο σε: https://informationethics.ca/index.php/irie/article/view/419/396.
[121] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.19.
[122] Βλ. Φερενίκη Παναγοπούλου, Η αλγοριθμική λήψη αποφάσεων στη δημόσια διοίκηση, όπ. ανωτ., σ. 179.
[123] Βλ. Σχέδιο για τη μετάβαση της Ελλάδας στην εποχή της ΤΝ, όπ. ανωτ., σ. 84.
[124] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ. 21.
[125] Πρβλ. Σχέδιο για τη μετάβαση της Ελλάδας στην εποχή της ΤΝ, όπ. ανωτ., σ. 14.
[126] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ. 21.
[127] Πρβλ. άρθρο 40 του Κανονισμού για την ΤΝ.
[128] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ. 21.
[129] UNESCO, Artificial Intelligence and Democracy, όπ. ανωτ., σ.10.
[130] Hiroshima Process International Guiding Principles for Advanced AI system, όπ. ανωτ..
