«Όταν ο δικαστής σηκώνει τα χέρια ψηλά μπροστά σε έναν αδιαφανή κώδικα, η δικαιοσύνη παύει να είναι τυφλή και γίνεται απλώς ανίσχυρη».
Η διείσδυση της Τεχνητής Νοημοσύνης (AI) και των αλγορίθμων στην αποδεικτική διαδικασία δεν αποτελεί πλέον σενάριο επιστημονικής φαντασίας, αλλά καθημερινή πραγματικότητα στα δικαστήρια του 21ου αιώνα.
Από την ηλεκτρονική σάρωση εκατομμυρίων εγγράφων και την αναγνώριση προσώπου, μέχρι τα συστήματα που προβλέπουν την πιθανότητα υποτροπής ενός κατηγορουμένου, η τεχνολογία υπόσχεται ταχύτητα, ακρίβεια και αντικειμενικότητα. Ωστόσο, πίσω από την ελκυστική βιτρίνα της ψηφιακής αποτελεσματικότητας κρύβεται μια σειρά από βαθύτατα δικονομικά ζητήματα που κλονίζουν τα θεμέλια του νομικού μας πολιτισμού.
Η εισαγωγή των αλγορίθμων στην ποινική και διοικητική δίκη έρχεται σε ευθεία σύγκρουση με θεμελιώδεις αρχές του δικαίου: Οι σύγχρονοι αλγόριθμοι βαθιάς μάθησης παράγουν πορίσματα χωρίς να αποκαλύπτουν τη λογική διαδρομή που ακολούθησαν.
Αυτό έρχεται σε πλήρη αντίθεση με την υποχρέωση της ειδικής και πλήρους αιτιολόγησης των δικαστικών αποφάσεων.
Ένας δικαστής δεν μπορεί να καταδικάσει ή να αθωώσει βασιζόμενος σε ένα αποτέλεσμα το οποίο ούτε ο ίδιος μπορεί να εξηγήσει λογικά.
Το άρθρο 6 της ΕΣΔΑ εγγυάται το δικαίωμα του κατηγορουμένου να ελέγχει και να αμφισβητεί κάθε αποδεικτικό μέσο. Όταν, όμως, το αποδεικτικό στοιχείο είναι ένας αλγόριθμος, οι ιδιωτικές εταιρείες που τον ανέπτυξαν αρνούνται να αποκαλύψουν τον πηγαίο κώδικα (source code), επικαλούμενες το εμπορικό απόρρητο.
Έτσι, η υπεράσπιση μένει «τυφλή», αδυνατώντας να αντικρούσει την ψηφιακή κατηγορία. Το εμπορικό απόρρητο των εταιρειών λογισμικού δεν μπορεί να ζυγίζει περισσότερο από την ελευθερία ενός κατηγορουμένου.
Οι δικαστές, ως άνθρωποι, τείνουν να δείχνουν υπερβολική εμπιστοσύνη στα υπολογιστικά συστήματα, θεωρώντας τα αλάθητα. Υπάρχει άμεσος κίνδυνος ο δικαστής να μετατραπεί από κυρίαρχος κριτής σε έναν απλό επικυρωτή αλγοριθμικών εισηγήσεων.
Οι αλγόριθμοι εκπαιδεύονται με ιστορικά δεδομένα του παρελθόντος. Εάν αυτά τα δεδομένα περιέχουν κοινωνικές, φυλετικές ή οικονομικές διακρίσεις, το σύστημα τις ενσωματώνει και τις αναπαράγει, βαφτίζοντάς τες «στατιστική αντικειμενικότητα» και πλήττοντας το τεκμήριο αθωότητας. Τα ξένα ανώτατα δικαστήρια έχουν ήδη κληθεί να αντιμετωπίσουν αυτή την πραγματικότητα, θέτοντας αυστηρά όρια:
ΗΠΑ: Η υπόθεση State v. Loomis (2016). Στην εμβληματική αυτή υπόθεση, ο κατηγορούμενος Eric Loomis καταδικάστηκε σε φυλάκιση με βάση το λογισμικό COMPAS, το οποίο τον αξιολόγησε ως «υψηλού κινδύνου» για υποτροπή, χωρίς η υπεράσπιση να γνωρίζει πώς λειτουργεί ο αλγόριθμος. Το Ανώτατο Δικαστήριο του Ουισκόνσιν επέτρεψε μεν τη χρήση του, αλλά έθεσε έναν αυστηρό κανόνα: οι αλγόριθμοι δεν μπορούν ποτέ να αποτελούν το μοναδικό ή το καθοριστικό κριτήριο για την ποινή, και ο δικαστής πρέπει να γνωρίζει τις αδυναμίες τους.
Ιταλία: Απόφαση του Συμβουλίου της Επικρατείας (2019). Όταν το ιταλικό υπουργείο Παιδείας χρησιμοποίησε αλγόριθμο για τις μεταθέσεις εκπαιδευτικών, το δικαστήριο ακύρωσε τις πράξεις. Διατύπωσε τη θεμελιώδη ευρωπαϊκή αρχή ότι ο αλγόριθμος δεν μπορεί να αντικαταστήσει την ανθρώπινη κρίση, θέτοντας ως απαράβατους όρους τη διαφάνεια, την πλήρη πρόσβαση στον κώδικα και το δικαίωμα ανθρώπινης αναθεώρησης. «Ένας μαθηματικός τύπος δε διαθέτει ενσυναίσθηση, ούτε μπορεί να σταθμίσει το κοινωνικό πλαίσιο ενός εγκλήματος».
Γαλλία: Απόφαση του Συνταγματικού Συμβουλίου (2018). Το γαλλικό δικαστήριο έκρινε ότι η έκδοση αποφάσεων μέσω αλγορίθμων είναι νόμιμη μόνο εάν ο πολίτης μπορεί να λάβει, σε απλή και κατανοητή γλώσσα, πλήρη ενημέρωση για τη μεθοδολογία του συστήματος, απαγορεύοντας ρητά τη χρήση «σκοτεινών» λογισμικών. Το δικαίωμα σε μια δίκαιη δίκη δε μετριέται με πιθανότητες και στατιστικά μοντέλα. Η ανθρώπινη κρίση, με την ικανότητά της να κατανοεί το πλαίσιο, την ηθική και την ιδιαιτερότητα κάθε ανθρώπινης ιστορίας, πρέπει να παραμείνει το έσχατο και απόρθητο οχυρό της δικαστικής διαδικασίας.
Του Γιώργου Φερετζάκη
Δικηγόρου
