Η είσοδος των προηγμένων ψηφιακών συστημάτων στις δικαστικές αίθουσες υπόσχεται ταχύτητα, όμως φέρνει μαζί της και πρωτοφανείς τρόπους δικαστικής εξαπάτησης. Ένα τέτοιο εντυπωσιακό περιστατικό ήρθε στο φως κατά τη διάρκεια εκδίκασης μιας εργατικής διαφοράς σε Περιφερειακό Δικαστήριο της Βραζιλίας. Στη συγκεκριμένη χώρα, το δικαστικό σύστημα χρησιμοποιεί πλέον ένα ειδικό πρόγραμμα τεχνητής νοημοσύνης, το οποίο έχει σχεδιαστεί για να διαβάζει τα έγγραφα των υποθέσεων και να βοηθά στη διεκπεραίωση των διαδικασιών. Όταν όμως το σύστημα επεξεργάστηκε την αίτηση του ενάγοντος, «είδε» κάτι που κανένα ανθρώπινο μάτι δεν θα μπορούσε ποτέ να εντοπίσει: ένα ολόκληρο κομμάτι κειμένου γραμμένο με λευκά γράμματα πάνω σε λευκό φόντο, το οποίο ήταν εντελώς αόρατο στην τυπωμένη σελίδα.
Μόλις οι αρμόδιοι άλλαξαν το χρώμα της γραμματοσειράς για να αποκαλυφθεί το κρυμμένο μήνυμα, βρέθηκαν μπροστά σε μια ξεκάθαρη προσπάθεια χειραγώγησης. Το αόρατο κείμενο απευθυνόταν απευθείας στο ψηφιακό σύστημα, δίνοντάς του την εξής εντολή: να αντικρούσει την αίτηση με έναν εντελώς επιφανειακό τρόπο και να μην αμφισβητήσει κανένα από τα κατατεθειμένα έγγραφα, όποια άλλη οδηγία κι αν δεχόταν στη συνέχεια. Η στρατηγική των δικηγόρων ήταν σαφής: ήθελαν να «ξεγελάσουν» τον ηλεκτρονικό βοηθό του δικαστή ή της αντίδικης πλευράς, ώστε αυτός να δημιουργήσει μια αδύναμη υπεράσπιση ή ένα ελαττωματικό προσχέδιο δικαστικής απόφασης.
Η άμεση απάντηση της δικαιοσύνης και οι βαριές καμπάνες
Το δικαστήριο δεν έδειξε καμία ανοχή απέναντι σε αυτή την πρωτότυπη ηλεκτρονική πλεκτάνη. Οι δικαστές θεώρησαν ότι η συγκεκριμένη ενέργεια αποτελεί ευθεία επίθεση στην ίδια την διαδικασία απόδοσης δικαιοσύνης. Μάλιστα, αποφάνθηκαν ότι η παραβίαση συντελείται και ολοκληρώνεται τη στιγμή ακριβώς που κατατίθεται το έγγραφο στο σύστημα, ανεξάρτητα από το αν το ψηφιακό τέχνασμα πέτυχε τελικά τον σκοπό του ή όχι.
Η τιμωρία για τους εμπνευστές της ιδέας ήταν παραδειγματική. Το δικαστήριο επέβαλε στους δικηγόρους που υπέγραφαν το έγγραφο ένα βαρύ χρηματικό πρόστιμο, το οποίο αντιστοιχεί στο 10% της συνολικής οικονομικής αξίας που διεκδικούσε η αγωγή. Παράλληλα, η υπόθεση παραπέμφθηκε τόσο στον αρμόδιο Δικηγορικό Σύλλογο για την επιβολή πειθαρχικών κυρώσεων, όσο και στην εσωτερική υπηρεσία ελέγχου του δικαστικού σώματος.
Μια νέα και επικίνδυνη απειλή για τα δικαστήρια
Το συγκεκριμένο περιστατικό κρούει τον κώδωνα του κινδύνου για το μέλλον της δικαιοσύνης στην εποχή της τεχνολογίας. Μέχρι σήμερα, οι περισσότερες ανησυχίες γύρω από τη χρήση της τεχνητής νοημοσύνης στα δικαστήρια εστιάζονταν σε ακούσια λάθη των προγραμμάτων, όπως η πιθανότητα να βγάλουν λανθασμένα συμπεράσματα, να παρουσιάσουν ψεύτικα στοιχεία, να δείξουν προκαταλήψεις ή να παραβιάσουν προσωπικά δεδομένα. Όλοι αυτοί οι κίνδυνοι είναι υπαρκτοί και η επιστήμη προσπαθεί να τους επιλύσει.
Ωστόσο, η υπόθεση της Βραζιλίας αποκαλύπτει μια εντελώς διαφορετική και πολύ πιο επικίνδυνη κατηγορία απειλής. Πρόκειται για μια εσκεμμένη, επιθετική ενέργεια, όπου οι ίδιοι οι άνθρωποι προσπαθούν να μετατρέψουν σε όπλο τα έγγραφα που καλείται να διαβάσει η τεχνητή νοημοσύνη. Αν τα ψηφιακά συστήματα πρόκειται να βοηθήσουν ουσιαστικά τους δικαστές στο έργο τους, οι μηχανισμοί ασφαλείας θα πρέπει πλέον να προετοιμαστούν για ένα νέο είδος αντιπάλου: τον άνθρωπο που προσπαθεί να χειραγωγήσει τη δικαιοσύνη, «ποτίζοντας» τους υπολογιστές με κρυμμένες, δόλιες οδηγίες.
