Η πρώτη μεγάλη παπική παρέμβαση για την τεχνητή νοημοσύνη δεν αντιμετωπίζει την τεχνητή νοημοσύνη ως τεχνολογική καινοτομία, αλλά ως νέο κοινωνικό ζήτημα. Στην εγκύκλιο «Magnifica humanitas» (υπέροχη ανθρωπότητα), ο Πάπας Λέων ΙΔ’ τοποθετεί την ψηφιακή επανάσταση δίπλα στις μεγάλες μεταβολές που σημάδεψαν τη νεωτερικότητα: Την εργασία, την οικονομία, την ανισότητα, την εξουσία, τον πόλεμο και την αλήθεια.
Το κεντρικό ερώτημα δεν είναι αν η τεχνητή νοημοσύνη είναι «καλή» ή «κακή», αλλά ποιον άνθρωπο υπηρετεί και ποια κοινωνία οικοδομεί. Η εγκύκλιος αναγνωρίζει τις δυνατότητες της τεχνολογίας, αλλά προειδοποιεί για τη συγκέντρωση ισχύος σε λίγους, την εμπορευματοποίηση των δεδομένων, την απορρύθμιση της εργασίας, τη χειραγώγηση της δημόσιας σφαίρας και τη χρήση της τεχνητής νοημοσύνης στον πόλεμο.
Πάνω απ’ όλα, το κείμενο επιμένει ότι η ανθρώπινη αξιοπρέπεια δεν μπορεί να γίνει μεταβλητή ενός αλγορίθμου. Με αυτή την αφετηρία, τα δεκαπέντε σημεία που ακολουθούν συνοψίζουν τα βασικά μηνύματα της εγκυκλίου και δείχνουν γιατί η συζήτηση για την τεχνητή νοημοσύνη είναι, τελικά, συζήτηση για τη δημοκρατία, την κοινωνική δικαιοσύνη και το μέλλον του ανθρώπου.
Η τεχνητή νοημοσύνη ως το νέο κοινωνικό ζήτημα της εποχής
Ο Πάπας τοποθετεί την τεχνητή νοημοσύνη, την ψηφιοποίηση και τη ρομποτική, δίπλα στα μεγάλα ιστορικά κοινωνικά ερωτήματα που αντιμετώπισε η Εκκλησία από τη «Rerum novarum» (των «νέων πραγμάτων» του Πάπα Λέοντα ΙΓ’) και μετά. Δεν τη βλέπει ως τεχνικό θέμα, αλλά ως αλλαγή εποχής.
Το δίλημμα δεν είναι «υπέρ ή κατά της τεχνολογίας». Το κρίσιμο ερώτημα είναι τι είδους κοινωνία οικοδομούμε: Μια νέα Βαβέλ βασισμένη στην ισχύ, στην ομοιομορφία και στην κυριαρχία ή μια Ιερουσαλήμ βασισμένη στην κοινή ευθύνη, την κοινωνία και το κοινό καλό.
Το κείμενο αποφεύγει τον τεχνοφοβικό τόνο. Αναγνωρίζει ότι η τεχνολογία μπορεί να θεραπεύσει, να εκπαιδεύσει, να συνδέσει και να προστατεύσει, αλλά προειδοποιεί ότι μπορεί επίσης να αποκλείσει, να διαιρέσει και να γεννήσει νέες αδικίες. Η τεχνολογία παίρνει τα χαρακτηριστικά της από εκείνους που τη σχεδιάζουν, τη χρηματοδοτούν, τη ρυθμίζουν και τη χρησιμοποιούν. Άρα το ερώτημα δεν είναι μόνο «πώς χρησιμοποιούμε την τεχνητή νοημοσύνη», αλλά και «ποια αντίληψη για τον άνθρωπο έχει ενσωματωθεί μέσα στα συστήματα».
Η τεχνητή νοημοσύνη πρέπει να κρίνεται με βάση το αν υπηρετεί ή υπονομεύει την αξιοπρέπεια του ανθρώπινου προσώπου. Αν ένα σύστημα αποκλείει ανθρώπους, αξιολογεί κάποιες ζωές ως λιγότερο άξιες ή δεν επιτρέπει προσφυγή και διόρθωση, τότε το πρόβλημα δεν είναι απλώς τεχνικό αλλά ηθικό.
Πλατφόρμες, δεδομένα, υποδομές και υπολογιστική ισχύς συγκεντρώνονται σε μεγάλους οικονομικούς και τεχνολογικούς δρώντες, συχνά πέρα από τον αποτελεσματικό δημόσιο έλεγχο. Αυτό δημιουργεί νέες ανισότητες, εξαρτήσεις και μορφές χειραγώγησης. Ο Πάπας δεν περιορίζεται στο γνωστό αίτημα για “ευθυγράμμιση” της τεχνητής νοημοσύνης με ανθρώπινες αξίες. Ρωτά ποιος ορίζει αυτές τις αξίες και ζητά συμμετοχή, λογοδοσία, κοινωνική δικαιοσύνη και πολιτική εποπτεία.
Τα δεδομένα δεν πρέπει να μείνουν αποκλειστικά στα χέρια ιδιωτικών συμφερόντων. Επειδή παράγονται από πολλούς και επηρεάζουν πολλούς, χρειάζονται ρύθμιση, συμμετοχή και προστασία του κοινού καλού. Η τεχνητή νοημοσύνη συνδέεται με την παραπληροφόρηση, τη δημόσια σφαίρα, τη δημοσιογραφία, την επαλήθευση και την ποιότητα της δημοκρατίας.
Η εγκύκλιος δίνει κεντρική θέση στην εκπαίδευση: Σχολεία, οικογένειες, πανεπιστήμια, πολιτεία και κοινότητες πρέπει να μάθουν στους νέους όχι μόνο πώς να χρησιμοποιούν την τεχνητή νοημοσύνη, αλλά και πότε να μην τη χρησιμοποιούν. Το κείμενο μιλά για πρώιμη έκθεση σε ψηφιακές συσκευές, εθισμό, cyberbullying, grooming, σεξουαλική εκμετάλλευση ανηλίκων και εργαλεία τεχνητής νοημοσύνης που μπορούν να χειραγωγούν εικόνες και βίντεο. Ζητά και ευθύνη των πλατφορμών, όχι μεταφορά όλου του βάρους στις οικογένειες.
Η εγκύκλιος συνδέει την ψηφιακή μετάβαση με την αξία της εργασίας, την ανεργία, τις οικογένειες και τους νέους. Η καινοτομία δεν πρέπει να μετριέται μόνο με παραγωγικότητα, αλλά με το αν ενισχύει ή διαλύει αξιοπρεπείς κοινωνικούς δεσμούς.
Πίσω από τη «ροή» της υπολογιστικής ισχύος υπάρχουν εξορύξεις, σπάνιες γαίες, επικίνδυνες συνθήκες εργασίας, ακόμη και εργαζόμενα παιδιά και έφηβοι σε ορισμένες περιοχές του κόσμου. Η τεχνολογική πρόοδος δεν είναι άυλη. Δημιουργουνται νέες μορφές αποικιοκρατίας μέσω δεδομένων: υγείας, γενετικών, δημογραφικών, επιδημιολογικών. Όποιος ελέγχει τα δεδομένα ολόκληρων πληθυσμών αποκτά δύναμη πάνω στο μέλλον τους.
Χάρη στην τεχνητή νοημοσύνη οι αποφάσεις ζωής και θανάτου μπορούν να παίρνονται πιο γρήγορα, πιο απρόσωπα και να μην υπάρχει λογοδοσία. Η εγκύκλιος ζητά να μη μεταβιβάζεται η χρήση φονικής ισχύος σε αδιαφανείς ή αυτοματοποιημένες διαδικασίες και να υπάρχει ουσιαστικός ανθρώπινος έλεγχος.
