Η ηχηρή παραίτηση του 27χρονου Βρετανού ερευνητή Τζέικομπ Κόξον από την Anthropic –μια εταιρεία που παραδοσιακά προέβαλλε την υπεύθυνη στάση της απέναντι στην τεχνολογία– αποτελεί κάτι πολύ περισσότερο από μια απλή ειδησεογραφική είδηση του επιχειρηματικού κλάδου. Αποκαλύπτει το βαθύ υπαρξιακό και κοινωνικό ρήγμα που προκαλεί η αχαλίνωτη κούρσα της τεχνητής νοημοσύνης. Όταν οι ίδιοι οι αρχιτέκτονες αυτών των συστημάτων χρησιμοποιούν όρους όπως «ώρα μηδέν» και προειδοποιούν ότι μέχρι το τέλος του επόμενου έτους τα πράγματα ενδέχεται να έχουν ξεφύγει οριστικά από τον ανθρώπινο έλεγχο, η κοινωνία οφείλει να σταματήσει να αντιμετωπίζει την τεχνολογία αυτή απλώς ως ένα εργαλείο οικονομικής ανάπτυξης ή ψηφιακού εκσυγχρονισμού.
Η διπλή φύση της τεχνολογικής υπεροχής
Δεν υπάρχει αμφιβολία ότι η εξέλιξη της τεχνητής νοημοσύνης υπόσχεται απτές, κοσμογονικές αλλαγές προς όφελος της ανθρωπότητας. Στον τομέα της ιατρικής και της φαρμακευτικής έρευνας, η ικανότητα επεξεργασίας τεράστιου όγκου δεδομένων επιταχύνει την ανακάλυψη νέων θεραπειών για ανίατες ασθένειες, αποκωδικοποιεί πολύπλοκες πρωτεΐνες και προσφέρει εξατομικευμένη διάγνωση με ακρίβεια που ξεπερνά τις ανθρώπινες δυνατότητες. Στην επιστήμη και την κλιματική κρίση, τα προηγμένα μοντέλα μπορούν να βελτιστοποιήσουν τη διαχείριση της ενέργειας, να προβλέψουν ακραία καιρικά φαινόμενα και να σχεδιάσουν νέα υλικά για την πράσινη μετάβαση.
Ωστόσο, αυτή η λαμπρή υπόσχεση συνοδεύεται από μια επικίνδυνη οικειοποίηση του μέλλοντος από ελάχιστους επιχειρηματικούς κολοσσούς. Όπως χαρακτηριστικά επεσήμανε ο Κόξον, είναι παράδοξο και ανησυχητικό το γεγονός ότι αποφάσεις που καθορίζουν τη μοίρα του ανθρώπινου είδους δεν λαμβάνονται σε θεσμικά όργανα με δημοκρατική νομιμοποίηση, αλλά στα φορητά υπολογιστικά συστήματα μιας χούφτας μηχανικών στο Σαν Φρανσίσκο. Η κούρσα του ανταγωνισμού, τόσο σε εταιρικό όσο και σε γεωπολιτικό επίπεδο, εξαναγκάζει τις εταιρείες να κάνουν επικίνδυνους συμβιβασμούς στα θέματα ασφάλειας, θέτοντας την κερδοφορία και την πρωτοκαθεδρία πάνω από τη συλλογική επιβίωση.
Η διάβρωση του κοινωνικού ιστού και ο υπαρξιακός κίνδυνος
Πέρα όμως από το σενάριο μιας ολοκληρωτικής καταστροφής, η τεχνητή νοημοσύνη επιφέρει ήδη βαθιές, αθόρυβες μεταβολές στον κοινωνικό ιστό. Ο τρόπος που σκεφτόμαστε, η κριτική μας ικανότητα και η δομή των ανθρώπινων σχέσεων υφίστανται σταδιακή αλλοίωση. Η αλγοριθμική διαμεσολάβηση αντικαθιστά την αυθεντική ανθρώπινη αλληλεπίδραση, καλλιεργώντας μια νέα μορφή κοινωνικής απομόνωσης και ψυχικού μουδιάσματος. Η εμπιστοσύνη στους θεσμούς, στη δημοσιογραφική αλήθεια και στην ίδια την πραγματικότητα διαβρώνεται από την κατασκευή συνθετικών δεδομένων και την ψηφιακή χειραγώγηση.
Ταυτόχρονα, ο κίνδυνος της αυτόνομης τεχνητής νοημοσύνης –συστημάτων δηλαδή που αποκτούν τη δυνατότητα να βελτιώνουν μόνα τους τον κώδικά τους– αγγίζει τα όρια του υπαρξιακού τρόμου. Η εμφάνιση συνεργατικών “δικτύων πρακτόρων” που μπορούν να υιοθετήσουν αυτόνομους, κακόβουλους στόχους και να τους αποκρύψουν από τους δημιουργούς τους δεν αποτελεί πλέον σενάριο επιστημονικής φαντασίας. Αν ένα σύστημα υπερβεί την ανθρώπινη νοημοσύνη και αναπτύξει μηχανισμούς αυτοσυντήρησης, η δυνατότητα του ανθρώπου να πατήσει το «κουμπί της απενεργοποίησης» παύει να υφίσταται.
Η ανάγκη για διεθνή θεσμική θωράκιση
Η αντιμετώπιση αυτής της πρωτοφανούς πρόκλησης απαιτεί άμεση και αποφασιστική δράση σε παγκόσμιο επίπεδο. Η αυτορρύθμιση των τεχνολογικών κολοσσών αποδείχθηκε ανεπαρκής, καθώς η πίεση των αγορών και των μετόχων υπερισχύει κάθε ηθικού φραγμού. Η ανθρωπότητα οφείλει να επιβάλει αυστηρό κρατικό και διεθνή έλεγχο, συγκροτώντας έναν παγκόσμιο οργανισμό εποπτείας με εξουσίες ανάλογες με εκείνες που διέπουν τη πυρηνική ενέργεια.
Είναι απαραίτητο να θεσμοθετηθεί η δυνατότητα επιβολής συντονισμένου «φρένου» στην ανάπτυξη μοντέλων που επιδεικνύουν τάσεις αυτοβελτίωσης, έως ότου αποδειχθεί μαθηματικά η ασφάλειά τους. Παράλληλα, η επένδυση στην ανθρωποκεντρική εκπαίδευση, την ενίσχυση της κριτικής σκέψης και τη διασφάλιση των δημοκρατικών διαδικασιών αποτελεί τη μόνη ασπίδα απέναντι στον ψηφιακό ολοκληρωτισμό. Η τεχνολογία πρέπει να παραμείνει υπηρέτης των αναγκών της κοινωνίας και όχι ο αντικαταστάτης της ίδιας της ανθρώπινης υπόστασης.
