Ο κίνδυνος της συλλογικής τύφλωσης στην εποχή των έξυπνων μηχανών
Η συζήτηση γύρω από την εξέλιξη της τεχνητής νοημοσύνης επικεντρώνεται συνήθως στις επιπτώσεις που επιφέρει στον τρόπο σκέψης του κάθε ατόμου ξεχωριστά. Από τον μαθητή που σταματά να κοπιάζει για τις εργασίες του μέχρι τον επαγγελματία που παύει να εμπιστεύεται την προσωπική του κρίση, οι ανησυχίες είναι υπαρκτές και ορατές. Ωστόσο, πίσω από αυτές τις μεμονωμένες περιπτώσεις κρύβεται μια πολύ μεγαλύτερη και βαθύτερη απειλή, η οποία δεν αφορά την αποτυχία ενός μεμονωμένου μυαλού, αλλά μια δομική αλλοίωση που εκδηλώνεται στο σύνολο της κοινωνίας.
Το κρίσιμο ερώτημα που ανακύπτει είναι τι συμβαίνει όταν εκατομμύρια άνθρωποι προβαίνουν ταυτόχρονα στην ίδια πνευματική παραχώρηση. Όταν όλοι χρησιμοποιούν τα ίδια ψηφιακά εργαλεία για να σκεφτούν, η πολυμορφία της ανθρώπινης αντίληψης κινδυνεύει να εξαφανιστεί. Ο πραγματικός κίνδυνος δεν είναι να μας απογοητεύσουν οι μηχανές, αλλά να αρχίσουμε όλοι μαζί να παραβλέπουμε όσα έχουν πραγματική σημασία, χωρίς καν να το αντιλαμβανόμαστε.
Η αξία της διαφωνίας ως κινητήριας δύναμης
Σε γενικές γραμμές, τα σύνθετα ανθρώπινα συστήματα δεν αυτοδιορθώνονται μέσα από την καθολική συμφωνία και τη συναίνεση, αλλά μέσα από την παραγωγική τριβή ανθρώπων που βλέπουν τον κόσμο με διαφορετικό μάτι. Αυτή η δημιουργική σύγκρουση οδηγεί σε διαφορετικά συμπεράσματα, τα οποία πολλές φορές οι άνθρωποι δεν μπορούν καν να διατυπώσουν με απόλυτη σαφήνεια, καθώς πηγάζουν από το ένστικτο και την εμπειρία.
Οι οικονομικές αγορές αποτελούν ένα εξαιρετικό παράδειγμα αυτής της διαδικασίας. Μια χρηματοπιστωτική αγορά δεν είναι, στον πυρήνα της, ένας απλός μαθηματικός υπολογισμός, αλλά ένας μηχανισμός που συγκεντρώνει και ενώνει αποκλίνουσες ανθρώπινες κρίσεις. Ο αγοραστής και ο πωλητής σε οποιαδήποτε συναλλαγή διαφωνούν ριζικά για την αξία ενός προϊόντος. Αυτή η διαφωνία δεν αποτελεί ελάττωμα του συστήματος, αλλά είναι το ίδιο το σύστημα. Αν αφαιρέσουμε αυτή την εσωτερική τριβή, δεν αποκτούμε μια πιο έξυπνη αγορά, αλλά μια πολύ πιο εύθραυστη και επιρρεπή σε κραδασμούς. Η επιστήμη, η ιατρική και οι αγορές εξαρτώνται από αυτό ακριβώς το κρυφό ανθρώπινο κεφάλαιο: την ύπαρξη ανθρώπων που κοιτάζουν τα ίδια στοιχεία και καταλήγουν σε διαφορετικά συμπεράσματα.
Η σύγκλιση και η απώλεια της πρωτοτυπίας
Στο παρελθόν, εργαλεία όπως η αριθμομηχανή επέκτειναν την ικανότητά μας να κάνουμε πράξεις, ενώ οι μηχανές αναζήτησης διεύρυναν την πρόσβασή μας στην πληροφορία. Κανένα από αυτά όμως δεν παρενέβη στην ίδια την αρχιτεκτονική της ανθρώπινης κρίσης. Η τεχνητή νοημοσύνη, αντίθετα, το κάνει. Και από τη στιγμή που συμβαίνει αυτό, ξεκινά ένας επικίνδυνος δρόμος.
Όταν τα ίδια ακριβώς ψηφιακά μοντέλα, εκπαιδευμένα με τα ίδια δεδομένα, καθορίζουν τις εκτιμήσεις κινδύνου των επενδυτών, τις διαγνώσεις των γιατρών και την κριτική ματιά των συγγραφέων, συντελείται μια βαθιά αλλαγή. Οι μονάδες παραμένουν, αλλά η διαφορετικότητα χάνεται. Καθώς η ποικιλομορφία υποχωρεί, το έργο που παράγουν αυτοί οι άνθρωποι γίνεται ολοένα και πιο όμοιο. Αυτό το ομοιόμορφο υλικό τροφοδοτεί στη συνέχεια την επόμενη γενιά ψηφιακών μοντέλων, στενεύοντας ακόμα περισσότερο τα περιθώρια της ανθρώπινης σκέψης. Πρόκειται για μια συλλογική παράδοση της κρίσης μας στις μηχανές, όχι επειδή είναι δύσκολο να σκεφτούμε, αλλά επειδή η ευκολία που προσφέρουν είναι ακαταμάχητη.
Το τίμημα των ακραίων αποκλίσεων
Στις αγορές, για παράδειγμα, ένας έμπειρος επενδυτής που διαισθάνεται ότι κάτι δεν πάει καλά προτού αυτό αποτυπωθεί στα επίσημα στοιχεία, λειτουργεί με βάση μια εσωτερική αναγνώριση προτύπων. Αυτή η γνώση έχει οικοδομηθεί μέσα από τη ζωντανή μνήμη του προσωπικού και οικονομικού κόστους μιας λανθασμένης κίνησης. Αυτού του είδους η αντίληψη ζει σε μονοπάτια που οι ψηφιακοί αλγόριθμοι δεν μπορούν να προσεγγίσουν, ούτε να κωδικοποιήσουν. Πρέπει να κερδηθεί με την προσωπική εμπειρία. Όταν αυτή η βιωματική ματιά εξαφανίζεται από το σύνολο των συμμετεχόντων, το σύστημα χάνει την ικανότητα έγκαιρης προειδοποίησης. Οι σπάνιες εξαιρέσεις και οι ασυνήθιστες ενδείξεις, που μια ανθρώπινη ομάδα με διαφορετικές προσεγγίσεις θα είχε εντοπίσει, χάνονται μέσα στη γενική ομοιομορφία.
Ένας συστημικός κίνδυνος χωρίς μετρήσιμα εργαλεία
Η επιστήμη διαθέτει τα κατάλληλα εργαλεία και τα κλινικά μέσα για να μετρήσει την πνευματική φθορά ενός ατόμου. Δεν διαθέτει όμως σχεδόν κανένα πλαίσιο για να αξιολογήσει αυτή τη σταδιακή στένωση της συλλογικής μας αντίληψης. Αυτό αποτελεί ένα αόρατο πρόβλημα, επειδή ο κίνδυνος της συγχρονισμένης τύφλωσης δεν αποτυπώνεται σε ατομικό επίπεδο.
Κάθε άνθρωπος ξεχωριστά, κάνοντας χρήση αυτών των εξαιρετικά βολικών και ευφυών εργαλείων, μπορεί να παρουσιάζει καλύτερες επιδόσεις από ό,τι στο παρελθόν. Την ίδια στιγμή, όμως, το κοινωνικό σύνολο μπορεί να βλέπει και να κατανοεί όλο και λιγότερα. Η τεχνητή νοημοσύνη δεν αλλάζει απλώς τον τρόπο με τον οποίο σκεφτόμαστε ως μονάδες, αλλά μεταβάλλει ριζικά το τι μπορούμε να συλλάβουμε ως κοινωνία. Αν η συλλογική μας ματιά περιοριστεί, το μεγάλο πρόβλημα δεν θα είναι μια τεχνική αποτυχία των μηχανών, αλλά το γεγονός ότι θα χάνουμε όσα έχουν πραγματική αξία, όλοι μαζί, την ίδια ακριβώς στιγμή.
