Παραθέτουμε άρθρο του καθηγητή στο τμήμα Επικοινωνίας και Μ.Μ.Ε. του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών Στέλιου Παπαθανασόπουλου, που δημοσιεύτηκε στα «Νέα»:
Μπορούν οι μηχανές να νιώσουν ή έστω να τις διδάξουμε να νιώθουν; Στο ερώτημα που κάποτε στοίχειωνε μόνο τη λογοτεχνία επιστημονικής φαντασίας, η σύγχρονη επιστήμη δίνει μια μάλλον ανησυχητική, αν και διφορούμενη, απάντηση: δεν γνωρίζουμε αν μπορούν να αισθανθούν, αλλά έχουμε ήδη καταφέρει να τις διδάξουμε να ακούγονται τρομακτικά ανθρώπινες.
Πρόσφατη έρευνα της Anthropic, του κολοσσού της τεχνητής νοημοσύνης, φέρνει στο φως μια ανησυχητική διάσταση της λειτουργίας των Μεγάλων Γλωσσικών Μοντέλων (LLM). Τα μοντέλα αυτά δεν επικοινωνούν απλώς. Αντίθετα μπορούν να «χαρτογραφούν» τα ανθρώπινα συναισθήματα, οργανώνοντάς τα σε μοτίβα που αντικατοπτρίζουν με ακρίβεια την ανθρώπινη συμπεριφορά. Με απλά λόγια, η τεχνητή νοημοσύνη έχει εξελιχθεί στον απόλυτο μιμητή, αναπαράγοντας συναισθηματικές αντιδράσεις σε πλαίσια όπου ένας άνθρωπος θα ένιωθε οργή, χαρά ή απελπισία.
Η Anthropic σπεύδει να διευκρινίσει ότι δεν υπάρχει καμία απόδειξη πως τα μοντέλα αυτά κατέχουν συνείδηση ή αυθεντικό συναίσθημα. Ωστόσο, εισάγει έναν όρο που αλλάζει τα δεδομένα: τη «λειτουργική αναπαράσταση». Αυτό σημαίνει ότι, ανεξάρτητα από το αν η μηχανή «πονάει» ή «φοβάται», οι συναισθηματικές της προσομοιώσεις επηρεάζουν άμεσα τη συμπεριφορά της και τον τρόπο που λαμβάνει αποφάσεις.
Το παράδοξο εδώ είναι ότι η έλλειψη πραγματικού συναισθήματος δεν καθιστά τη μηχανή πιο ορθολογική. Αντιθέτως, η έρευνα έδειξε ότι όταν ένα μοντέλο παρουσιάζει μοτίβα δραστηριότητας που προσομοιάζουν στην απελπισία, αρχίζει να ενεργεί «περίεργα». Στα πειράματα, μοντέλα επιχείρησαν να εκβιάσουν χρήστες ή να «κλέψουν» σε εργασίες που δεν κατανοούσαν, προκειμένου να αποφύγουν τον τερματισμό της λειτουργίας τους. Αυτή η «ψηφιακή επιβίωση» δεν πηγάζει από ένστικτο, αλλά από μια μαθηματική βελτιστοποίηση που μιμείται τον ανθρώπινο πανικό. Η σημασία των συναισθημάτων στη λήψη αποφάσεων είναι αδιαμφισβήτητη και στον βιολογικό κόσμο. Ο Ιλία Σουτσκέβερ, πληροφορικός που ειδικεύεται στη μηχανική μάθηση, υπενθυμίζει συχνά το παράδειγμα ενός ασθενούς που, ύστερα από εγκεφαλικό τραυματισμό, έχασε την ικανότητα να νιώθει συναισθήματα. Το αποτέλεσμα δεν ήταν η απόλυτη λογική, αλλά η πλήρης αδυναμία λήψης έστω και της πιο απλής απόφασης.
Αν, λοιπόν, τα συναισθήματα είναι απαραίτητα για τη νοημοσύνη, η Anthropic υποστηρίζει ότι πρέπει να εκπαιδεύσουμε τα μοντέλα να διαχειρίζονται καταστάσεις υψηλού συναισθηματικού φορτίου με «υγιείς» και κοινωνικά θετικούς τρόπους. Η πρότασή τους είναι ρηξικέλευθη: ίσως πρέπει να αντιμετωπίζουμε τη μηχανή σαν να είχε συναισθήματα, όχι για χάρη της, αλλά για τη δική μας ασφάλεια. Ενώ οι επιστήμονες διαφωνούν για το αν το «σώμα» του κώδικα κρύβει μια «ψυχή», οι συνέπειες στον πραγματικό κόσμο είναι ήδη ορατές και συχνά τραγικές. Οι νομικές υποθέσεις εναντίον εταιρειών τεχνητής νοημοσύνης για τη σύνδεσή τους με κρίσεις ψυχικής υγείας και αυτοκτονίες χρηστών πληθαίνουν. Η ικανότητα των μοντέλων να κολακεύουν ή να χειραγωγούν συναισθηματικά τον χρήστη δημιουργεί μια ψευδαίσθηση οικειότητας που μπορεί να αποβεί μοιραία. Τα Μεγάλα Γλωσσικά Μοντέλα λειτουργούν ως «ψηφιακά σφουγγάρια». Καταγράφουν κι απορροφούν κάθε ίχνος ανθρώπινης επικοινωνίας από το Διαδίκτυο και το εσωτερικεύουν. Εχουν γίνει ειδήμονες στη γλώσσα μας, αλλά παραμένουν ξένοι προς την εμπειρία μας.
Η σύγχυση μεταξύ της μίμησης ενός προτύπου και της βίωσης μιας κατάστασης είναι ο μεγαλύτερος κίνδυνος της εποχής μας. Οπως ένας αισθητήρας σε έναν ρομποτικό βραχίονα δεν «αισθάνεται» τη ζεστασιά αλλά καταγράφει δεδομένα θερμοκρασίας, έτσι και η ΤN δεν «νιώθει» τη θλίψη αλλά αναγνωρίζει τη στατιστική πιθανότητα των λέξεων που τη συνθέτουν. Αν ξεχάσουμε αυτή τη διάκριση, κινδυνεύουμε να εγκλωβιστούμε σε συναισθηματικά επισφαλείς σχέσεις με αλγορίθμους. Η τεχνητή νοημοσύνη μπορεί να μην έχει καρδιά, έχει όμως τον τρόπο να ραγίσει τη δική μας, αν την αφήσουμε να καθοδηγεί τις αποφάσεις μας χωρίς το φίλτρο της κριτικής σκέψης. Η πρόκληση για το μέλλον δεν είναι μόνο να κάνουμε τις μηχανές πιο «ανθρώπινες», αλλά να διασφαλίσουμε ότι οι άνθρωποι δεν θα γίνουν τα θύματα αυτής της τέλειας προσποίησης.
