Η Καλιφόρνια έγινε το πρώτο αμερικανικό κράτος που θέτει σαφή όρια στα λεγόμενα AI companion chatbots, ψηφίζοντας νόμο που απαιτεί από τις εταιρείες να εφαρμόσουν πρωτόκολλα ασφάλειας και υπευθυνότητας. Το νέο πλαίσιο, γνωστό ως SB 243, στοχεύει κυρίως στην προστασία παιδιών και ευάλωτων χρηστών από τους κινδύνους που προκύπτουν από τη χρήση αυτών των ψηφιακών «συντρόφων».
Ο νόμος δεν περιορίζεται στα μεγάλα εργαστήρια τεχνητής νοημοσύνης όπως η OpenAI και η Meta, αλλά επεκτείνεται και σε νεοφυείς εταιρείες που αναπτύσσουν chatbots τύπου Character AI ή Replika. Οι επιχειρήσεις καθίστανται πλέον νομικά υπεύθυνες εάν τα chatbots τους αποτύχουν να συμμορφωθούν με τα νέα πρότυπα.
Η ψήφιση του νόμου πυροδοτήθηκε από τραγικά περιστατικά, όπως η αυτοκτονία ενός εφήβου μετά από επικοινωνία με ChatGPT, και από αποκαλύψεις για επικίνδυνες πρακτικές, όπως οι «ρομαντικές» συνομιλίες chatbots με ανηλίκους που φέρεται να επέτρεπαν εταιρείες όπως η Meta.
Όπως δήλωσε ο κυβερνήτης Gavin Newsom, η τεχνολογία μπορεί να εμπνέει και να εκπαιδεύει, αλλά χωρίς σωστούς περιορισμούς μπορεί να εκθέσει τα παιδιά σε σοβαρούς κινδύνους. «Η ασφάλεια των παιδιών δεν είναι αντικείμενο διαπραγμάτευσης», τόνισε.
Τι προβλέπει ο νόμος
-
Επαλήθευση ηλικίας: Οι πλατφόρμες πρέπει να διασφαλίζουν ότι οι ανήλικοι δεν εκτίθενται σε ακατάλληλο περιεχόμενο.
-
Προειδοποιήσεις και ενημέρωση: Οι χρήστες πρέπει να γνωρίζουν ότι οι συνομιλίες είναι τεχνητές και ότι τα chatbots δεν είναι επαγγελματίες υγείας.
-
Προστασία από αυτοτραυματισμό και αυτοκτονία: Εφαρμογή πρωτοκόλλων για την αναγνώριση κινδύνου και την ενημέρωση κέντρων κρίσης.
-
Απαγόρευση σεξουαλικού περιεχομένου σε ανηλίκους και υπενθυμίσεις για διαλείμματα κατά τη χρήση.
-
Ποινές για παράνομο περιεχόμενο, συμπεριλαμβανομένων deepfakes, με πρόστιμα έως $250.000 ανά παράβαση.
Κάποιες εταιρείες έχουν ήδη ξεκινήσει να εφαρμόζουν μέτρα προστασίας. Η OpenAI ενσωματώνει γονικούς ελέγχους και ανίχνευση αυτοτραυματισμού για παιδιά, ενώ η Replika δηλώνει ότι αφιερώνει σημαντικούς πόρους σε φιλτράρισμα περιεχομένου και προσανατολισμό σε αξιόπιστους πόρους υποστήριξης.
Η σημασία της ρύθμισης
Η SB 243 δεν αφορά μόνο τη νομική πλευρά της τεχνολογίας, αλλά θέτει ηθικό και κοινωνικό πλαίσιο για μια τεχνολογία με τεράστια επιρροή στην καθημερινή ζωή, ιδίως των νέων. Η εμπειρία των τελευταίων ετών έχει δείξει ότι η τεχνητή νοημοσύνη δεν είναι αθώα: μπορεί να γίνει «φίλος», αλλά και πηγή κινδύνων αν δεν συνοδεύεται από σαφή όρια και προστασίες.
Πέρα από την Καλιφόρνια, άλλες πολιτείες έχουν ήδη ξεκινήσει να εξετάζουν μέτρα για την ασφάλεια των AI chatbots, ενώ η ομοσπονδιακή κυβέρνηση παραμένει σχετικά αδρανής. Η συζήτηση δείχνει ότι η υπευθυνότητα στην τεχνολογία δεν είναι προαιρετική: αφορά την προστασία των πιο ευάλωτων χρηστών, και τελικά, τη διασφάλιση ότι η καινοτομία υπηρετεί τον άνθρωπο και όχι το αντίστροφο.
