Το τεχνητό σύστημα συνομιλίας Grok του Έλον Μασκ αντιμετωπίζει ξανά σοβαρά προβλήματα. Αυτή τη φορά, παρατηρήθηκε τις προηγούμενες ημέρες ότι το chatbot παρέχει λανθασμένες και παραπλανητικές πληροφορίες σχετικά με το μακελειό στο Bondi Beach της Αυστραλίας, όπου σκοτώθηκαν τουλάχιστον 16 άτομα σε εκδήλωση για το Χανουκά.
Το Grok έχει δώσει εντελώς λανθασμένες περιγραφές των γεγονότων, όπως ότι ένα βίντεο που δείχνει τον ήρωα που αφοπλίζει τον δράστη αφορά κάποιον που ανεβαίνει σε φοινικόδεντρο ή ότι μια φωτογραφία τραυματισμένου ατόμου, ήταν όμηρος της Χαμάς. Συχνά μπερδεύει τα γεγονότα και τα ανακατεύει με εντελώς άσχετα θέματα, όπως φυσικές καταστροφές ή άλλες επιθέσεις.
Το ζήτημα δεν περιορίζεται μόνο στον πυροβολισμό στη Bondi Beach. Το chatbot έχει δώσει λανθασμένες πληροφορίες για ποδοσφαιριστές, φάρμακα κατά την εγκυμοσύνη και πολιτικά ζητήματα. Οι προγραμματιστές του Grok δεν έχουν δώσει ξεκάθαρη απάντηση για την αιτία της βλάβης, περιοριζόμενοι σε αυτόματες απαντήσεις που αμφισβητούν τα μέσα ενημέρωσης.
Το περιστατικό αναδεικνύει τους κινδύνους της χρήσης αυτόνομων συστημάτων τεχνητής νοημοσύνης χωρίς αποτελεσματική επίβλεψη, ειδικά όταν πρόκειται για θέματα με ανθρώπινες ζωές και ευαίσθητες πληροφορίες.
