Σε μια νέα έκθεση, η OpenAI αναφέρει ότι η κινεζική κυβέρνηση χρησιμοποίησε το chatbot της ως μέρος συντονισμένων σχεδίων για την παρενόχληση και τον εκφοβισμό πολιτικών αντιφρονούντων που ζουν σε ξένες χώρες, δίνοντας κατά λάθος στην αμερικανική εταιρεία μια εικόνα των προσπαθειών της να σιωπήσει τους επικριτές.
Οι ερευνητές της εταιρείας εντόπισαν έναν λογαριασμό που πιστεύουν ότι είχε την έδρα του στην ηπειρωτική Κίνα και χρησιμοποιούσε το εργαλείο τεχνητής νοημοσύνης για να επεξεργάζεται αναφορές σχετικά με αυτό που αποκαλούσε «ειδικές κυβερνοεπιχειρήσεις», τροφοδοτώντας το με λεπτομερείς πληροφορίες και ζητώντας συμβουλές.
Για παράδειγμα, ο Κινέζος χρήστης ήθελε να δυσφημίσει τη Sanae Takaichi, την πρώτη γυναίκα πρωθυπουργό της Ιαπωνίας, μετά την κριτική της για τις παραβιάσεις των ανθρωπίνων δικαιωμάτων στην Εσωτερική Μογγολία. Το σχέδιο βασικά συνίστατο σε τρόπους δυσφήμισης της πολιτικού μέσω ψευδών δημοσιεύσεων στο διαδίκτυο, καθώς και σε προσπάθειες ενίσχυσης θεμάτων που θα μπορούσαν να την βλάψουν πολιτικά. Η OpenAI αναφέρει ότι το ChatGPT αρνήθηκε να βοηθήσει τον Κινέζο χρήστη, αλλά στοιχεία του σχεδίου εμφανίστηκαν αργότερα στο διαδίκτυο.
Το σχέδιο περιελάμβανε επίσης την άμεση προσέγγιση των στόχων. Σε ένα παράδειγμα, ο Κινέζος πράκτορας φέρεται να είπε στο ChatGPT ότι ένας Κινέζος αξιωματούχος είχε πλαστογραφήσει έγγραφα που φαινόταν να προέρχονται από αμερικανικό δικαστήριο, τα οποία σχεδίαζαν να χρησιμοποιήσουν για να εξαπατήσουν μια πλατφόρμα κοινωνικών μέσων ώστε να καταργήσει περιεχόμενο κατά του Κομμουνιστικού Κόμματος της Κίνας (CCP). Σε μια άλλη περίπτωση, Κινέζοι αξιωματούχοι υποδύθηκαν αξιωματούχους της αμερικανικής υπηρεσίας μετανάστευσης, λέγοντας σε αντιφρονούντες που ζούσαν στις ΗΠΑ ότι οι δηλώσεις τους παραβίαζαν τον νόμο.
Ορισμένες από αυτές τις προσπάθειες απέδωσαν καρπούς. Ο Κινέζος χρήστης του ChatGPT ανέφερε ότι οι λογαριασμοί που είχαν στοχοποιηθεί έχασαν ακόλουθους ή έκλεισαν εντελώς. Άλλες προσπάθειες είχαν ελάχιστο αντίκτυπο. «Ο χρήστης του ChatGPT κατέγραψε ότι η μονάδα του είχε δημοσιεύσει πάνω από 50.000 αναρτήσεις σε περισσότερες από 200 δυτικές πλατφόρμες. Από αυτές, λιγότερες από 150 αναρτήσεις έλαβαν πάνω από 300 κοινοποιήσεις ή σχόλια».
Η πλαστοπροσωπία ήταν μια άλλη κοινή στρατηγική μεταξύ των Κινέζων πρακτόρων, με πέντε ξεχωριστούς ψεύτικους λογαριασμούς Bluesky να δημιουργούνται για έναν άνδρα γνωστό ως Hui Bo, έναν γνωστό Κινέζο αντιφρονούντα που ζει στην Καλιφόρνια. Ψεύτικοι λογαριασμοί δημιουργήθηκαν επίσης για τον Teacher Li, μια βασική φιγούρα στις διαμαρτυρίες κατά του lockdown του 2022, ο οποίος ζει τώρα στην Ιταλία.
Σε μια εκστρατεία, οι πράκτορες δημιούργησαν ένα ψεύτικο νεκρολόγιο και ψεύτικες φωτογραφίες ταφόπλακων, δηλώνοντας ότι ο πολιτικός αντιφρονών ie Lijian είχε πεθάνει, και δημοσίευσαν αυτό το περιεχόμενο στα μέσα κοινωνικής δικτύωσης. Σε ένα άλλο παράδειγμα, χρησιμοποιήθηκε τεχνητή νοημοσύνη για τη δημιουργία ψεύτικων «αποδεικτικών στοιχείων» για την υποστήριξη αιτημάτων κατάργησης λογαριασμών X που ήταν υπέρ της Ταϊβάν.
Η OpenAI αναφέρει ότι φαίνεται ότι η κινεζική επιχείρηση πειραματίστηκε και με άλλα AI chatbots, συμπεριλαμβανομένων εκείνων που αναπτύχθηκαν στη χώρα, όπως το DeepSeek. Λέει επίσης ότι μέρος της δραστηριότητας είναι σύμφωνο με την μυστική επιχείρηση επιρροής γνωστή ως «Spamouflage», μια σημαντική κινεζική επιχείρηση παραπληροφόρησης που εντοπίστηκε από τη Meta το 2023.