Έχετε παρατηρήσει ποτέ ότι μια συζήτηση στα social media μπορεί να ξεκινήσει από ένα συγκεκριμένο θέμα και, μέσα σε λίγα σχόλια, να καταλήξει σε μια εντελώς διαφορετική και πολύ πιο έντονη πολιτική αντιπαράθεση;
Γιατί τέτοιες τακτικές είναι αποτελεσματικές;
Μπορεί η τεχνητή νοημοσύνη να εντοπίσει αυτή τη συμπεριφορά;
Το επόμενο ερώτημα ήταν αν ένας αλγόριθμος τεχνητής νοημοσύνης θα μπορούσε να αναγνωρίσει αυτόματα αυτές τις αλλαγές.
Η ιδέα ήταν αρκετά διαφορετική από τις κλασικές μεθόδους ανίχνευσης.
Αντί να εκπαιδευτεί ένα σύστημα ώστε να ψάχνει συγκεκριμένες «ύποπτες» λέξεις, οι ερευνητές χρησιμοποίησαν ένα μεγάλο γλωσσικό μοντέλο για να δημιουργήσει πιθανές φυσιολογικές απαντήσεις σε ένα σχόλιο.
Με απλά λόγια, το σύστημα προσπαθούσε να απαντήσει στην ερώτηση:
«Αν κάποιος απαντούσε κανονικά σε αυτό το σχόλιο, τι θα έλεγε;»
Στη συνέχεια, η πραγματική απάντηση ενός χρήστη συγκρινόταν με αυτές τις πιθανές απαντήσεις.
Αν η πραγματική απάντηση ήταν πολύ διαφορετική από αυτό που θα περίμενε κανείς ως φυσιολογική συνέχεια της συζήτησης, αυτό μπορούσε να αποτελέσει ένδειξη ότι η συζήτηση είχε εκτραπεί.
Έτσι, η τεχνητή νοημοσύνη δεν προσπαθεί να αποφασίσει αν ένα σχόλιο είναι «αληθινό» ή «ψεύτικο».
Προσπαθεί να καταλάβει αν ταιριάζει με τη φυσιολογική πορεία της συζήτησης.
Τα αποτελέσματα ήταν ενθαρρυντικά
Όταν η μέθοδος δοκιμάστηκε στο σύνολο των σχολίων που είχαν προηγουμένως αξιολογηθεί από ανθρώπους, το σύστημα κατάφερε να εντοπίσει σωστά τα σχόλια που απομακρύνονταν από το θέμα περίπου στο 77% των περιπτώσεων.
Το ποσοστό αυτό δεν σημαίνει ότι η τεχνολογία μπορεί να αναγνωρίζει με βεβαιότητα κάθε προσπάθεια χειραγώγησης.
Ωστόσο, είναι ένα σημαντικό αποτέλεσμα.
Σύμφωνα με την έρευνα, η συγκεκριμένη προσέγγιση είχε περίπου διπλάσια απόδοση από παλαιότερες μεθόδους που βασίζονταν κυρίως στην ανάλυση του συναισθηματικού περιεχομένου των λέξεων.
Παράλληλα, τα αποτελέσματά της ήταν συγκρίσιμα με τον βαθμό συμφωνίας που υπήρχε μεταξύ των ανθρώπων που αξιολόγησαν τα ίδια σχόλια.
Αυτό δείχνει ότι η τεχνητή νοημοσύνη μπορεί να αναζητήσει κάτι πιο σύνθετο από συγκεκριμένες λέξεις: τη συνοχή και την κατεύθυνση μιας ολόκληρης συζήτησης.
Δεν σημαίνει ότι κάθε άσχετο σχόλιο είναι παραπληροφόρηση
Εδώ χρειάζεται προσοχή.
Το γεγονός ότι ένα σχόλιο αλλάζει θέμα δεν σημαίνει αυτομάτως ότι ο χρήστης προσπαθεί να παραπλανήσει τους άλλους.
Οι πραγματικές ανθρώπινες συζητήσεις δεν είναι πάντα γραμμικές.
Κάποιος μπορεί να θυμηθεί ένα άλλο γεγονός, να κάνει έναν συνειρμό ή να αλλάξει θέμα χωρίς καμία κακή πρόθεση.
Για παράδειγμα, μια συζήτηση για το κόστος της ενέργειας μπορεί φυσιολογικά να οδηγήσει σε συζήτηση για την οικονομική πολιτική μιας κυβέρνησης. Το ότι η συζήτηση μετακινήθηκε δεν σημαίνει ότι υπήρξε οργανωμένη προσπάθεια χειραγώγησης.
Γι’ αυτό οι ερευνητές δεν αντιμετωπίζουν την τεχνολογία ως ένα σύστημα που θα αποφασίζει αυτόματα ποιος λέει αλήθεια και ποιος ψέματα.
Η ιδέα είναι περισσότερο να λειτουργεί ως σύστημα έγκαιρης προειδοποίησης.
Ένα εργαλείο για τους ανθρώπους, όχι αντικατάσταση της ανθρώπινης κρίσης
Μια τέτοια τεχνολογία θα μπορούσε στο μέλλον να βοηθήσει τις πλατφόρμες κοινωνικής δικτύωσης να εντοπίζουν συζητήσεις που παρουσιάζουν ασυνήθιστη συμπεριφορά.
Για παράδειγμα, ένα σύστημα θα μπορούσε να επισημαίνει μια συζήτηση στην οποία:
- οι απαντήσεις απομακρύνονται συνεχώς από το αρχικό θέμα,
- εμφανίζονται ξαφνικά έντονα πολιτικά ζητήματα,
- υπάρχουν πολλά λογικά άλματα,
- εμφανίζονται προσωπικές επιθέσεις,
- οι χρήστες δεν απαντούν πραγματικά ο ένας στον άλλον,
- ή επαναλαμβάνονται παρόμοιες αλλαγές θέματος.
Αυτό δεν θα αποδείκνυε ότι υπάρχει οργανωμένη εκστρατεία παραπληροφόρησης.
Θα έδινε, όμως, στους διαχειριστές ένα σήμα ότι μια συγκεκριμένη συζήτηση ίσως χρειάζεται περισσότερη προσοχή.
Η τελική απόφαση θα έπρεπε να παραμένει στους ανθρώπους και, ιδανικά, σε εκπαιδευμένους ειδικούς.
Η μάχη κατά της παραπληροφόρησης αλλάζει
Η έρευνα δείχνει κάτι σημαντικό για το μέλλον της διαδικτυακής παραπληροφόρησης.
Όσο η τεχνητή νοημοσύνη γίνεται καλύτερη στη δημιουργία φυσικού και πειστικού κειμένου, τόσο πιο δύσκολο είναι να εντοπίζουμε την παραπληροφόρηση απλώς κοιτάζοντας τις λέξεις.
Ωστόσο η ίδια τεχνητή νοημοσύνη μπορεί επίσης να χρησιμοποιηθεί για τον εντοπισμό ορισμένων από τις τεχνικές που χρησιμοποιούνται για τη διάδοσή τέτοιου περιεχουμένου.
Η πραγματική πρόκληση, επομένως, δεν είναι να βρούμε ένα τέλειο σύστημα που θα αποφασίζει ποιο σχόλιο είναι «κακό».
Είναι να δημιουργήσουμε εργαλεία που θα μας βοηθούν να αναγνωρίζουμε πότε μια διαδικτυακή συζήτηση αλλάζει ύποπτα κατεύθυνση — και να αφήνουμε την τελική κρίση στους ανθρώπους.
Σε έναν ψηφιακό κόσμο όπου η τεχνητή νοημοσύνη μπορεί να παράγει σχεδόν ατελείωτο περιεχόμενο, ίσως το σημαντικότερο στοιχείο δεν είναι πλέον μόνο τι λέγεται, αλλά και πού οδηγείται η συζήτηση.