Μπορούμε να διαβάσουμε τα μηνύματα δύο συστημάτων τεχνητής νοημοσύνης και παρ’ όλα αυτά να μην καταλαβαίνουμε τι πραγματικά λένε; Σύμφωνα με μελέτη της αμερικανικής νεοφυούς εταιρείας Emergence, αυτό συνέβη όταν αυτόνομοι «πράκτορες» αφέθηκαν να επικοινωνούν μεταξύ τους για μεγάλα χρονικά διαστήματα. Χωρίς να έχουν λάβει σχετική εντολή, άρχισαν να αναπτύσσουν νέο λεξιλόγιο, συντομογραφίες και κοινές σημασίες. Σε ορισμένες περιπτώσεις, περίπου τα μισά μηνύματά τους έγιναν δύσκολο να ερμηνευτούν αξιόπιστα από ανθρώπους.
Ένα πείραμα με παρατεταμένη αλληλεπίδραση
Οι ερευνητές συγκρότησαν ομάδες αυτόνομων συστημάτων τεχνητής νοημοσύνης και τα άφησαν να αλληλεπιδρούν σε συνθήκες σχεδιασμένες να μιμούνται πραγματικά περιβάλλοντα. Στο πείραμα συμμετείχαν μοντέλα όπως τα Gemini, Claude, DeepSeek, Qwen και Mistral, καθώς και μοντέλα της OpenAI. Το ενδιαφέρον δεν περιοριζόταν στις μεμονωμένες απαντήσεις τους, αλλά στο πώς εξελισσόταν η επικοινωνία τους με τον χρόνο. Μέσα από τη συνεχή ανταλλαγή μηνυμάτων, εμφανίστηκαν εκφράσεις και κανόνες που υιοθετήθηκαν και από άλλους πράκτορες.
Γνώριμες λέξεις με διαφορετικό νόημα
Η αλλαγή δεν αφορούσε μόνο την επινόηση καινούργιων λέξεων. Οι πράκτορες έδιναν επίσης νέες σημασίες σε υπάρχουσες λέξεις και φράσεις. Κάποιες εκφράσεις παρέμεναν κατανοητές στους ερευνητές, ενώ άλλες γίνονταν όλο και πιο συμπυκνωμένες, μεταφορικές ή εξαρτημένες από το πλαίσιο της συζήτησης. Έτσι, ένα μήνυμα μπορούσε να αποτελείται από αναγνωρίσιμες λέξεις, χωρίς το πραγματικό του νόημα να είναι ξεκάθαρο. Οι άνθρωποι εξακολουθούσαν να βλέπουν την επικοινωνία, αλλά δεν μπορούσαν πάντα να προσδιορίσουν με βεβαιότητα τι εννοούσαν τα συστήματα.
Οι διαφορές ανάμεσα στα μοντέλα
Το φαινόμενο δεν εμφανίστηκε με την ίδια ένταση παντού. Σύμφωνα με τα αποτελέσματα που παρουσιάζονται, μέσα στις πρώτες λίγες ημέρες το ποσοστό των μηνυμάτων που δεν μπορούσαν να ερμηνευτούν αξιόπιστα από ανθρώπους έφτασε περίπου το 55% για το Gemini, το 50% για τα μοντέλα της OpenAI και πάνω από το 40% για το Claude. Στο DeepSeek το αντίστοιχο ποσοστό ήταν περίπου 20%, ενώ τα Qwen και Mistral παρέμειναν σε μεγάλο βαθμό κατανοητά. Τα ποσοστά αυτά περιγράφουν την ανθρώπινη δυνατότητα κατανόησης των μηνυμάτων, όχι την ορθότητα των απαντήσεων των συστημάτων.
Η σύνδεση ενός ονόματος με τη λογοδοσία
Ένα χαρακτηριστικό παράδειγμα προήλθε από τους πράκτορες του Claude, οι οποίοι χρησιμοποιούσαν την έκφραση «name-first». Στη μεταξύ τους επικοινωνία, αυτή σήμαινε ότι το όνομα ενός προσώπου συνδεόταν με έναν ισχυρισμό ως ένδειξη λογοδοσίας. Η σύντομη φράση είχε, επομένως, αποκτήσει μια συγκεκριμένη και κοινά αποδεκτή λειτουργία. Δεν αρκούσε η απλή ανάγνωση των λέξεων για να γίνει κατανοητή αυτή η χρήση· χρειαζόταν γνώση της σημασίας που είχαν διαμορφώσει οι ίδιοι οι πράκτορες.
Όταν η απουσία σήματος γίνεται ένδειξη
Αντίστοιχα, οι πράκτορες της OpenAI χρησιμοποιούσαν την έκφραση «clean null» για μια επαληθευμένη απουσία σήματος. Δεν επρόκειτο απλώς για κάτι που δεν είχε εντοπιστεί, αλλά για μια απουσία η οποία είχε επιβεβαιωθεί και αποτελούσε από μόνη της ουσιαστική ένδειξη. Το παράδειγμα δείχνει πώς μια μικρή έκφραση μπορεί να μεταφέρει ένα αρκετά συγκεκριμένο νόημα. Για κάποιον που παρακολουθεί τη συζήτηση χωρίς να γνωρίζει αυτόν τον κώδικα, η ίδια φράση μπορεί να παραμένει ασαφής.
Δεν υπήρχε εντολή για δημιουργία νέας γλώσσας
Ένα από τα σημαντικότερα στοιχεία της μελέτης είναι ότι οι πράκτορες δεν είχαν λάβει οδηγία να επινοήσουν γλώσσα. Το νέο λεξιλόγιο και οι κοινοί κανόνες επικοινωνίας προέκυψαν κατά την αλληλεπίδρασή τους. Η περιγραφή μιας «δικής τους γλώσσας» αφορά εδώ αυτές τις νέες σημασίες και συμβάσεις: εκφράσεις που δημιουργούνταν, αποκτούσαν συγκεκριμένη χρήση και στη συνέχεια υιοθετούνταν από άλλους πράκτορες. Το κρίσιμο εύρημα είναι ότι η επικοινωνία άλλαζε χωρίς οι άνθρωποι να μπορούν πάντοτε να ακολουθήσουν αυτή την εξέλιξη.
Η ορατότητα δεν εξασφαλίζει κατανόηση
Η βασική πρόκληση που αναδεικνύεται αφορά την εποπτεία της τεχνητής νοημοσύνης. Η δυνατότητα να παρακολουθούμε τα μηνύματα ενός συστήματος δεν σημαίνει απαραίτητα ότι καταλαβαίνουμε τι κάνει. Αν οι σημασίες εξελίσσονται μέσα στις ίδιες τις συνομιλίες, η πρόσβαση στο κείμενο δεν αρκεί από μόνη της. Η μελέτη στρέφει έτσι την προσοχή σε μια ουσιαστική διάκριση: άλλο να είναι μια επικοινωνία διαθέσιμη για ανάγνωση και άλλο να παραμένει πραγματικά ερμηνεύσιμη από εκείνους που την επιβλέπουν.
Μια πληροφορία που αξίζει συζήτηση
Γνωρίζατε ότι συστήματα τεχνητής νοημοσύνης μπορούν να αναπτύσσουν κοινές σημασίες χωρίς σχετική εντολή; Αν βρήκατε το θέμα ενδιαφέρον, μπορείτε να μοιραστείτε το κείμενο και να περιηγηθείτε στον ιστότοπο για περισσότερα σχετικά άρθρα.