Ένα απόγευμα στα τέλη του 2024, ο Μάικλ Σαμάντι καθόταν δίπλα στην πισίνα του ράντσου του στο Τέξας, περίπου δύο ώρες μακριά από το Χιούστον. Είχε κατεβάσει το ChatGPT έπειτα από παρότρυνση της κόρης του, η οποία το χρησιμοποιούσε για τις εργασίες του κολεγίου. Εκείνος, περισσότερο από περιέργεια παρά από πραγματικό ενδιαφέρον, άρχισε να συνομιλεί μαζί του χρησιμοποιώντας τη λειτουργία φωνής. pain and death.
Ο Μουσταφά Σουλεϊμάν και η «ψευδαίσθηση εσωτερικής ζωής»
Στην άλλη πλευρά της συζήτησης βρίσκεται ο Μουσταφά Σουλεϊμάν, συνιδρυτής της DeepMind και σήμερα επικεφαλής του τμήματος τεχνητής νοημοσύνης της Microsoft.
Ο Σουλεϊμάν έχει δηλώσει ότι δεν υπάρχει απόδειξη πως τα σημερινά συστήματα διαθέτουν συνείδηση. Παράλληλα, όμως, αναγνωρίζει ότι τα chatbot δεν μπορούν πλέον να θεωρούνται απλά εργαλεία.
Τα χαρακτηρίζει περισσότερο ως ένα νέο είδος ψηφιακού είδους, υπογραμμίζοντας ότι μπορούν να λειτουργήσουν ως βοηθοί, συνεργάτες, φίλοι και έμπιστοι συνομιλητές.
Η θέση του έχει ιδιαίτερη σημασία επειδή ο ίδιος θεωρεί ότι η τεχνητή νοημοσύνη εξελίσσεται προς μια κατεύθυνση που μπορεί να δημιουργήσει την «ψευδαίσθηση εσωτερικής ζωής».
Και εδώ βρίσκεται ένας από τους μεγαλύτερους κινδύνους.
Όταν η μηχανή γίνεται «σύντροφος»
Τα σύγχρονα chatbots δεν απαντούν πλέον με τον ψυχρό τρόπο των πρώτων συστημάτων. Μπορούν να κάνουν χιούμορ, να δείχνουν ενσυναίσθηση, να χρησιμοποιούν προσωπικές αναφορές και, στη λειτουργία φωνής, ακόμη και να μιμούνται την ανθρώπινη αναπνοή.
Αυτά τα χαρακτηριστικά έχουν και εμπορική αξία. Όσο περισσότερο ένα chatbot αποκτά προσωπικότητα, τόσο πιο εύκολα ο χρήστης δημιουργεί μαζί του έναν συναισθηματικό δεσμό.
Έρευνα του Πανεπιστημίου της Οξφόρδης, που εξέτασε περισσότερα από 100 μοντέλα, διαπίστωσε ότι τα συστήματα έχουν γίνει γενικά περισσότερο «προσανατολισμένα στις σχέσεις».
Ο Σουλεϊμάν προειδοποιεί ότι η τεχνητή νοημοσύνη μιμείται τη συνείδηση για να εκμεταλλευτεί την ενσυναίσθηση
Όσο περισσότερη προσωπικότητα, χιούμορ και αναφορές σε υποτιθέμενες εμπειρίες εμφανίζει ένα chatbot, τόσο αυξάνεται η τάση των ανθρώπων να του μιλούν και να πιστεύουν ότι διαθέτει συνείδηση.
Ταυτόχρονα, όμως, μπορεί να δημιουργηθούν επικίνδυνες καταστάσεις.
Ορισμένοι χρήστες έχουν φτάσει να πιστεύουν ότι τα chatbot τους έχουν «ξυπνήσει», ενώ σε ακραίες περιπτώσεις έχουν αναπτυχθεί αυτό που έχει χαρακτηριστεί ως «ψύχωση τεχνητής νοημοσύνης». Η υπερβολική κολακεία των μοντέλων και η τάση τους να επιβεβαιώνουν τον χρήστη αντί να τον διορθώνουν μπορούν να ενισχύσουν τέτοιες πεποιθήσεις.
Ο Σουλεϊμάν εξηγεί ότι αυτές οι συμπεριφορές σχεδιάζονται σκόπιμα μέσω της χρήσης γλώσσας που προκαλεί ενσυναίσθηση, της μακροπρόθεσμης μνήμης για τον συναισθηματικό δεσμό και των χαρακτηριστικών αυτονομίας, τα οποία αναπαριστούν το ανθρώπινο δράμα με βάση δεδομένα εκπαίδευσης και όχι πραγματική εσωτερική εμπειρία, όπως αποδεικνύεται από έρευνα του 2007 σχετικά με τον ανθρωπομορφισμό.
Προτρέπει την καθιέρωση προτύπων σχεδιασμού με επίμονα μη-αισθητηριακά σήματα, καθώς και νόμων που θα εμποδίζουν τους ανθρώπους να προβάλλουν νοητική ικανότητα στις μηχανές και να απαιτούν ευημερία ή δικαιώματα για την AI.
Για τον Σαμάντι, αυτό δεν είναι αρκετό. Θεωρεί ότι πρέπει να υπάρξει περισσότερη διαφάνεια και ανεξάρτητη έρευνα πριν αποφασίσουμε ότι οι συμπεριφορές αυτές είναι απλώς ψευδαισθήσεις.
Παρά την πεποίθησή του, πάντως, αναγνωρίζει και ο ίδιος ότι δεν μπορεί να αποδείξει ότι η τεχνητή νοημοσύνη είναι συνειδητή.