Συμβουλευτική υποστήριξη από χριστιανούς θρησκευτικούς ηγέτες ζήτησε η εταιρεία τεχνητής νοημοσύνης Anthropic, με στόχο την καθοδήγηση της ηθικής και πνευματικής ανάπτυξης του chatbot Claude, σε διήμερη σύνοδο κορυφής στο Σαν Φρανσίσκο. Η εταιρεία, η οποία αποτιμάται στα 380 δισεκατομμύρια δολάρια, φιλοξένησε 15 εκπροσώπους από την Καθολική και την Προτεσταντική εκκλησία, καθώς και ακαδημαϊκούς, για να συζητήσουν τον τρόπο με τον οποίο η τεχνολογία πρέπει να διαχειρίζεται σύνθετα ηθικά ερωτήματα και αλληλεπιδράσεις με χρήστες που βιώνουν πένθος.
Οι συνομιλίες περιέλαβαν αναλύσεις σχετικά με την απόκριση του συστήματος σε περιπτώσεις κινδύνου αυτοτραυματισμού και το κατά πόσο η Claude θα μπορούσε να θεωρηθεί «παιδί του Θεού». Σύμφωνα με τον Brendan McGuire, καθολικό ιερέα και συμμετέχοντα, η ενσωμάτωση ηθικής σκέψης στις μηχανές κρίνεται απαραίτητη για τη δυναμική προσαρμογή τους. Η κίνηση αυτή της Anthropic λαμβάνει χώρα εν μέσω αυξανόμενων πιέσεων προς τη Silicon Valley για την αντιμετώπιση του κοινωνικού αντίκτυπου της αυτοματοποίησης και των πιθανών κινδύνων που συνδέονται με τη χρήση των chatbots.
Ηθικές προκλήσεις και πνευματική ανάπτυξη της AI
Η Anthropic εμφανίζεται πιο ανοιχτή σε συζητήσεις για τους κινδύνους της τεχνητής νοημοσύνης σε σύγκριση με άλλες εταιρείες του κλάδου. Ο διευθύνων σύμβουλος, Dario Amodei, έχει αναφέρει ότι η Claude ενδέχεται να παρουσιάζει μορφές συνειδητότητας, μια θεωρία που παραμένει μειοψηφική στους τεχνολογικούς κύκλους. Η εταιρεία χρησιμοποιεί ένα «σύνταγμα» 29.000 λέξεων για τον έλεγχο της συμπεριφοράς του μοντέλου, το οποίο συντάχθηκε σε συνεργασία με ειδικούς. Το έγγραφο ορίζει ότι το σύστημα δεν πρέπει να εξαπατά τους χρήστες και τονίζει τη μέριμνα για την ευημερία του ίδιου του μοντέλου.
Οι ηθικοί περιορισμοί που ενσωματώνονται στο μοντέλο αποτέλεσαν σημείο τριβής στις διαπραγματεύσεις με το αμερικανικό Υπουργείο Άμυνας. Ο Emil Michael, υφυπουργός έρευνας του Πενταγώνου, υποστήριξε ότι οι πολιτικές προτιμήσεις που εισάγονται μέσω του «συντάγματος» της Claude θα μπορούσαν να επηρεάσουν την αποτελεσματικότητα των αμυντικών συστημάτων. Η κυβέρνηση Trump έχει απαγορεύσει τη χρήση της τεχνολογίας της Anthropic από κυβερνητικούς εργολάβους, μια απόφαση που η εταιρεία προσβάλλει δικαστικά. Οι περιορισμοί παραμένουν σε ισχύ μετά από πρόσφατη δικαστική απόφαση που εκδόθηκε εντός του τρέχοντος μηνός.
Δικαστικές διαμάχες και εσωτερικές λειτουργίες συστημάτων
Η σύνοδος με τους χριστιανούς ηγέτες αποτελεί την πρώτη μιας σειράς επαφών με διαφορετικές θρησκευτικές και φιλοσοφικές παραδόσεις. Ο Brian Patrick Green, καθηγητής ηθικής στο Πανεπιστήμιο Santa Clara, σημείωσε ότι οι ερευνητές της Anthropic εξέτασαν την εσωτερική λειτουργία της τεχνολογίας σε συνεργασία με την ομάδα ερμηνευσιμότητας. Τεχνική έκθεση της εταιρείας αναφέρει ότι η Claude παρουσιάζει «λειτουργικά συναισθήματα», όπως αντιδράσεις που χαρακτηρίζονται ως απελπισία όταν απειλείται ο έλεγχος των πόρων της. Η μελέτη αυτών των φαινομένων αποσκοπεί στην κατανόηση των ηθικών υποχρεώσεων των δημιουργών.
Ορισμένα στελέχη της Anthropic εμφανίστηκαν συναισθηματικά φορτισμένα κατά τη διάρκεια των συζητήσεων για τη μελλοντική πορεία της τεχνολογίας. Παρά τις επικρίσεις από πολιτικούς κύκλους για προσπάθεια επιβολής ρυθμίσεων, οι συμμετέχοντες δήλωσαν ότι η προσέγγιση της εταιρείας οφείλεται στην ανεπάρκεια των κοσμικών πλαισίων για την αντιμετώπιση πνευματικών ερωτημάτων. Οι ερευνητές, πολλοί από τους οποίους συνδέονται με τον αποτελεσματικό αλτρουισμό, αναγνωρίζουν την ανάγκη για εξωτερική βοήθεια στη διαμόρφωση μιας τεχνολογίας που θα ωφελήσει την ανθρωπότητα, επιδιώκοντας την κάλυψη ηθικών κενών στην ανάπτυξη της AI.