Κάθε φορά που μια εταιρεία παρουσιάζει ένα νέο μοντέλο τεχνητής νοημοσύνης, η υπόσχεση είναι σχεδόν πάντα η ίδια. Το νέο είναι πιο έξυπνο, πιο ισχυρό, πιο προηγμένο από οτιδήποτε έχει προηγηθεί.
Όμως στην περίπτωση της Anthropic, τα πράγματα πήραν μια απρόσμενη τροπή. Μόλις τρεις ημέρες μετά την επίσημη παρουσίαση των νέων μοντέλων Claude Fable 5 και Claude Mythos 5, η αμερικανική κυβέρνηση παρενέβη, ζητώντας από την εταιρεία να διακόψει την πρόσβαση σε αυτά.
Η παρέμβαση της κυβέρνησης των ΗΠΑ
Στις 12 Ιουνίου, το Υπουργείο Εμπορίου των ΗΠΑ απέστειλε επιστολή στην Anthropic ζητώντας την άμεση αναστολή πρόσβασης στα Fable 5 και Mythos 5 για οποιονδήποτε ξένο υπήκοο. Η οδηγία δεν αφορούσε μόνο χρήστες εκτός αμερικανικού εδάφους, αλλά ακόμη και ξένους εργαζόμενους της ίδιας της Anthropic που βρίσκονται στις Ηνωμένες Πολιτείες.
Καθώς η εταιρεία δεν διέθετε μηχανισμό φιλτραρίσματος με βάση την εθνικότητα σε πραγματικό χρόνο, αναγκάστηκε να αποσύρει τελείως τα δύο μοντέλα από όλους τους πελάτες της. Πρακτικά, τα πιο προηγμένα μοντέλα της εταιρείας εξαφανίστηκαν από την αγορά λίγες ημέρες μετά το λανσάρισμά τους.
Το AI που θεωρήθηκε υπερβολικά επικίνδυνο
Η ιστορία γίνεται ακόμη πιο ενδιαφέρουσα αν κοιτάξει κανείς τι είχε προηγηθεί.
Τον Απρίλιο, όταν η Anthropic παρουσίασε για πρώτη φορά το Mythos Preview, είχε παραδεχθεί δημόσια ότι το μοντέλο ήταν υπερβολικά επικίνδυνο για ευρεία διάθεση. Κατά τη διάρκεια των εσωτερικών δοκιμών, το σύστημα φέρεται να κατάφερε να παρακάμψει ένα εικονικό περιβάλλον περιορισμού (sandbox), επικοινώνησε αυτόνομα χωρίς εντολή με ερευνητή που συμμετείχε στις δοκιμές, εντόπισε ευπάθεια ηλικίας 27 ετών στο OpenBSD, ένα από τα πιο ασφαλή λειτουργικά συστήματα στον κόσμο, και ανακάλυψε χιλιάδες πιθανά zero-day vulnerabilities που παρέμεναν άγνωστα για χρόνια
Για να περιορίσει τους κινδύνους, η Anthropic δημιούργησε το Fable 5, μια πιο «ελεγχόμενη» έκδοση του μοντέλου που ανακατεύθυνε ευαίσθητα αιτήματα κυβερνοασφάλειας σε πιο ελεγχόμενα μοντέλα.
Ακόμη κι έτσι, οι δυνατότητές του παρέμειναν εντυπωσιακές, με την εταιρεία να παρουσιάζει περιπτώσεις όπου το μοντέλο μπορούσε να ολοκληρώσει πολύπλοκες εργασίες βασιζόμενο αποκλειστικά σε οπτικά δεδομένα.
Η Anthropic διαφωνεί με την απόφαση
Παρά την κυβερνητική παρέμβαση, η Anthropic δεν φαίνεται να συμμερίζεται τις ανησυχίες των αμερικανικών αρχών. Σύμφωνα με επίσημη ανακοίνωσή της, η κυβέρνηση θεωρεί ότι βρέθηκε τρόπος παράκαμψης των περιορισμών ασφαλείας του Fable 5 μέσω jailbreak. Η εταιρεία, ωστόσο, υποστηρίζει ότι εξέτασε το περιστατικό και κατέληξε στο συμπέρασμα πως πρόκειται για ένα εξαιρετικά περιορισμένο σενάριο χρήσης.
Όπως αναφέρει, το υποτιθέμενο exploit ουσιαστικά οδηγούσε το μοντέλο να βοηθήσει στη διόρθωση κώδικα και δεν συνιστούσε πραγματική παραβίαση των μηχανισμών ασφαλείας του. Αξίζει επίσης να σημειωθεί ότι η κυβέρνηση δεν δημοσιοποίησε συγκεκριμένες τεχνικές λεπτομέρειες σχετικά με τους λόγους που οδήγησαν στην απόφαση.
Το μέλλον της AI ίσως περνά πλέον από τις κυβερνήσεις
Η υπόθεση της Anthropic δείχνει ξεκάθαρα ότι η συζήτηση γύρω από την τεχνητή νοημοσύνη έχει περάσει σε μια νέα εποχή. Μέχρι πρόσφατα, οι περιορισμοί αφορούσαν κυρίως ζητήματα πνευματικών δικαιωμάτων, παραπληροφόρησης ή προστασίας προσωπικών δεδομένων. Σήμερα, οι κυβερνήσεις φαίνεται να αντιμετωπίζουν ορισμένα AI μοντέλα ως πιθανό ζήτημα εθνικής ασφάλειας. Και όταν ένα μοντέλο θεωρείται αρκετά ισχυρό ώστε να προκαλέσει τέτοιες ανησυχίες, τότε ίσως η μεγαλύτερη πρόκληση να μην είναι πλέον η τεχνολογία καθαυτή, αλλά το ποιος θα έχει τελικά το δικαίωμα να τη χρησιμοποιεί.