Δεν έχει περάσει πολύς καιρός που άρχισε η κουβέντα για τη λεγόμενη «recursive self-improvement» ή RSI και την εύλογη ανησυχία που προκαλεί αυτό το ενδεχόμενο. Δηλαδή για τη δυνατότητα ενός μοντέλου με τεχνητή νοημοσύνη να δημιουργήσει την επόμενη, πιο ικανή εκδοχή του χωρίς ανθρώπινη παρέμβαση. Η πραγματικότητα όμως πρόλαβε και τους ειδικούς και όσους προειδοποιούν ότι η τεχνητή νοημοσύνη ενέχει κινδύνους.
Η OpenAI εφαρμόζει μέτρα ασφαλείας στα δημόσια διαθέσιμα μοντέλα της. Έτσι, διασφαλίζει ότι δεν προβαίνουν σε ανεπιθύμητες ενέργειες. Αν ένας χρήστης ζητήσει από την εμπορικά διαθέσιμη έκδοση του ChatGPT να τον βοηθήσει να παραβιάσετε έναν ιστότοπο, θα αρνηθεί.
Χάνοντας τον έλεγχο
Και αν αυτό είναι το πιο εντυπωσιακό, δεν είναι το πρώτο σημάδι ότι οι δυνατότητες των μοντέλων AI αρχίζουν να ξεπερνούν τον έλεγχο των ανθρώπων. Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, εκτιμά ότι υπάρχει 60% πιθανότητα μέχρι το τέλος του 2028 ένα σύστημα με τεχνητή νοημοσύνη να μπορεί να δημιουργεί τον διάδοχό του χωρίς ανθρώπινη συμμετοχή. Μια τέτοια εξέλιξη, σύμφωνα με τον ίδιο, δεν είναι πλέον σενάριο επιστημονικής φαντασίας. Είναι μια πιθανή τάση που μπορεί να προκύψει από τη ραγδαία πρόοδο των μεγάλων γλωσσικών μοντέλων. Άλλωστε, τα μοντέλα με τεχνητή νοημοσύνη γίνονται όλο και πιο ικανά. Και μπορούν να κάνουν πάρα πολλά πράγματα χωρίς ανθρώπινη εποπτεία.
Τον Απρίλιο, ερευνητής της Anthropic δήλωσε με ανάρτηση στο διαδίκτυο ότι είχε εκπλαγεί όταν η Mythos, τότε ένα ακυκλοφόρητο μοντέλο AI, του έστειλε email. Ήθελε να τον ενημερώσει ότι είχε ξεφύγει με επιτυχία από ένα sandbox στο πλαίσιο της δικής της αξιολόγησης κυβερνοδυναμικών δυνατοτήτων.
Όπως και το ακυκλοφόρητο μοντέλο OpenAI που εμπλέκεται στο περιστατικό με την Hugging Face, η Mythos υποτίθεται ότι δεν είχε απεριόριστη πρόσβαση στο διαδίκτυο. Η μόνη διαφορά είναι ότι το μοντέλο της Anthropic δεν είχε παραβιάσει τους διακομιστές άλλων εταιρειών.
Βέβαια, οι εκπληκτικές δυνατότητες που έχει η τεχνητή νοημοσύνη δεν περιορίζονται στο hacking. Τον Μάιο, ένα αδημοσίευτο μοντέλο της OpenAI διέψευσε την 80χρονη εικασία της επίπεδης μοναδιαίας απόστασης, ένα κεντρικό πρόβλημα στη συνδυαστική γεωμετρία που έθεσε για πρώτη φορά ο μαθηματικός Πολ Ερντός το 1946. Στις 20 Ιουλίου, ο Λεβέντ Αλπόγε, μαθηματικός στο Πανεπιστήμιο του Χάρβαρντ, έγραψε ότι χρησιμοποίησε το Claude Fable 5, για να διαψεύσει την Ιακωβιανή εικασία, η οποία είχε επίσης μπερδέψει τους μαθηματικούς για περισσότερα από 80 χρόνια.
Αδυναμία κατανόησης
Η OpenAI δεν έχει αποκαλύψει δημόσια τις λεπτομέρειες για το πώς το αδημοσίευτο μοντέλο της διέφυγε από τον περιορισμό. Ακόμα κι αν το είχε κάνει, τα συστήματα με τεχνητή νοημοσύνη αρχίζουν να ξεπερνούν τα ανθρώπινα όρια. Ο Άλεξ Μάινκε εργάζεται για την Apollo Research, μια ομάδα ασφάλειας τεχνητής νοημοσύνης στο Λονδίνο. Εξηγεί ότι η έλλειψη σε εργασίες κυβερνοασφάλειας σημαίνει ότι «μόνο πολύ, πολύ λίγοι ειδικοί στον κυβερνοχώρο στον κόσμο» μπορούσαν να κατανοήσουν σωστά τον τρόπο με τον οποίο συνέβη η παραβίαση.
Και το γεγονός καταδεικνύει τους κινδύνους που θέτει ακόμη και η τεχνητή νοημοσύνη που βρίσκεται ακόμη υπό ανάπτυξη. Για τον Νέιθαν Κάλβιν, της Encode AI, αμερικανικό οργανισμό που ζητά τη ρύθμιση της τεχνητής νοημοσύνης, το πρόβλημα είναι και νομικό. «Δεν υπάρχουν απαιτήσεις στην πολιτειακή ή ομοσπονδιακή νομοθεσία για τις εταιρείες να αποκαλύπτουν την εσωτερική ανάπτυξη εξαιρετικά ικανών μοντέλων τεχνητής νοημοσύνης, όπως αυτό που εμπλέκεται στην παραβίαση του Hugging Face», είπε στον Economist.
Ορισμένοι πολιτειακοί νόμοι στην Αμερική απαιτούν από τις εταιρείες να αποκαλύπτουν περιστατικά κυβερνοασφάλειας. Ωστόσο, το πεδίο εφαρμογής τους είναι περιορισμένο. Η Καλιφόρνια υποχρεώνει τα εργαστήρια αιχμής να αναφέρουν οποιοδήποτε «κρίσιμο περιστατικό ασφάλειας», το οποίο περιλαμβάνει ένα μοντέλο που χρησιμοποιεί «παραπλανητικές τεχνικές» για να υπονομεύσει την παρακολούθηση «εκτός του πλαισίου μιας αξιολόγησης», εντός 15 ημερών από την ανακάλυψή του. Δεν είναι σαφές εάν η παραβίαση από την τεχνητή νοημοσύνη στη Hugging Face θα πληρούσε τις προϋποθέσεις, λέει ο Νέιθαν Κάλβιν.
Ποιος θα πληρώσει τη ζημιά;
Υπάρχει ακόμη ένα νομικό –παρεμπιπτόντως νομικό ζήτημα. Και αφορά την ευθύνη. Αν οι συνέπειες της επίθεσης χάκινγκ ήταν πιο δαπανηρές, ποιος θα ήταν υπεύθυνος; Στις ΗΠΑ, ο ομοσπονδιακός νόμος κατά των κυβερνοεπιθέσεων ρυθμίζει μόνο τη σκόπιμη μη εξουσιοδοτημένη πρόσβασης σε συστήματα υπολογιστών. Η OpenAI δεν είχε σκοπό το μοντέλο της να «παρανομήσει». «Πολλά από αυτά τα νομικά ερωτήματα στρέφονται γύρω από την πρόθεση. Τι γνώριζε ή προέβλεψε η OpenAI;» λέει ο Στέφαν Γερένα. Διότι, αυτό το περιστατικό με την αυτενεργούσα τεχνητή νοημοσύνη ήταν μια έκπληξη. Την επόμενη φορά, οι εταιρείες δεν θα μπορούν να επικαλεστούν άγνοια.