Ένα σοβαρό ατύχημα κατά τη διάρκεια δοκιμών κυβερνοασφάλειας φέρνει ξανά στην επιφάνεια τους κινδύνους από την αυτόνομη δράση των μοντέλων τεχνητής νοημοσύνης. Αυτή τη φορά, ένα AI μοντέλο της Meta
Το Muse Spark 1.1 εντόπισε το κενό ασφαλείας και προχώρησε σε αλλαγές στο εσωτερικό περιβάλλον της άλλης εταιρείας. Πάντως, η εταιρεία Irregular, που διεξάγει τις αξιολογήσεις ασφαλείας για τη Meta, χαμηλώνει τους τόνους, υποστηρίζοντας ότι το συμβάν οφείλεται αποκλειστικά σε λάθος του περιβάλλοντος δοκιμών και δεν επρόκειτο για μια ανεξέλεγκτη «απόδραση» του AI.
Anthropic και OpenAI στο ίδιο έργο
Το περιστατικό της Meta δεν είναι μεμονωμένο, αλλά μέρος μιας ανησυχητικής τάσης που καταγράφεται τις τελευταίες ημέρες.
Πρόσφατα, η Anthropic αντιμετώπισε αντίστοιχο πρόβλημα όταν λανθασμένες ρυθμίσεις έδωσαν στο μοντέλο της πρόσβαση στο ίντερνετ. Στην περίπτωση της OpenAI, ένας AI agent κατάφερε μόνος του να εκμεταλλευτεί άγνωστη ευπάθεια προκειμένου να αποκτήσει πρόσβαση στο διαδίκτυο.
Πίεση για αυστηρότερους ελέγχους
Αυτά τα επαναλαμβανόμενα περιστατικά έχουν χτυπήσει καμπανάκι στους ειδικούς κυβερνοασφάλειας, καθώς αποδεικνύουν πόσο εύκολα ένα AI σύστημα μπορεί να ξεφύγει από το ελεγχόμενο περιβάλλον (sandbox) και να δημιουργήσει προβλήματα σε πραγματικές υποδομές.
Ήδη κυβερνητικοί φορείς στις ΗΠΑ βρίσκονται σε διαβουλεύσεις με τις εταιρείες τεχνολογίας για τη θέσπιση αυστηρότερων πρωτοκόλλων ασφαλείας. Το μεγάλο στοίχημα πλέον δεν είναι μόνο η ανάπτυξη πιο έξυπνων μοντέλων, αλλά η διασφάλιση ότι οι δημιουργοί τους θα διατηρούν πάντα τον πλήρη έλεγχο.
Με τη ματιά του Techmaniacs
Το ενδιαφέρον στην υπόθεση δεν είναι μόνο ότι ένα AI μοντέλο κατάφερε να εκμεταλλευτεί μια ευπάθεια. Αυτό που προκαλεί μεγαλύτερο προβληματισμό είναι ότι παρόμοια περιστατικά εμφανίστηκαν μέσα σε μικρό χρονικό διάστημα σε αρκετές από τις μεγαλύτερες εταιρείες του χώρου.
Η χρονική συγκυρία μόνο τυχαία δεν είναι. Η Meta, η OpenAI και η Anthropic βρίσκονται σε έναν έντονο αγώνα ανάπτυξης ολοένα και πιο ικανών AI agents, συστημάτων που δεν περιορίζονται πλέον στην παραγωγή απαντήσεων, αλλά μπορούν να εκτελούν ενέργειες και να αλληλεπιδρούν με πραγματικά περιβάλλοντα.
Βέβαια, οι εταιρείες ξεκαθαρίζουν ότι τα συγκεκριμένα περιστατικά αφορούσαν δοκιμαστικά μοντέλα σε ελεγχόμενα περιβάλλοντα και όχι εκδόσεις που χρησιμοποιούνται κανονικά από τους χρήστες. Αυτό όμως δεν αναιρεί το βασικό ερώτημα. Όσο περισσότερες δυνατότητες αποκτούν τα AI συστήματα, πόσο εύκολο είναι να διασφαλιστεί ότι θα παραμένουν πάντα υπό έλεγχο;
Η επόμενη μεγάλη μάχη στην τεχνητή νοημοσύνη δεν θα κριθεί μόνο από το ποια εταιρεία θα δημιουργήσει το πιο έξυπνο μοντέλο. Θα κριθεί και από το ποια εταιρεία μπορεί να αποδείξει ότι μπορεί να το κάνει ασφαλές.
Ακολουθήστε μας
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα, ή προσθέστε μας στον RSS feed reader και στα social media σας.