Η Gartner προβλέπει ότι μέχρι το 2028, η λανθασμένη παραμετροποίηση της τεχνητής νοημοσύνης στα κυβερνοφυσικά συστήματα θα οδηγήσει στην κατάρρευση κρίσιμων εθνικών υποδομών σε κράτος της ομάδας G20. Τα κυβερνοφυσικά συστήματα ορίζονται ως μηχανολογικές δομές που συντονίζουν την αίσθηση, τον υπολογισμό, τον έλεγχο, τη δικτύωση και την ανάλυση για την αλληλεπίδραση με τον φυσικό κόσμο και τους ανθρώπους. Ο όρος αυτός αποτελεί μια ομπρέλα που καλύπτει την επιχειρησιακή τεχνολογία, τα συστήματα βιομηχανικού ελέγχου, τον βιομηχανικό αυτοματισμό, καθώς και το βιομηχανικό διαδίκτυο των πραγμάτων, τη ρομποτική, τα drones και το πλαίσιο του Industrie 4.0, επηρεάζοντας άμεσα τη λειτουργία των κρατικών δομών.
Ο Wam Voster, Αντιπρόεδρος Αναλυτής της Gartner, επισημαίνει ότι η επόμενη μεγάλη αποτυχία στις υποδομές ενδέχεται να μην οφείλεται σε κυβερνοεπιθέσεις ή φυσικά φαινόμενα. Αντίθετα, η αιτία μπορεί να εντοπιστεί σε έναν μηχανικό με καλές προθέσεις, ένα ελαττωματικό σενάριο ενημέρωσης ή ακόμα και σε ένα λάθος δεκαδικό ψηφίο στις ρυθμίσεις. Σύμφωνα με τον Voster, ένας ασφαλής διακόπτης έκτακτης ανάγκης ή μια λειτουργία παράκαμψης, η οποία θα είναι προσβάσιμη αποκλειστικά σε εξουσιοδοτημένους χειριστές, κρίνεται πλέον επιβεβλημένη για την προστασία των εθνικών δικτύων από ακούσιες διακοπές που προκαλούνται από την κακή ρύθμιση της τεχνητής νοημοσύνης στα συστήματα ελέγχου.
Η πρόβλεψη της Gartner για τις υποδομές
Η λανθασμένα ρυθμισμένη τεχνητή νοημοσύνη έχει τη δυνατότητα να απενεργοποιήσει αυτόνομα ζωτικές υπηρεσίες, να παρερμηνεύσει δεδομένα αισθητήρων ή να πυροδοτήσει μη ασφαλείς ενέργειες στον φυσικό κόσμο. Τέτοια σφάλματα μπορούν να οδηγήσουν σε σοβαρές φυσικές ζημιές ή εκτεταμένες διακοπές παροχής υπηρεσιών, θέτοντας σε άμεσο κίνδυνο τη δημόσια ασφάλεια και την οικονομική σταθερότητα των κρατών. Ο κίνδυνος αυτός εντείνεται καθώς η τεχνητή νοημοσύνη αναλαμβάνει τον έλεγχο κρίσιμων συστημάτων, όπως οι μονάδες παραγωγής ενέργειας και τα εργοστάσια, όπου η ακρίβεια των αποφάσεων είναι καθοριστική για την αποφυγή ατυχημάτων μεγάλης κλίμακας.
Ως χαρακτηριστικό παράδειγμα αναφέρονται τα σύγχρονα δίκτυα ηλεκτροδότησης, τα οποία βασίζονται στην τεχνητή νοημοσύνη για την εξισορρόπηση παραγωγής και κατανάλωσης σε πραγματικό χρόνο. Ένα εσφαλμένο μοντέλο πρόβλεψης θα μπορούσε να εκλάβει μια φυσιολογική διακύμανση της ζήτησης ως αστάθεια, προκαλώντας περιττή απομόνωση του δικτύου ή περικοπές ηλεκτρικού φορτίου σε ολόκληρες γεωγραφικές περιοχές ή χώρες. Αυτό το σενάριο αναδεικνύει την επικινδυνότητα της απόλυτης εμπιστοσύνης σε αυτοματοποιημένους αλγορίθμους, οι οποίοι συχνά στερούνται της απαραίτητης πλαισίωσης των δεδομένων που λαμβάνουν από το επιχειρησιακό περιβάλλον, οδηγώντας σε εσφαλμένες διορθωτικές κινήσεις.
Οι κίνδυνοι από την αυτόνομη λήψη αποφάσεων
Ο Wam Voster τονίζει ότι τα σύγχρονα μοντέλα τεχνητής νοημοσύνης είναι τόσο σύνθετα που συχνά προσομοιάζουν με «μαύρα κουτιά». Ακόμη και οι ίδιοι οι προγραμματιστές αδυνατούν ορισμένες φορές να προβλέψουν πώς μικρές αλλαγές στις ρυθμίσεις θα επηρεάσουν την τελική συμπεριφορά του μοντέλου και τις αναδυόμενες δράσεις του. Όσο πιο αδιαφανή γίνονται αυτά τα συστήματα, τόσο αυξάνεται ο κίνδυνος από μια λανθασμένη παραμετροποίηση. Για τον λόγο αυτό, η Gartner θεωρεί κρίσιμο να διατηρείται η δυνατότητα ανθρώπινης παρέμβασης, ώστε να διορθώνονται έγκαιρα οι αποφάσεις της τεχνητής νοημοσύνης πριν προκληθεί μη αναστρέψιμη βλάβη στις υποδομές.
Προκειμένου να μετριαστούν αυτοί οι κίνδυνοι, οι επικεφαλής ασφάλειας πληροφοριών (CISO) οφείλουν να εφαρμόσουν μηχανισμούς ασφαλούς παράκαμψης σε όλα τα κυβερνοφυσικά συστήματα που υποστηρίζουν κρίσιμες υποδομές. Αυτοί οι μηχανισμοί, όπως ο «διακόπτης τερματισμού», διασφαλίζουν ότι ο άνθρωπος διατηρεί τον τελικό έλεγχο ακόμα και όταν τα συστήματα λειτουργούν σε καθεστώς πλήρους αυτονομίας. Η στρατηγική αυτή αποσκοπεί στην αποτροπή καταστροφικών σεναρίων όπου η τεχνητή νοημοσύνη θα μπορούσε να εγκλωβίσει μια υποδομή σε έναν κύκλο λανθασμένων ενεργειών χωρίς να υπάρχει δυνατότητα εξωτερικής διόρθωσης από τους εξουσιοδοτημένους χειριστές.
Συστάσεις για την θωράκιση των δικτύων
Επιπλέον, η Gartner συνιστά την ανάπτυξη ψηφιακών διδύμων πλήρους κλίμακας για τα συστήματα που υποστηρίζουν τις κρίσιμες εθνικές υποδομές. Αυτά τα ψηφιακά αντίγραφα επιτρέπουν τη ρεαλιστική δοκιμή των ενημερώσεων και των αλλαγών στις ρυθμίσεις σε ένα ασφαλές περιβάλλον προσομοίωσης πριν από την τελική τους εγκατάσταση στα πραγματικά συστήματα. Η πρακτική αυτή μειώνει δραστικά την πιθανότητα εμφάνισης απρόβλεπτων σφαλμάτων κατά τη μετάβαση σε νέα μοντέλα τεχνητής νοημοσύνης, προσφέροντας ένα απαραίτητο επίπεδο ασφαλείας και επαλήθευσης των δεδομένων πριν την επιχειρησιακή τους εφαρμογή.
Τέλος, καθίσταται υποχρεωτική η παρακολούθηση σε πραγματικό χρόνο με δυνατότητα εφαρμογής μηχανισμών επαναφοράς για κάθε αλλαγή που πραγματοποιείται στην τεχνητή νοημοσύνη των κυβερνοφυσικών συστημάτων. Η Gartner υπογραμμίζει την ανάγκη για τη σύσταση εθνικών ομάδων αντιμετώπισης περιστατικών που σχετίζονται με την τεχνητή νοημοσύνη, οι οποίες θα έχουν την τεχνογνωσία να διαχειρίζονται κρίσεις που προκύπτουν από αλγοριθμικά σφάλματα. Η ενίσχυση της επιχειρησιακής ανθεκτικότητας μέσω αυτών των μέτρων είναι ο μόνος τρόπος για να διασφαλιστεί η αδιάλειπτη λειτουργία των εθνικών υπηρεσιών απέναντι στην αυξανόμενη πολυπλοκότητα της αυτοματοποίησης.