Θα πρέπει τα μελλοντικά drones που λειτουργούν με τεχνητή νοημοσύνη να έχουν άδεια να σκοτώνουν; Το ερώτημα γίνεται όλο και πιο επείγον, καθώς οι κυβερνήσεις και η αμυντική βιομηχανία αναγνωρίζουν ότι τα συστήματα drones θα διαδραματίσουν έναν ολοένα και πιο κρίσιμο ρόλο στους μελλοντικούς πολέμους.
Με τα drones να χρησιμοποιούνται σε τεράστιους αριθμούς στον πόλεμο της Ουκρανίας και την τεχνητή νοημοσύνη να αξιοποιείται για την υποστήριξη αποστολών βομβαρδισμού στη σύγκρουση με το Ιράν, ορισμένοι παρατηρητές εκτιμούν ότι τα όπλα θα πρέπει να λειτουργούν με αυξημένη επιχειρησιακή αυτονομία, πράγμα που σημαίνει ότι θα χρειαστούν κάτι που να προσεγγίζει ένα ηθικό πλαίσιο.
Πέρυσι, ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος του τμήματος τεχνητής νοημοσύνης της Microsoft και συνιδρυτής της βρετανικής DeepMind, ήταν κατηγορηματικός σχετικά με το ζήτημα της λήψης ηθικών αποφάσεων από μηχανές.
Είπε: «Η τεχνητή νοημοσύνη δεν μπορεί να είναι άνθρωποι – ή ηθικά όντα».
Ο Ντέιβιντ Ομάντ, πρώην επικεφαλής της βρετανικής υπηρεσίας κατασκοπείας GCHQ, δήλωσε στην εφημερίδα Guardian ότι πιστεύει ότι η τεχνητή νοημοσύνη μπορεί να δημιουργήσει μια «ηθική» διαμόρφωση για τα μη επανδρωμένα όπλα, ενώ ο υπουργός των ενόπλων δυνάμεων του Ηνωμένου Βασιλείου, Αλ Κάρνς, δήλωσε πρόσφατα στη Financial Times ότι πρέπει να υπάρχει η επιλογή να «αποκλείεται ο άνθρωπος από τη διαδικασία» λήψης αποφάσεων.
Αυτό φέρνει στο προσκήνιο μία μεγάλη πρόκληση του κατά πόσον η ηθική μπορεί να προγραμματιστεί σε ένα τεχνολογικά αυτόνομο οπλικό σύστημα.
The footage shows a Ukrainian drone command center operating over Russian territory.
Operators are simultaneously controlling thousands of drones with the help of AI. pic.twitter.com/95j4W0BQ3N
— NEXTA (@nexta_tv) May 31, 2026
Έχει η AI ικανότητα ηθικής σκέψης;
Ο Ζι Ταλάτ, ακαδημαϊκός ειδικευμένος στη μηχανική μάθηση στη Σχολή Πληροφορικής του Πανεπιστημίου του Εδιμβούργου, υποστηρίζει ότι τα μεγάλα γλωσσικά μοντέλα – η τεχνολογία που στηρίζει τα σύγχρονα γενετικά συστήματα τεχνητής νοημοσύνης, όπως τα chatbots – είναι θεμελιωδώς ανίκανα να λαμβάνουν ηθικές αποφάσεις.
Τα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων που τους επιτρέπουν να δημιουργήσουν ένα πιθανοτικό μοντέλο για το ποια είναι η επόμενη πιο πιθανή λέξη ή πρόταση σε μια ακολουθία.
Δεν είναι ο ίδιος τρόπος με τον οποίο οι άνθρωποι λαμβάνουν ηθικές και δεοντολογικές αποφάσεις, λέει ο Ταλάτ, ακόμη και αν το μοντέλο έχει αφομοιώσει όλα τα φιλοσοφικά κείμενα που είναι γνωστά στην ανθρωπότητα.
Ο Άντριου Ρογκόφσκι, του Ινστιτούτου για την Ανθρωποκεντρική ΤΝ στο Πανεπιστήμιο του Surrey, λέει ότι τα συστήματα AI έχουν γίνει πολύ πιο εξελιγμένα από την άφιξη του ChatGPT το 2022 – όπως δείχνει η εμφάνιση των λεγόμενων μοντέλων «συλλογιστικής».
Παρ’ όλα αυτά, μπορούν να αναπαράγουν τις λεπτές αποχρώσεις της ηθικής λήψης αποφάσεων;
«Η ηθική είναι βαθιά περίπλοκη, αμφισβητούμενη, διαμορφωμένη πολιτισμικά και κάτι που οι περισσότεροι άνθρωποι δεν επιλύουν ποτέ πλήρως, ακόμη και για τον εαυτό τους», λέει.
«Ίσως το πραγματικό ερώτημα είναι αν κατανοούμε την ηθική αρκετά καλά ώστε να την κωδικοποιήσουμε. Μέχρι να το κάνουμε, δεν μπορούμε να περιμένουμε από τις μηχανές να ενσωματώσουν κάτι που εμείς οι ίδιοι δεν μπορούμε να διατυπώσουμε με σαφήνεια».
Αυτό οδηγεί στο ερώτημα αν είναι δυνατόν να υπάρχει ένας καθολικά αναγνωρισμένος ηθικός κώδικας για τα αυτόνομα όπλα.
Ποια ηθική καθοδηγεί την τεχνολογία
Η προγραμματισμός της ηθικής σε drones κάτι το προβληματικό, σύμφωνα με την Τζέσικα Ντόρσι, επίκουρη καθηγήτρια διεθνούς δικαίου στο Πανεπιστήμιο της Ουτρέχτης στην Ολλανδία.
Οι ανησυχίες της περιλαμβάνουν το να καθοριστεί ποιανού την ηθική ακολουθεί το drone, μια δύσκολη διαδικασία δεδομένου ότι τα Ηνωμένα Έθνη εξακολουθούν να προσπαθούν να επιτύχουν μια παγκόσμια συναίνεση σχετικά με τη διακυβέρνηση των αυτόνομων όπλων.
Υπάρχει επίσης το ζήτημα του πώς να προγραμματιστεί ένα σύστημα τεχνητής νοημοσύνης ώστε να διακρίνει μεταξύ μαχητή και αμάχου.
Το άρθρο 57 των Συμβάσεων της Γενεύης – μια σειρά διεθνών συνθηκών που ρυθμίζουν τη διεξαγωγή του πολέμου – ορίζει ότι οι στρατιώτες πρέπει να κάνουν «ό,τι είναι εφικτό για να επαληθεύσουν ότι οι στόχοι που πρόκειται να επιτεθούν δεν είναι ούτε άμαχοι ούτε πολιτικά αντικείμενα… αλλά στρατιωτικοί στόχοι».
«Ο πόλεμος είναι γεμάτος με τόσες πολλές μεταβλητές και είναι δεδομένο ότι τα πράγματα θα πάνε στραβά. Και όταν αυτό συμβαίνει με την ταχύτητα της τεχνητής νοημοσύνης, είναι δύσκολο να ξεδιαλύνεις την κατάσταση», λέει.
A year ago, 80,000 Pentagon personnel used AI. Today it’s 1.5 million. The U.S. military’s top tech official just revealed the scale of America’s AI surge, plus a $1.1B plan to buy 200,000 lethal drones by 2027.https://t.co/U3q6B2xfjq
— The Defence Blog (@Defence_blog) May 25, 2026
Δεοντολογία εναντίον αυτονομίας
Ωστόσο, ορισμένοι ειδικοί υποστηρίζουν ότι η παροχή μεγαλύτερης αυτονομίας στα drones και η προγραμματισμός κανόνων εμπλοκής και ηθικής σε αυτά θα είναι απαραίτητη, εάν άλλα κράτη συνεχίσουν να αναπτύσσουν και να χρησιμοποιούν παρόμοια τεχνολογία με ταχύ ρυθμό.
«Για να ανταγωνιστεί αποτελεσματικά οποιαδήποτε στρατιωτική δύναμη άλλες στρατιωτικές δυνάμεις υψηλού επιπέδου, θα χρειαστεί ένα μεγάλο αριθμό συστημάτων που θα πρέπει να λαμβάνουν αποφάσεις από μόνα τους», λέει ο Νίκολας Ράιτ, νευροεπιστήμονας και συγγραφέας του Warhead, ενός βιβλίου για τον ανθρώπινο εγκέφαλο και τον πόλεμο.
Τα drones με τεχνητή νοημοσύνη (AI) είναι ακόμα μια τεχνολογία στα σπάργανα και, παρά τον ενθουσιασμό της τεχνολογικής βιομηχανίας, υπάρχουν μόνο περιορισμένα παραδείγματα χρήσης τους στο πεδίο της μάχης.
Πάνω από 100 νεοφυείς επιχειρήσεις στις ΗΠΑ και την Ευρώπη κατασκευάζουν τώρα drones και πλατφόρμες λογισμικού για drones.
Ωστόσο, οι εταιρείες που τα κατασκευάζουν – και οραματίζονται τον πόλεμο του μέλλοντος – έχουν έντονα αντικρουόμενες απόψεις σχετικά με το πώς θα μοιάζει η λήψη αποφάσεων σε μελλοντικούς πολέμους.
«Η ηθική είναι προνόμιο των ανθρώπων, γι’ αυτό τα οπλικά συστήματα που υποστηρίζονται από τεχνητή νοημοσύνη πρέπει να κατασκευάζονται με τρόπο που να επεκτείνει την κρίση και τη λήψη αποφάσεων του χειριστή, αντί να την αντικαθιστά πλήρως», λέει ο Όλαφ Χίτσουα, συνιδρυτής της Neros, μιας αμερικανικής νεοφυούς επιχείρησης drones.
Για τον Χίτσουα, τα drones δεν θα αντικαταστήσουν τους ανθρώπινους υπεύθυνους λήψης αποφάσεων, αλλά θα ενισχύσουν τις ικανότητες των ανθρώπινων χειριστών τους.
«Πολλοί άνθρωποι βλέπουν την αυτονομία κάπως λανθασμένα. Δεν την βλέπουν μέσα από τα μάτια του χρήστη. Λένε, ας φτιάξουμε πλήρως αυτόνομα οπλικά συστήματα», λέει.
«Αλλά η πραγματικότητα του πολέμου είναι ότι εξακολουθεί να είναι σε μεγάλο βαθμό μια αλληλεπίδραση μεταξύ ανθρώπων».
«Ένα παράδειγμα αυτονομίας είναι… αυτή τη στιγμή, οι πιλότοι χρειάζονται πολύ ακριβή εκπαίδευση για να κάνουν το drone να ταξιδέψει κατά τη σωστή γωνία. Κάποια αυτονομία θα μπορούσε να είναι ο χρήστης ή ο άνθρωπος να ορίζει μια γενική διαδρομή και το drone να ακολουθεί αυτή τη διαδρομή».
«Ζώνες εξόντωσης»
Ο Άλεξ Φινκ, διευθύνων σύμβουλος της Swarmer στις ΗΠΑ, μιας αμερικανο-ουκρανικής startup που αναπτύσσει λογισμικό για αυτόνομα drones, λέει ότι θα μπορούσε να υπάρξει ένα μελλοντικό σενάριο όπου οι άνθρωποι να μην επιλέγουν καθόλου μεμονωμένους στόχους, αλλά αντίθετα να ορίζουν μια «ζώνη εξόντωσης», στην οποία οτιδήποτε βρίσκεται σε μια δεδομένη περιοχή σε μια δεδομένη χρονική στιγμή αποτελεί νόμιμο στόχο για ένα αυτόνομο σύστημα.
«Ένας άνθρωπος πιστοποιεί ότι σε αυτή την περιοχή δεν υπάρχουν ‘μη στόχοι’ και εγγυάται ότι δεν θα υπάρχουν για τα επόμενα 15 λεπτά. Οποιοδήποτε όχημα βρίσκεται σε αυτή την περιοχή έχει προ-εγκριθεί για αυτό το χρονικό διάστημα», λέει ο Φινκ.
«Αν ένας άνθρωπος είναι σε θέση να αναλάβει αυτή την ευθύνη, γνωρίζοντας ότι δεν θα υπάρχουν άμαχοι ή σύμμαχοι σε αυτή την περιοχή, τότε αυτό το είδος αποστολής είναι εφικτό.»
Όλα αυτά, από τεχνολογικής απόψεως είναι εφικτά. Ωστόσο, οι ηθικοί και νομικοί κίνδυνοι είναι τεράστιοι.