Το αμερικανικό στρατιωτικό επιτελείο που έχει την ευθύνη των επιχειρήσεων στη Μέση Ανατολή προχωρά σε σειρά αλλαγών στη διαδικασία επιλογής και ελέγχου στόχων, μετά το πλήγμα σε σχολείο στη Μινάμπ του Ιράν, στις 28 Φεβρουαρίου, από το οποίο σκοτώθηκαν περισσότερα από 120 παιδιά.
Οι αλλαγές αφορούν τόσο τον τρόπο με τον οποίο επικαιροποιούνται και ελέγχονται οι πληροφορίες για τους στόχους, όσο και τη χρήση τεχνητής νοημοσύνης στις στρατιωτικές επιχειρήσεις.
Στο επίκεντρο βρίσκεται το Maven Smart System, το σύστημα τεχνητής νοημοσύνης της Palantir που χρησιμοποιείται από τον αμερικανικό στρατό για την επεξεργασία πληροφοριών και την υποστήριξη της διαδικασίας επιλογής στόχων.
Δεκάδες αναβαθμίσεις από την Palantir
Σύμφωνα με τις πληροφορίες που επικαλείται το Bloomberg, το Centcom έχει προχωρήσει σε δεκάδες αναβαθμίσεις του συστήματος, ενώ έχουν προστεθεί νέες πηγές δεδομένων ανοιχτού κώδικα, μεταξύ άλλων για την καλύτερη παρακολούθηση της κίνησης αμάχων.
Οι αλλαγές περιλαμβάνουν επίσης νέες δυνατότητες ώστε το Maven να εξετάζει εκ νέου τις διαθέσιμες πληροφορίες και να εντοπίζει αντιφάσεις ή ασυνήθιστα στοιχεία. Μεταξύ άλλων, το σύστημα μπορεί πλέον να βοηθά στην εκτίμηση της πραγματικής χρήσης ενός κτιρίου, όταν διαφορετικές πηγές πληροφοριών δίνουν αντικρουόμενη εικόνα.
Η υπόθεση της Μινάμπ ανέδειξε ένα κρίσιμο πρόβλημα: η τεχνητή νοημοσύνη μπορεί να επεξεργάζεται τεράστιες ποσότητες δεδομένων, αλλά δεν μπορεί από μόνη της να διορθώσει λανθασμένα στοιχεία στην κύρια στρατιωτική βάση πληροφοριών.
Σύμφωνα με τα διαθέσιμα στοιχεία, το κτίριο του σχολείου εξακολουθούσε να εμφανίζεται στη βάση δεδομένων MIDB ως στρατιωτική εγκατάσταση, παρότι υπήρχαν ενδείξεις ότι η πληροφορία αυτή έπρεπε να είχε επικαιροποιηθεί.
Ήδη από το 2019, αναλυτής των αμερικανικών υπηρεσιών πληροφοριών είχε επισημάνει αλλαγές στην εγκατάσταση. Οι παρατηρήσεις όμως δεν πέρασαν στην κύρια βάση δεδομένων που χρησιμοποιείται για τη δημιουργία των λιστών στόχων και δεν έφτασαν στους στρατιωτικούς διοικητές που θα μπορούσαν να τις αξιοποιήσουν.
Πώς έγινε η επίθεση στο σχολείο
Η επίθεση της 28ης Φεβρουαρίου πραγματοποιήθηκε στο πλαίσιο μιας αιφνιδιαστικής επιχείρησης κατά την οποία οι αμερικανικές δυνάμεις έπληξαν περίπου 1.000 στόχους μέσα σε μία ημέρα. Συνολικά, μέσα στις πρώτες 38 ημέρες της επιχείρησης Epic Fury, χτυπήθηκαν περισσότεροι από 13.000 στόχοι. Η κλίμακα και η ταχύτητα των επιχειρήσεων αποτέλεσαν βασικό λόγο για τον οποίο το Maven χρησιμοποιήθηκε σε πολύ μεγαλύτερο βαθμό.
Μέχρι τον Μάιο, περίπου 50.000 λογαριασμοί στο αμερικανικό στράτευμα είχαν πρόσβαση στο Maven, αριθμός υπερδιπλάσιος σε σχέση με έναν χρόνο νωρίτερα.
Η αύξηση δείχνει πόσο γρήγορα η συγκεκριμένη τεχνολογία πέρασε από ένα εργαλείο περιορισμένης χρήσης σε υποδομή μεγάλης κλίμακας για τις στρατιωτικές επιχειρήσεις.
Το πρόβλημα είναι ότι η ταχύτητα επεξεργασίας της AI δεν συνοδεύεται πάντοτε από αντίστοιχη ταχύτητα στην παραγωγή και επικαιροποίηση των πληροφοριών που τροφοδοτούν τα συστήματα.
Σήμερα η διαδικασία λήψης επιχειρησιακών αποφάσεων έχει επιταχυνθεί σημαντικά, ενώ άλλες λειτουργίες, όπως η στρατιωτική συλλογή πληροφοριών, η εφοδιαστική υποστήριξη και ο επιχειρησιακός σχεδιασμός, δεν έχουν προχωρήσει με τον ίδιο ρυθμό.
Το Maven μπορεί να συνδυάζει διαφορετικές ροές δεδομένων και να επισημαίνει ασυνέπειες που χρειάζονται ανθρώπινο έλεγχο. Δεν μπορεί όμως να αποκλείσει μόνο του έναν στόχο ούτε να αλλάξει τα λανθασμένα στοιχεία της επίσημης στρατιωτικής βάσης δεδομένων.
Αυτό σημαίνει ότι ένα σφάλμα στην αρχική πληροφορία μπορεί να συνεχίσει να επηρεάζει ολόκληρη την αλυσίδα λήψης αποφάσεων.
Έρευνες και απόδοση ευθυνών
Η αμερικανική πλευρά έχει ξεκινήσει ανεξάρτητη έρευνα για το πλήγμα. Η έρευνα διατάχθηκε στις 12 Μαρτίου και το πρώτο πόρισμα υποβλήθηκε στο Centcom τον Απρίλιο. Μέχρι τις 22 Σεπτεμβρίου, ωστόσο, το Πεντάγωνο δεν είχε ανακοινώσει δημόσια αποτελέσματα της έρευνας και οι ΗΠΑ δεν είχαν αναλάβει δημόσια την ευθύνη για το πλήγμα.
Παράλληλα, έκθεση που εκπονήθηκε για το Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ και δημοσιοποιήθηκε νωρίτερα μέσα στον Σεπτέμβριο υποστήριξε ότι η αποτυχία επικαιροποίησης των βάσεων δεδομένων και επαλήθευσης της χρήσης του κτιρίου υπερέβη την απλή αμέλεια και έκανε λόγο για «εύλογους λόγους» ώστε να θεωρηθεί ότι οι αμερικανικές δυνάμεις διέπραξαν έγκλημα πολέμου. Ο Λευκός Οίκος απέρριψε την έκθεση και υποστήριξε ότι εγκλήματα πολέμου έχει διαπράξει το ιρανικό καθεστώς.
Οι επενδύσεις στην ΑΙ από τις ένοπλες δυνάμεις
Η υπόθεση αποκτά ιδιαίτερη σημασία επειδή η αμερικανική στρατιωτική διοίκηση έχει επενδύσει τεράστια ποσά στην AI ακριβώς για να μειώσει τον χρόνο που απαιτείται για την επεξεργασία πληροφοριών και τη λήψη αποφάσεων.
Εργασίες που στο παρελθόν μπορούσαν να χρειάζονται ώρες ή ακόμη και ημέρες μπορούν πλέον να ολοκληρώνονται μέσα σε δευτερόλεπτα, επιτρέποντας στους αναλυτές να διαχειρίζονται τεράστιους όγκους δεδομένων με πολύ μεγαλύτερη ταχύτητα.
Η αντίφαση είναι ότι όσο ταχύτερη γίνεται η «αλυσίδα πλήγματος», τόσο μεγαλύτερη σημασία αποκτά η ποιότητα των δεδομένων που βρίσκονται στην αρχή της. Η περίπτωση της Μινάμπ δείχνει ότι η AI μπορεί να εντοπίζει ορισμένες ασυνέπειες, αλλά δεν εξαλείφει αυτομάτως τα προβλήματα που δημιουργούνται από παρωχημένες ή λανθασμένες πληροφορίες.
Η συζήτηση πλέον μετατοπίζεται από το αν η τεχνητή νοημοσύνη μπορεί να επιταχύνει τις στρατιωτικές επιχειρήσεις στο αν οι μηχανισμοί συλλογής, επαλήθευσης και επικαιροποίησης των δεδομένων μπορούν να συμβαδίσουν με αυτή την ταχύτητα.
Ο κίνδυνος που επισημαίνεται από ειδικούς είναι ότι η αυτοματοποίηση δεν εξαφανίζει απαραίτητα ένα υφιστάμενο σφάλμα· μπορεί αντίθετα να επιτρέψει στο ίδιο σφάλμα να επαναληφθεί ταχύτερα και σε πολύ μεγαλύτερη κλίμακα.
