Ένα σοβαρό σφάλμα τεχνητής νοημοσύνης παραλίγο να οδηγήσει τις Ηνωμένες Πολιτείες σε στρατιωτική ενέργεια εναντίον πλοίου από την Κίνα, δημιουργώντας τον κίνδυνο μιας επικίνδυνης κλιμάκωσης στις σχέσεις Ουάσιγκτον και Πεκίνου.
Οι αμερικανικές αρχές είχαν ήδη ξεκινήσει τις προετοιμασίες για την αναχαίτιση του πλοίου, καθώς έκθεση των υπηρεσιών πληροφοριών υποστήριζε ότι μετέφερε εξαρτήματα που σχετίζονταν με πρόγραμμα πυρηνικών όπλων. Λίγο πριν πραγματοποιηθεί η σχεδιαζόμενη επιχείρηση, όμως, αποκαλύφθηκε ότι η επίμαχη πληροφορία είχε προκύψει με τη συνδρομή chatbot και ήταν ανακριβής.
Πηγή που μίλησε στο CNN περιέγραψε την έκθεση ως «εντελώς ψευδή», σημειώνοντας χαρακτηριστικά ότι «παραλίγο να ξεκινήσει έναν πόλεμο». Πριν από την έναρξη της επιχείρησης, Αμερικανοί αξιωματούχοι προχώρησαν σε πιο προσεκτικό έλεγχο του υλικού και διαπίστωσαν ότι η έκθεση είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης.
Το έγγραφο είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ, ο οποίος χρησιμοποίησε chatbot προκειμένου να επεξεργαστεί πληροφορίες σχετικά με τα πρωτόκολλα του συγκεκριμένου πλοίου. Το σύστημα συνδύασε δεδομένα από δημόσια διαθέσιμες πηγές με απόρρητες πληροφορίες σημάτων και κατέληξε σε εσφαλμένο συμπέρασμα σχετικά με το φορτίο που μετέφερε το πλοίο.
Στη συνέχεια, ο ίδιος αναλυτής αξιοποίησε ξανά την τεχνητή νοημοσύνη ώστε τα ευρήματα να μετατραπούν σε τυποποιημένη έκθεση πληροφοριών. Το συγκεκριμένο έγγραφο διανεμήθηκε κατόπιν στους αρμόδιους αξιωματούχους.
Παραμένει ασαφές αν το chatbot που χρησιμοποιήθηκε ήταν ένα εργαλείο διαθέσιμο στο ευρύ κοινό ή αν επρόκειτο για εφαρμογή που είχε αναπτυχθεί ή χρησιμοποιούνταν από την αμερικανική κυβέρνηση. Το CNN δεν κατάφερε επίσης να επιβεβαιώσει ποιο ακριβώς φορτίο είχε αναγνωριστεί λανθασμένα από το σύστημα.
Μία από τις πηγές επανέλαβε ότι η έκθεση ήταν «εντελώς ψευδής», επισημαίνοντας πως «παραλίγο να ξεκινήσει έναν πόλεμο». Μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει σοβαρή κλιμάκωση και, δυνητικά, να οδηγήσει ακόμη και σε ένοπλη αντιπαράθεση ανάμεσα στις Ηνωμένες Πολιτείες και την Κίνα.
Η Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού, όπως και το Πεντάγωνο, δεν ανταποκρίθηκαν σε αίτημα του CNN για σχολιασμό.
Ολοένα μεγαλύτερη χρήση της AI στον στρατό των ΗΠΑ
Το περιστατικό έρχεται σε μια περίοδο κατά την οποία οι αμερικανικές ένοπλες δυνάμεις προχωρούν με ταχύτερους ρυθμούς στην ενσωμάτωση της τεχνητής νοημοσύνης στις λειτουργίες τους.
Η συγκεκριμένη τεχνολογία αξιοποιείται, μεταξύ άλλων, για την επεξεργασία και ανάλυση μεγάλου όγκου πληροφοριών, για διαδικασίες επιλογής στόχων, αλλά και σε πιο διοικητικού χαρακτήρα τομείς, όπως η διαχείριση προϋπολογισμών, η εφοδιαστική και οι αλυσίδες εφοδιασμού.
Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης», η οποία έχει ως στόχο την ταχύτερη ενσωμάτωση εφαρμογών AI στις αμερικανικές ένοπλες δυνάμεις.
«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα επικεντρώσουμε τις επενδύσεις μας και θα αποδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην AI για στρατιωτικούς σκοπούς», είχε δηλώσει ο Χέγκσεθ.
Το σχέδιο προβλέπει την παροχή εργαλείων τεχνητής νοημοσύνης σε περίπου τρία εκατομμύρια στρατιωτικούς και πολιτικούς υπαλλήλους του υπουργείου Άμυνας, σε όλα τα επίπεδα διαβάθμισης.
Παρά ταύτα, σύμφωνα με Αμερικανούς αξιωματούχους που έχουν γνώση της κατάστασης, η χρήση της AI αναπτύσσεται με αποκεντρωμένο τρόπο. Διαφορετικές υπηρεσίες και τμήματα χρησιμοποιούν διαφορετικά συστήματα, ενώ εφαρμόζουν επίσης διαφορετικές οδηγίες, διαδικασίες και πρότυπα ασφαλείας.
Κατά τις ίδιες πηγές, δεν υφίσταται μέχρι στιγμής ένα ενιαίο πλαίσιο κανόνων που να καθορίζει με ποιον τρόπο πρέπει να επαληθεύονται οι πληροφορίες που παράγονται από αυτά τα συστήματα.
Πηγή που γνωρίζει τις ισχύουσες πολιτικές του αμερικανικού στρατού ανέφερε ότι η αξιοποίηση της AI για την επιλογή στόχων «είναι σίγουρα κάτι που αυξάνεται». Όπως πρόσθεσε, «δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ενός ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή φίλια πυρά».
Σύμφωνα με μία από τις πηγές, περιπτώσεις στις οποίες συστήματα τεχνητής νοημοσύνης δημιουργούν ψευδείς ή ανακριβείς πληροφορίες —τα λεγόμενα «hallucinations»— δεν θεωρούνται μεμονωμένα περιστατικά στο εσωτερικό της αμερικανικής κοινότητας πληροφοριών.
Παράλληλα, ορισμένοι αξιωματούχοι εκτιμούν ότι η αυξανόμενη πίεση για γρηγορότερη παραγωγή, επεξεργασία και διανομή πληροφοριών ενδέχεται να αυξάνει τον κίνδυνο λαθών, ιδιαίτερα σε περιπτώσεις όπου οι αναλυτές βασίζονται υπερβολικά στα εργαλεία τεχνητής νοημοσύνης χωρίς να πραγματοποιούν επαρκή έλεγχο των αποτελεσμάτων.
«Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα», σχολίασε χαρακτηριστικά μία από τις πηγές.
Ακολουθήστε το Business Daily στο Google news
