Ήδη, από την αρχαία Αίγυπτο και την Ελλάδα μέχρι την Ινδία, η ανθρωπότητα, χτίζει κανόνες για το πώς πρέπει να διεξάγονται δίκαια οι πόλεμοι. Η έλευση όμως της Τεχνητής Νοημοσύνης που υποκαθιστά τον άνθρωπο, άλλαξε δραματικά τα δεδομένα στη διαδικασία χρήσης θανατηφόρας βίας προς το χειρότερο. Παραδόξως, ο Πάπας Λέων σήκωσε ο λάβαρο της «αντίστασης».
Υπενθυμίζεται ότι τον περασμένο Μάιο, ο Πάπας Λέων ΙΔ΄ εξέδωσε την πρώτη του εγκύκλιο, Magnifica Humanitas: Για τη διαφύλαξη του ανθρώπινου προσώπου στην εποχή της Τεχνητής Νοημοσύνης.
Είναι μια πραγματεία του Πάπα για τις δυνατότητες της τεχνητής νοημοσύνης, αλλά και τις απειλές που αυτή εγκυμονεί για τα ανθρώπινα δικαιώματα, ωστόσο, σύμφωνα με ειδικούς αυτό που πέρασε απαρατήρητο είναι η προσεκτική διατύπωση ηθικών περιορισμών για τη χρήση αυτόνομων όπλων.
«Λίγοι ηγέτες έχουν αναφερθεί σε αυτές τις ανησυχίες τόσο ευθέως» όπως γράφουν στο Foreign Policy ο Άντονι Φαφ, διευθυντής Στρατηγικής Έρευνας στο Κολέγιο Πολέμου του αμερικανικού στρατού, και ο Πάτρικ Γκράνφιλντ, πρώην σύμβουλος επικοινωνίας κορυφαίων Αμερικανών αξιωματούχων.
Η εγκύκλιος έρχεται σε μια εποχή που σύμφωνα με τους δύο ειδικούς, οι πόλεμοι μπορεί να γίνουν ευκολότερο να ξεκινήσουν και δυσκολότερο να ελεγχθούν, καθώς τα όπλα αποκτούν ολοένα μεγαλύτερη αυτονομία και η τεχνητή νοημοσύνη υποκαθιστά τον άνθρωπο στη λήψη αποφάσεων.
Ο Πάπας φτάνει μάλιστα στο σημείο να αμφισβητεί κατά πόσο η παραδοσιακή θεωρία του «δίκαιου πολέμου» μπορεί να εξακολουθήσει να ισχύει στον 21ο αιώνα.. «Περισσότερο από ποτέ, χωρίς να θίγεται το δικαίωμα στην αυτοάμυνα με την αυστηρότερη έννοια», έγραψε ο Πάπας, «είναι σημαντικό να επαναβεβαιώσουμε ότι η θεωρία του “δίκαιου πολέμου”, η οποία πολύ συχνά έχει χρησιμοποιηθεί για να δικαιολογήσει κάθε είδους πόλεμο, είναι πλέον παρωχημένη».
Γιατί ο δίκαιος πόλεμος χρειάζεται νέους κανόνες
Οι δύο αναλυτές συμφωνούν με τον Πάπα ότι η θεωρία του δίκαιου πολέμου έχει χρησιμοποιηθεί καταχρηστικά. Διαφωνούν, όμως, με την εγκατάλειψή της, καθώς τότε «τα κράτη δεν πρόκειται να γίνουν ειρηνικά. Οι πολιτικοί δεν θα γίνουν άγιοι ούτε οι στρατιωτικοί διοικητές ειδικοί σε ζητήματα ηθικής».
Αντίθετα, προσθέτουν, όλοι θα χάσουν ένα κοινό πλαίσιο, βάσει του οποίου οι πόλεμοι κρίνονται και περιορίζονται εδώ και αιώνες.
«Αν όμως αυτό επικαιροποιηθεί, μπορεί ακόμη να συμβάλει στον περιορισμό των χειρότερων καταχρήσεων του πολέμου σε μια εποχή όπου οι συγκρούσεις εξελίσσονται με την ταχύτητα των μηχανών» προσθέτουν.
Έτσι αυτό που χρειάζεται δεν είναι η εγκατάλειψη της θεωρίας του δίκαιου πολέμου, αλλά να επανεξεταστεί υπό το πρίσμα του σύγχρονου πολέμου, λαμβάνοντας υπόψιν ότι αυτός διεξάγεται ολοένα περισσότερο μέσω ενδιάμεσων μηχανισμών και τεχνολογιών. «Η τεχνολογία και ο ανταγωνισμός μεταξύ των μεγάλων δυνάμεων επιτρέπουν σε όσους επωφελούνται από τις συγκρούσεις να αποστασιοποιούνται από το κόστος τους».
Τι κάνει η τεχνολογία
Αυτό που επισημαίνουν οι δύο ειδικοί είναι ότι η ενσωμάτωση της τεχνητής νοημοσύνης στις στρατιωτικές δυνατότητες ενθαρρύνει μια μορφή πολέμου που δημιουργεί ολοένα περισσότερα επίπεδα απόστασης ανάμεσα σε εκείνους που λαμβάνουν τις αποφάσεις και στην ίδια την πράξη της θανάτωσης.
«Αυτό μπορεί να καταστήσει πιθανότερη την προσφυγή στη βία, ακόμη και αν η βία γίνεται ακριβέστερη. Παράλληλα, τίθεται σε κίνδυνο η λογοδοσία, η οποία είναι κρίσιμη για την επιβίωση οποιουδήποτε κανονιστικού πλαισίου. Και όση ακρίβεια κι αν αποκτήσουν οι μηχανές, παραμένουν ανίκανες για έλεος και για εκείνες τις άλλες ανθρώπινες ιδιότητες που όχι μόνο μπορούν να κάνουν τον πόλεμο λίγο πιο ανθρώπινο, αλλά συμβάλλουν και στη δημιουργία των προϋποθέσεων για μια καλύτερη ειρήνη».
Εδώ, όμως, οι δύο αναλυτές εντοπίζουν ένα παράδοξο: ενώ ο Λέων αμφισβητεί τη χρησιμότητα της θεωρίας του δίκαιου πολέμου, όταν επιχειρεί να θέσει όρια στα αυτόνομα όπλα καταφεύγει ουσιαστικά στις ίδιες ηθικές αρχές που συγκροτούν αυτή την παράδοση.
Για τη χρήση αυτόνομων όπλων, ο Πάπας απαιτεί μια αλυσίδα ευθύνης που να είναι «αναγνωρίσιμη και επαληθεύσιμη», από εκείνους που σχεδιάζουν και εκπαιδεύουν ένα σύστημα έως εκείνους που εγκρίνουν και χρησιμοποιούν τη λειτουργία του. Παρόμοια αλυσίδα λογοδοσίας προβλέπει και η στρατηγική του Πενταγώνου για την υπεύθυνη χρήση της Τ.Ν.
Οι Φαφ και Γκράνφιλντ, όμως, επισημαίνουν ότι στη πράξη τα πράγματα είναι πιο δύσκολα. «Όταν η μηχανή παρεμβάλλεται ανάμεσα στην απόφαση και στην πράξη, ο νόμος δυσκολεύεται να εντοπίσει την πρόθεση. Έτσι δημιουργείται ο κίνδυνος είτε να επιβληθεί ένα άδικο πρότυπο που καθιστά τους ανθρώπους υπεύθυνους ανεξαρτήτως των περιστάσεων είτε να μετατραπεί η μηχανή σε άλλοθι για εκείνους που ενεργούν επιλήψιμα».
Δεδομένης της ταχυτητας που λαμβάνονται οι αποφάσεις, ο Πάπας επιμένει στην ανάγκη να υπάρχει ένα «ηθικό χρονικό περιθώριο» για τη λήψη τους, προειδοποιώντας ότι «η ταχύτητα και η αποτελεσματικότητα δεν πρέπει ποτέ να αποτελούν το υπέρτατο κίνητρο για τις μη αναστρέψιμες αποφάσεις που λαμβάνονται στο πλαίσιο του πολέμου».
Η απόφαση για χρήση θανατηφόρας βίας, γράφει, πρέπει να παραμένει υπό «αποτελεσματικό, συνειδητό και υπεύθυνο ανθρώπινο έλεγχο», ενώ τα συστήματα πρέπει να σχεδιάζονται έτσι ώστε οι αποφάσεις να μπορούν να ανιχνεύονται και να ανασυντίθενται, ώστε η ευθύνη να μη μετατίθεται τελικά «στη μηχανή».
Αυτό προσυπογράφουν και οι αναλυτές στο άρθρο τους. «Οι κύκλοι λήψης αποφάσεων που λειτουργούν με την ταχύτητα των μηχανών ενισχύουν τον κίνδυνο κλιμάκωσης. Τα αυτόνομα συστήματα βασίζονται σε λογισμικό, το οποίο μπορεί να διαδοθεί ταχύτερα από οποιονδήποτε πύραυλο, μεγεθύνοντας τον κίνδυνο διάχυσης. Η στόχευση που βασίζεται σε μηχανές δημιουργεί ένα κενό ευθύνης, το οποίο μπορεί να αποκρύψει -και συχνά να επιδεινώσει- το πρόβλημα των «βρόμικων χεριών»».
Πόλεμος δια αντιπροσώπων
Μια άλλη πρόκληση για τον δίκαιο πόλεμο είναι η διαμεσολαβημένη σύγκρουση, ο πόλεμος δι’ αντιπροσώπων. Μεγάλο μέρος του προβλήματος προέρχεται από μία εσφαλμένη παραδοχή ότι εάν ο σκοπός ενός αντιπροσώπου είναι δίκαιος, τότε είναι δίκαιη και η υποστήριξη που του παρέχει ο προστάτης του.
Από τη στιγμή, όμως, που ένας πληρεξούσιος εξασφαλίζει την υποστήριξη ενός προστάτη, αποκτά περισσότερους πόρους και ισχυρότερο κίνητρο να κλιμακώσει τη σύγκρουση αντί να την επιλύσει.
Η υποστήριξη προς αντιπροσώπους αυξάνει επίσης τον κίνδυνο διάχυσης: τα όπλα μπορεί να καταλήξουν πέρα από τη σύγκρουση για την οποία παρασχέθηκαν, όπως συνέβη με τους πυραύλους Stinger που είχαν δοθεί στο Αφγανιστάν και εμφανίστηκαν αργότερα στη Βοσνία και στο Κασμίρ. Τέλος, εάν ένα κράτος παρέχει σε έναν αντιπρόσωπο προηγμένα όπλα χωρίς να θεσπίζει μηχανισμούς για την αποτροπή της αδιάκριτης χρήσης τους, τότε φέρει μέρος της ευθύνης για τα εγκλήματά του — αυτό που οι μελετητές αποκαλούν «πρόβλημα των βρόμικων χεριών».
Ένα ανανεωμένο δόγμα περί δίκαιου πολέμου θα αντιμετώπιζε τις προκλήσεις του διαμεσολαβημένου πολέμου επανασυνδέοντας το όφελος με το κόστος και διασφαλίζοντας ότι αυτά κατανέμονται με τον κατάλληλο τρόπο. Θα πρέπει επίσης να συνδέσει καλύτερα την πράξη με τις συνέπειές της, ώστε η εφαρμογή των αρχών να μη θολώνει εξαιτίας παρωχημένων αντιλήψεων περί λογοδοσίας.
«Κανένας αλγόριθμος δεν μπορεί να καταστήσει τον πόλεμο ηθικά αποδεκτό», γράφει ο Πάπας. Και σε αυτό ακριβώς καταλήγει το επιχείρημα των δύο αναλυτών, τονίζοντας πως όσο περισσότερο η τεχνολογία απομακρύνει τον άνθρωπο από την πράξη της θανάτωσης, τόσο μεγαλύτερη -και όχι μικρότερη- γίνεται η ανάγκη για κανόνες που θα ορίζουν ποιος αποφασίζει, ποιος λογοδοτεί και μέχρι πού μπορεί να φτάσει μια μηχανή στον πόλεμο
