Η Τεχνητή Νοημοσύνη στις Ένοπλες Δυνάμεις: Όταν το δίκαιο πρέπει να προηγείται του κώδικα

Φωτογραφία με την βοήθεια ChatGpt

Η είσοδος της Τεχνητής Νοημοσύνης στα στρατιωτικά συστήματα δημιουργεί μια νέα πραγματικότητα. Η AI δεν αναπτύσσεται πλέον αποκλειστικά μέσα σε στρατιωτικά εργαστήρια. Αλγόριθμοι, λογισμικό, αισθητήρες, δεδομένα και τεχνογνωσία προέρχονται όλο και περισσότερο από τον πολιτικό και τον dual-use τομέα και στη συνέχεια μεταφέρονται σε στρατιωτικές εφαρμογές.

Αυτό δημιουργεί ένα κρίσιμο ερώτημα: πότε και με ποιον τρόπο μια τεχνολογία τεχνητής νοημοσύνης αποκτά στρατιωτικό και νομικό χαρακτήρα;

Η εργασία υποστηρίζει ότι η απάντηση δεν μπορεί να δοθεί μόνο από την τεχνολογία. Ο ίδιος αλγόριθμος μπορεί αρχικά να χρησιμοποιείται σε μια πολιτική εφαρμογή, στη συνέχεια να δοκιμάζεται σε ένα πρόγραμμα dual-use και τελικά να ενσωματώνεται σε μια στρατιωτική επιχειρησιακή δυνατότητα, χωρίς να έχει αλλάξει ουσιαστικά ο πηγαίος κώδικας. Αυτό σημαίνει ότι η νομική κατηγοριοποίηση δεν εξαρτάται αποκλειστικά από το software, αλλά από τον σκοπό, τη χρήση, τον φορέα και το επιχειρησιακό περιβάλλον

Από την Πολιτική Αεροπορία στην Πολεμική Αεροπορία

Ιδιαίτερη σημασία έχει η συνεργασία της Πολεμικής Αεροπορίας με τη Γενική Αεροπορία. Πολιτικά αεροσκάφη, αισθητήρες, υποδομές συντήρησης, πιλότοι και πραγματικές συνθήκες πτήσης μπορούν να χρησιμοποιηθούν για την ανάπτυξη και δοκιμή τεχνολογιών AI σε τομείς όπως η πλοήγηση, η computer vision, η σύντηξη αισθητήρων, η ανίχνευση ανωμαλιών, η συντήρηση και η υποστήριξη αποφάσεων.

Η συνεργασία αυτή όμως δεν σημαίνει ότι όλοι αποκτούν τις ίδιες αρμοδιότητες...

Η εργασία το συνοψίζει με μια ιδιαίτερα σημαντική αρχή:

Τεχνική ικανότητα, διαφέρει από τον Επιχειρησιακό έλεγχο και την Νομική αρμοδιότητα.

Η «AI Act» δεν είναι όλη η εικόνα

Ένα ακόμη σημαντικό σημείο αφορά το ευρωπαϊκό κανονιστικό πλαίσιο. Η εργασία επισημαίνει ότι η EU AI Act εξαιρεί, υπό τις προβλεπόμενες προϋποθέσεις, συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς, αμυντικούς ή σκοπούς εθνικής ασφάλειας.

Αυτό όμως δεν σημαίνει ότι τα στρατιωτικά συστήματα AI βρίσκονται εκτός κάθε νομικού πλαισίου.

Αντίθετα, δημιουργείται ένα πολυεπίπεδο σύστημα κανόνων: διεθνές ανθρωπιστικό δίκαιο, εθνική νομοθεσία, στρατιωτικοί κανονισμοί, κανόνες αεροπορίας, πρότυπα του NATO, πολιτικές υπεύθυνης χρήσης AI και άλλες κατευθυντήριες γραμμές. Τα επίπεδα αυτά έχουν διαφορετική νομική ισχύ και δεν πρέπει να αντιμετωπίζονται σαν να αποτελούν ένα ενιαίο «AI regulation». 

Το κρίσιμο ζήτημα: ο άνθρωπος παραμένει υπεύθυνος

Ιδιαίτερο βάρος δίνεται στην έννοια του human control.

Το γεγονός ότι ένας άνθρωπος βρίσκεται «στο loop» δεν αρκεί. Πρέπει να γνωρίζουμε ποιος είναι αυτός ο άνθρωπος, τι πληροφορίες διαθέτει, ποια είναι η αρμοδιότητά του, αν έχει πραγματική δυνατότητα παρέμβασης και αν διαθέτει επαρκή χρόνο και γνώση για να λάβει απόφαση.

Για παράδειγμα, το ότι ένας χειριστής έχει 12 δευτερόλεπτα για να παρέμβει είναι ένα τεχνικά μετρήσιμο δεδομένο. Το αν 12 δευτερόλεπτα επαρκούν για ουσιαστική ανθρώπινη κρίση είναι νομικό και επιχειρησιακό ζήτημα και δεν μπορεί να απαντηθεί από τα μαθηματικά. 

Αυτό είναι ιδιαίτερα σημαντικό για τα μελλοντικά αυτόνομα ή ημιαυτόνομα οπλικά συστήματα.

Το Άρθρο 36 και η αξιολόγηση νέων οπλικών συστημάτων

Όταν μια AI εφαρμογή ενσωματώνεται σε νέο όπλο, μέσο ή τακτική πολέμου, αποκτά ιδιαίτερη σημασία το Άρθρο 36 του Πρόσθετου Πρωτοκόλλου Ι (Protocol Additional to the Geneva Conventions of 12 August 1949 -Protocol I, 8 June1977, Article 36, ‘New Weapons’)

Η νομική αξιολόγηση πρέπει να γίνεται ήδη κατά τη μελέτη, ανάπτυξη, απόκτηση ή υιοθέτηση ενός νέου συστήματος και όχι απλώς μετά την ανάπτυξή του.

Για τον λόγο αυτό ο νομικός έλεγχος χρειάζεται τεχνικά στοιχεία: αρχιτεκτονική συστήματος, λειτουργίες, όρια λειτουργίας, αξιοπιστία, failure modes, βαθμό αυτονομίας, αλληλεπίδραση ανθρώπου-μηχανής και προβλέψιμες συνθήκες χρήσης. 

Εδώ βρίσκεται ίσως ένα από τα σημαντικότερα συμπεράσματα της εργασίας:

Ο μηχανικός πρέπει να μπορεί να εξηγήσει στον νομικό τι κάνει το σύστημα. Ο νομικός όμως δεν μπορεί να μετατρέψει απλώς αυτή την τεχνική περιγραφή σε απόδειξη νομιμότητας.

Μπορούν τα μαθηματικά να αποδείξουν ότι ένα AI σύστημα είναι νόμιμο;

Η απάντηση της εργασίας είναι ξεκάθαρη: όχι.

Μπορούν όμως να αποδείξουν συγκεκριμένες τεχνικές ιδιότητες που προκύπτουν από νομικές ή κανονιστικές απαιτήσεις.

Για παράδειγμα, μπορούν να χρησιμοποιηθούν:

Boolean algebra για δυαδικούς κανόνες εξουσιοδότησης.

Set algebra για τον καθορισμό επιτρεπόμενων περιοχών λειτουργίας.

Μαθηματικά μοντέλα και vectors για την αναπαράσταση της κατάστασης ενός αεροσκάφους.

Matrices για τη σύνδεση κανονιστικών απαιτήσεων με συγκεκριμένα τεχνικά μέτρα.

Relational models για τη διάκριση μεταξύ τεχνικής δυνατότητας και αρμοδιότητας.

Temporal logic για την επαλήθευση συμπεριφοράς του συστήματος στον χρόνο.

Probability models για την ποσοτικοποίηση αβεβαιότητας και τεχνικού ρίσκου.

Όμως το κρίσιμο όριο παραμένει:

Risk Measurement ≠ Risk Acceptance και Technical Conformity ≠ Legal Validity.

Η ενδιαφέρουσα πρόταση: «Compliance-by-Proof»

Η εργασία προτείνει την έννοια Compliance-by-Proof.

Πρόκειται ουσιαστικά για τη δημιουργία τεχνικά επαληθεύσιμων αποδεικτικών στοιχείων ότι μια συγκεκριμένη διαμόρφωση ενός συστήματος ικανοποιεί συγκεκριμένες τεχνικές απαιτήσεις που έχουν προκύψει από μια νομική απαίτηση.

Η αλυσίδα είναι:

Νομική απαίτηση → Νομική ερμηνεία → Τεχνική απαίτηση → Formal Verification → Evidence → Νομική κρίση

και όχι:

Νόμος → Κώδικας → Το software απέδειξε ότι είμαστε νόμιμοι.

Η διαφορά είναι θεμελιώδης. Η επίσημη πιστοποίηση +formal verification) μπορεί να αποδείξει ότι ένα σύστημα δεν εκτελεί μια συγκεκριμένη λειτουργία χωρίς εξουσιοδότηση. Δεν μπορεί να αποδείξει ότι κάθε εξουσιοδοτημένη ενέργεια είναι νόμιμη. 

Το μεγάλο πρόβλημα της AI: το σύστημα αλλάζει

Υπάρχει όμως ένα ακόμη ζήτημα που αποκτά τεράστια σημασία στα AI συστήματα.

Η συμμόρφωση αφορά συγκεκριμένη έκδοση και διαμόρφωση του συστήματος.

Εάν ένα μοντέλο εκπαιδευτεί ξανά, αλλάξουν τα δεδομένα, τροποποιηθούν οι αισθητήρες, εγκατασταθεί νέο software ή αλλάξουν οι επιχειρησιακές παράμετροι, η προηγούμενη απόδειξη συμμόρφωσης δεν μεταφέρεται αυτόματα στη νέα έκδοση.

Αυτό σημαίνει ότι τα μελλοντικά στρατιωτικά AI συστήματα θα χρειάζονται όχι μόνο software configuration management, αλλά και συνεχή κύκλο νομικής και τεχνικής επαναξιολόγησης.

Το σημαντικότερο συμπέρασμα

Η εργασία καταλήγει σε μια εξαιρετικά επίκαιρη θέση: δεν πρέπει να προσπαθήσουμε να μετατρέψουμε το Δίκαιο σε μαθηματικά.

Πρέπει να κάνουμε το αντίστροφο: να χρησιμοποιήσουμε τα μαθηματικά, την τυπική επαλήθευση και την τεχνική τεκμηρίωση ώστε να παρέχουμε στον νομικό και στον επιχειρησιακό υπεύθυνο αξιόπιστα στοιχεία για τη συμπεριφορά ενός πολύπλοκου συστήματος AI.

Η σωστή διαδικασία είναι:

Legal Authority → Legal Interpretation → Regulatory Requirement → Technical Specification → Formal Verification → Compliance Evidence → Legal Judgment.

Και ίσως αυτό είναι το σημαντικότερο μήνυμα για την εποχή των αυτόνομων οπλικών συστημάτων:

Η Τεχνητή Νοημοσύνη μπορεί να παίρνει αποφάσεις μέσα σε ένα σύστημα, αλλά δεν μπορεί να αποκτήσει από μόνη της νομική ευθύνη. Η ευθύνη παραμένει στον άνθρωπο και στην αλυσίδα διοίκησης που σχεδιάζει, εγκρίνει, αναπτύσσει και χρησιμοποιεί το σύστημα.

Η πραγματική πρόκληση, επομένως, δεν είναι να δημιουργήσουμε AI που απλώς «λειτουργεί». Είναι να δημιουργήσουμε AI που μπορεί να αποδειχθεί τεχνικά ελέγξιμη, επιχειρησιακά αποδεκτή και νομικά αξιολογήσιμη σε όλο τον κύκλο ζωής της.

Υ.Γ

Σύνοψη και μεταφορά στα ελληνικά της εργασίας «Legal and Mathematic Foundation of Military AI Apps – Algebraic Models of Regulatory Compliance in the Cooperation of Air Force and General Aviation» του Ιωάννη Σιδηρόπουλου.