Ποιος φοβάται τους ρομποτικούς στρατιώτες και γιατί η ΕΕ ζητά την απαγόρευσή τους;

Του Γιάννη Γορανίτη

Μία πολυσυζητημένη πτυχή της πορείας προς τη ρομποτική εποχή και την ΑΙ αφορά το θεσμικό πλαίσιο. Επειδή όμως η τεχνολογία τρέχει πολύ ταχύτερα από τους νομοθέτες, οι τοπικές και υπερεθνικές αρχές καλούνται να λάβουν προληπτικά μέτρα έγκαιρα και να διαμορφώνουν το πλαίσιο αυτό προτού η εξέλιξη δημιουργήσει κινδύνους για την ανθρωπότητα.

Μία από τις βασικότερες ενδείξεις της αναγκαιότητας ρύθμισης συνδέεται με τα αυτόνομα όπλα και αυτό που σχηματικά αποκαλείται «ρομποτικοί στρατιώτες». Εν ολίγοις, τα ανθρωποειδή, τους ρομποτικούς μηχανισμούς και τα υπολογιστικά συστήματα που λειτουργούν βάσει τεχνητής νοημοσύνης χωρίς ανθρώπινο έλεγχο και μπορούν να χρησιμοποιηθούν για στρατιωτικούς σκοπούς.

Η λύση της τεχνητής νοημοσύνης που σε άλλα πεδία ανθρώπινης δραστηριότητας μπορεί να αποδειχθεί σωτήρια, στα οπλικά συστήματα δύναται να εξελιχθεί καταστροφικά με ανυπολόγιστες συνέπειες. Τα αυτόνομα όπλα προγραμματίζονται μεν από ανθρώπους, και προφανώς διαθέτουν δικλείδες ασφαλείας, αλλά σε αντίθεση με τα άλλα πεδία εφαρμογής της ΑΙ, ένα πιθανό λάθος ή αβλεψία θα στοιχίσει ανθρώπινες ζωές.

Το ψήφισμα της ΕΕ

Η διεθνής εγρήγορση για να τεθούν όρια στη χρήση αυτόνομων συστημάτων και μηχανών στα πεδία των μαχών είναι έντονη το τελευταίο διάστημα, αλλά δεν φαίνεται ότι όλοι οι εμπλεκόμενοι κινούνται σε κοινή γραμμή.

Στη συνεδρίαση της ολομέλειας του Ευρωπαϊκού Κοινοβούλιο την περασμένη Τετάρτη εγκρίθηκε ένα ψήφισμα που ζητά τη διεθνή απαγόρευση της ανάπτυξης, της παραγωγής και της χρήσης όπλων που λειτουργούν και δυνάμει σκοτώνουν, χωρίς να απαιτείται ανθρώπινη απόφαση.

Είναι αξιοσημείωτο ότι η απόφαση δεν ήταν ομόφωνη – μειοψήφησε το 7% των Ευρωβουλευτών (μεταξύ αυτών και τρεις Έλληνες: οι εκλεγμένοι με τη Χρυσή Αυγή). Η Federica Mogherini, ύπατη εκπρόσωπος της Ένωσης για θέματα εξωτερικής πολιτικής και πολιτικής ασφαλείας, δήλωσε ότι είναι επιβεβλημένο να προληφθεί σε αυτό το στάδιο η ανάπτυξή και η χρήση των αυτόνομων όπλων.

Η στάση της ΕΕ ενάντια στα «ρομπότ δολοφόνους» είναι εύλογη, αλλά όχι αρκετή, αφού δεν μπορεί να δεσμεύσει την παγκόσμια κοινότητα, τις επιχειρήσεις και τα ερευνητικά ιδρύματα να την ακολουθήσουν. Επίσης, εκφράζονται ανησυχίες αναφορικά με τις επιπτώσεις της νομοθεσίας στην ανάσχεση της επιστημονικής έρευνας και της θέσης της Ευρώπης στην κούρσα της τεχνητής νοημοσύνης.

Υπάρχουν πράγματι αυτόνομα όπλα;

Σε αρκετές χώρες όπως οι ΗΠΑ, η Κίνα, η Ρωσία, το Ισραήλ και η Νότια Κορέα αναπτύσσονται ήδη τεχνολογίες, software αλλά και hardware που φέρνουν πιο κοντά την εποχή των ρομποτικών όπλων. Ήδη, πολλές ένοπλες δυνάμεις και άλλες υπηρεσίες και οργανισμοί πειραματίζονται ή σχεδιάζουν πολεμικές επιχειρήσεις με τη χρήση αυτόνομων drones – μη επανδρωμένων αεροσκαφών, δηλαδή, που λαμβάνουν αποφάσεις για την επιλογή στόχου, τον τρόπο και την ένταση της επίθεσης κ.ά.

Οι ΗΠΑ, για παράδειγμα, θεωρούν οι όπλα με αυτόνομες λειτουργίες μπορούν να αποφέρουν στρατιωτικά και ανθρωπιστικά οφέλη, και να συμβάλλει στη μείωση των ατυχημάτων και των παράπλευρων απωλειών στις στρατιωτικές επιχειρήσεις.

Σύμφωνα με δημοσίευμα του πρακτορείου ειδήσεων TASS, μια ρωσική εταιρεία κατασκευής όπλων, παρουσίασε πρόσφατα ένα αυτοματοποιημένο Καλάσνικοφ που είναι σε θέση όχι μόνο να εντοπίζει στόχους, αλλά και να λαμβάνει αποφάσεις. Παρόμοια, ενδεχομένως πολύ πιο απειλητικά, projects αναπτύσσονται σε πολλές χώρες. Το ακόμη πιο ανησυχητικό είναι ότι αναπτύσσονται αυτόνομα όπλα και συστήματα, χωρίς τα σχέδια να δημοσιοποιούνται.

Το «μπαλάκι» στον ΟΗΕ

Όλοι αυτοί οι λόγοι και οι ραγδαίες εξελίξεις στον κλάδο, καλούν για διεθνή εγρήγορση και δράση. Η πρόσφατη συζήτηση κυβερνητικών εμπειρογνωμόνων από πολλές χώρες με αντικείμενο τα «θανατηφόρα αυτόνομα συστήματα όπλων», που συγκλήθηκε στη Γενεύη υπό την αιγίδα της Σύμβασης των Ηνωμένων Εθνών, δεν κατέληξε σε απόφαση.

Τον ερχόμενο Νοέμβριο αναμένεται να συζητηθεί σε συνεδρίαση των Ηνωμένων Εθνών το ενδεχόμενο συγκρότησης κοινής διεθνούς στάσης για το ζήτημα. Διεθνείς αναλυτές εκφράζουν απαισιοδοξία για κατάληξη σε κοινή θέση και στάση. Μια πιο μετριοπαθής προσέγγιση ζητά αντί της πλήρους απαγόρευσης (που ενδέχεται να οδηγήσει σε ανάπτυξη υπό άκρα μυστικότητα, και συνεπώς χωρίς κανέναν έλεγχο), να εξεταστεί ο βαθμός ελέγχου των αυτόνομων οπλικών συστημάτων.

Οι απόψεις του ιστολογίου μπορεί να μην συμπίπτουν με τα περιεχόμενα του άρθρου

Νεότερη ανάρτηση Παλαιότερη Ανάρτηση