Θα επιτρέπεται η τεχνητή νοημοσύνη να σκοτώνει;

Μια συζήτηση έχει ανάψει στη Silicon Valley σχετικά με την ηθική πτυχή του εξοπλισμού της τεχνητής νοημοσύνης ενσωματωμένης σε όπλα με την ικανότητα λήψης αποφάσεων για δολοφονία.

 

Στη Silicon Valley, οι ιδρυτές εταιρειών που αναπτύσσουν στρατιωτικές τεχνολογίες χρησιμοποιώντας τεχνητή νοημοσύνη (AI) έχουν συζητήσει για την αποδοχή της υπέρβασης μιας κρίσιμης γραμμής, δηλαδή να επιτρέπεται στις τεχνολογίες τεχνητής νοημοσύνης να λαμβάνουν αυτόνομες αποφάσεις για να σκοτώνουν.

Τον Σεπτέμβριο, ο συνιδρυτής της Shield AI Brandon Tseng είπε ότι τα όπλα στις Ηνωμένες Πολιτείες δεν θα γίνουν ποτέ εντελώς αυτόνομα, όπου η τεχνητή νοημοσύνη θα έπαιρνε την τελική απόφαση να σκοτώσει. Ήταν πεπεισμένος ότι ούτε το Κογκρέσο ούτε το κοινό θα υποστήριζαν μια τέτοια ιδέα. Ωστόσο, λίγες μέρες αργότερα, ο συνιδρυτής της εταιρείας Anduril Palmer Luckey το έθεσε υπό αμφισβήτηση, θέτοντας την ηθική πτυχή της αντίθεσης στα αυτόνομα όπλα. Ισχυρίστηκε ότι οι νάρκες που δεν μπορούν να διακρίνουν τους πολίτες από τους εχθρικούς στρατιώτες θα μπορούσαν να είναι πιο επικίνδυνες από τα συστήματα που ελέγχονται από AI.

Όταν ζητήθηκε διευκρίνιση, η εταιρεία διευκρίνισε ότι ο Luckey δεν υποστήριζε ότι τα ρομπότ λαμβάνουν αποφάσεις ζωής ή θανάτου από μόνα τους, αλλά εξέφραζε ανησυχία για πιθανή κακή χρήση της τεχνητής νοημοσύνης. Ο συνάδελφός του Trae Stephens τόνισε στο παρελθόν τη σημασία του ανθρώπινου ελέγχου στη λήψη αποφάσεων σχετικά με τη χρήση φονικών όπλων. Ο Anduril λέει ότι οι δύο θέσεις είναι ευθυγραμμισμένες επειδή η λογοδοσία είναι σημαντική, ακόμα κι αν κάθε απόφαση δεν λαμβάνεται απευθείας από άνθρωπο.

Η θέση της αμερικανικής κυβέρνησης για τα αυτόνομα όπλα είναι επίσης διφορούμενη. Ο στρατός των ΗΠΑ δεν αγοράζει φονικά, πλήρως αυτόνομα όπλα, αλλά δεν απαγορεύει στις εταιρείες να τα αναπτύξουν ή να τα πουλήσουν στο εξωτερικό. Οι Ηνωμένες Πολιτείες έχουν εισαγάγει εθελοντικές συστάσεις σχετικά με τη χρήση της τεχνητής νοημοσύνης για στρατιωτικούς σκοπούς, που απαιτούν έγκριση από τον υψηλότερο στρατιωτικό ορειχάλκινο για νέα αυτόνομα συστήματα, αλλά αυτοί οι κανόνες δεν είναι υποχρεωτικοί. Οι αμερικανοί αξιωματούχοι δηλώνουν με συνέπεια ότι «Δεν είναι η κατάλληλη στιγμή»  για να εξετάσουμε την υποχρεωτική απαγόρευση των αυτόνομων όπλων.

Ο Joe Lonsdale, συνιδρυτής της Palantir και επενδυτής στο Anduril, έχει επικρίνει τις τρέχουσες συζητήσεις σχετικά με την πλήρη απαγόρευση των αυτόνομων όπλων, προτείνοντας αυτό που βλέπει ως μια πιο ευέλικτη προσέγγιση. Κάλεσε τους πολιτικούς να κατανοήσουν καλύτερα τις αποχρώσεις της τεχνητής νοημοσύνης στα στρατιωτικά συστήματα προτού λάβουν αποφάσεις που θα μπορούσαν να αποδυναμώσουν τις αμυντικές ικανότητες των ΗΠΑ.

Γνωρίζοντας ότι ο Anduril και ο Palantir επιμένουν ότι η πολιτική πρέπει να καθορίζεται από εκλεγμένους αξιωματούχους και όχι από τις ίδιες τις εταιρείες. Ωστόσο, τονίζουν επίσης ότι οι νομοθέτες πρέπει να κατανοήσουν την πολυπλοκότητα της τεχνητής νοημοσύνης σε στρατιωτικές συγκρούσεις. Πολλοί στη Silicon Valley και την Ουάσιγκτον φοβούνται ότι η Κίνα ή η Ρωσία θα βγουν στην αγορά πρώτα με πλήρως αυτόνομα όπλα, αναγκάζοντας τις Ηνωμένες Πολιτείες να κάνουν το ίδιο.

Ακτιβιστές και ομάδες ανθρωπίνων δικαιωμάτων προσπάθησαν εδώ και καιρό, ανεπιτυχώς, να θεσπίσουν διεθνείς απαγορεύσεις για θανατηφόρα αυτόνομα όπλα, απαγορεύσεις που οι Ηνωμένες Πολιτείες αρνήθηκαν να υπογράψουν. Ο πόλεμος στην Ουκρανία πιθανότατα έστρεψε την παλίρροια εναντίον των μαχητών, παρέχοντας ταυτόχρονα μια πηγή δεδομένων μάχης και ένα πεδίο μάχης για τη δοκιμή αμυντικών τεχνολογιών. Επί του παρόντος, οι εταιρείες ενσωματώνουν την τεχνητή νοημοσύνη σε οπλικά συστήματα, αν και εξακολουθούν να απαιτούν έναν άνθρωπο για να λάβει την τελική απόφαση να σκοτώσει.

Εν τω μεταξύ, οι Ουκρανοί αξιωματούχοι πιέζουν για μεγαλύτερη αυτοματοποίηση των όπλων, ελπίζοντας ότι θα τους δώσει πλεονέκτημα έναντι της Ρωσίας.

“Χρειαζόμαστε τη μέγιστη αυτοματοποίηση. Αυτές οι τεχνολογίες είναι θεμελιώδεις για τη νίκη μας”, δήλωσε ο Ουκρανός υπουργός Ψηφιακού Μετασχηματισμού Mykhailo Fedorov σε συνέντευξή του στους New York Times . 

Έρευνα-επιμέλεια Άγγελος-Ευάγγελος Φ. Γιαννόπουλος γεωστρατηγικός-γεωπολιτικός αναλυτής και αρχισυντάκτης του Mytinenepress. Contact : [email protected]6945294197.

 

Μονίκ Σαβουά