Droni: limbo tra amicizia e inimicizia

“Predator KAZ”, foto di KAZ Vorpal, licenza CC BY-SA 2.0, Flickr.com
“Predator KAZ”, foto di KAZ Vorpal, licenza CC BY-SA 2.0, Flickr.com

Un solo nome chiave serve a ricondurre le nostre menti ad una vicenda assai complessa e dolorosa: Giovanni Lo Porto.

A questo nome si collegano due date: quella del Gennaio 2012, data del suo rapimento in Pakistan, e quella del Gennaio 2015, data della sua morte per l’errore di un drone americano.

Ma perché parlare di questa vicenda così complessa e che lascia l’amaro in bocca? È necessario parlare di quanto accaduto perché fa emergere un aspetto nuovo della vita che viviamo a cui però non siamo minimamente preparati.

Quello di cui si parlerà di seguito, cioè l’utilizzo del drone in guerra e i suoi molteplici risvolti, non è l’unico strumento tecnologico che oramai convive con noi nella realtà di tutti i giorni, ma è sicuramente uno di quelli più interessanti e complicati perché dal suo utilizzo possono dipendere numerose vite umane.

Un utile punto di riferimento da conoscere è il fatto che i droni sono un progetto del settore Robotica, che viene definito come “l’area dell’Intelligenza Artificiale volta alla costruzione di macchine in grado di sentire, pensare e agire” (Bekey). Quindi l’abilità di queste macchine è quella di percepire l’ambiente e la situazione in cui si trovano e prendere decisioni appropriate.

All’interno di questo scenario, come i più avvezzi alla materia avranno capito, non c’è posto per una interazione, per un comando umano ed è proprio questo il punto di riflessione sul quale ci vogliamo soffermare.

Quello di cui sono dotati i robot e quindi i droni è la capacità di agire, ma il quesito a cui ancora non c’è risposta è l’imputabilità di tali azioni in sede giuridica. Per essere più chiari, si può ricondurre quanto detto al concetto di nesso di causalità in quanto regola applicata agli esseri umani per sapere se, in base alle loro azioni od omissioni, sono responsabili o meno del verificarsi di un determinato evento. Il nesso di causalità quindi è la situazione per cui un soggetto risponde nella misura in cui l’evento che si è prodotto è derivato da un atto o un fatto da lui compiuto. Se ipotizziamo di utilizzare detta regola anche per i robot, ecco che sorgono dei problemi in quanto gli esseri umani hanno si capacità di agire come si è precedentemente detto per i robot, ma al contrario di questi ultimi sono anche dotati di consapevolezza. È proprio sulla base dell’assenza di questa consapevolezza che si fonda l’inadeguatezza di tale regola per i droni. Infatti non è possibile parlare di colpevolezza o innocenza in merito agli agenti artificiali, in quanto il robot non essendo cosciente non si può dire che “possa voler tenere” quel determinato comportamento.

Un agente artificiale come il drone agisce se è interattivo, autonomo e capace di adattarsi all’ambiente, quindi deve essere in grado di rispondere agli stimoli dell’ambiente attraverso il mutamento degli stati interni o delle sue proprietà, di cambiare tali stati anche indipendentemente da stimoli esterni provenienti dall’ambiente, oltre che di accrescere o migliorare le regole attraverso cui tali stati cambiano.

Queste capacità richieste ai droni rendono però imprevedibili le loro azioni da parte di programmatori, costruttori e proprietari in quanto è stato possibile dimostrare che i suddetti agenti sono in grado di “apprendere dall’esperienza”, ma non è possibile per l’uomo intervenire su tale apprendimento. Eppure questi soggetti umani, programmatori, costruttori e proprietari, sono quelli più vicini alla “macchina” e quindi, in quanto coscienti, anche gli unici eventuali possibili responsabili per le azioni del drone, in quanto in qualità di non-cosciente esso non può essere punito e rieducato per quanto fatto e per i danni causati tenendo tali azioni.

Come si è potuto osservare nel caso di Lo Porto i conflitti bellici possono essere progettati, iniziati e combattuti da robot, ma mentre loro fanno tutto ciò si è materializzato un problema di fondamentale rilevanza: come far rispettare a queste macchine il Diritto Internazionale Umanitario? E il Diritto Bellico? A questa domanda non esiste ancora una risposta in quanto ciò che rende critico il loro impiego è proprio la difficoltà riscontrata nel programmare tali macchine in modo che rispettino i principi di discriminazione e immunità che nei secoli sono andati a formare il Diritto Bellico. Nella realtà delle cose è difficile quindi far comprendere ai droni la differenza tra amico e nemico, tra militare e civile.

Ulteriore questione da disquisire è quella della “autorizzazione” per far agire questi droni. Questa proposizione va un momento spiegata in quanto qui non si parla di un comando dato da un essere umano al drone per agire ma si parla di qualcosa di molto diverso. Si parta considerando che fino a ieri le guerre erano combattute da soldati umani, per cui il Presidente e/o il Parlamento erano tenuti a giustificarsi pubblicamente in caso di perdite umane. Oggi invece si parla di guerre tenute da soldati-robot e droni, ma è possibile identificare questo nuovo scenario come guerra? E se si, si deve rendere conto delle perdite di tali “macchine”? E se si, a chi? Queste domande rimangono ad oggi senza risposta e sicuramente anche domani non perverrà una risposta in quanto si parla di questioni in cui noi esseri umani dobbiamo ancora trovare un capo e una fine.

Alcuni esperti del settore auspicano la creazione di una nuova Convenzione internazionale che tratti di nuove regole in materia di Ius in Bello e Bellum Iustum.

Noi guardiamo molto lontano, alla guerra, che solo raramente tocca le nostre vite di tutti i giorni, senza renderci conto invece che i robot “sono tra di noi” e che è compito del diritto regolare i diversi rapporti che si instaurano tra umani e robot.

Gettando uno sguardo molto meno lontano si può venire a conoscenza del fatto che molti esperti del settore stanno cercando una soluzione al problema della responsabilità per danni dovuti da azioni di robot. Tali tentativi di soluzione si rivolgono in primis alla robotica civile, ma una volta venuti a capo di tale questione in questo settore, l’applicabilità potrebbe essere estesa anche al settore della robotica militare. Un docente dell’università degli studi di Torino, il prof. Ugo Pagallo, ha ipotizzato un ritorno del peculium romano ma in versione 2.0. In questa sua teoria si può constatare un parallelismo tra la figura dello schiavo e quella del robot, per cui il Peculium Digitale garantirebbe i proprietari di robot dall’essere rovinati dalle decisioni prese dalle macchine, ma senza perdere di vista la tutela delle controparti per i diritti e le obbligazioni assunte in caso di contratto e per i danni subiti in caso di situazione extra-contrattuale.

Proprio in tema di danno extra-contrattuale si ritiene che i giuristi guarderanno alla Tutela Aquiliana, anch’essa in versione 2.0, per cui la responsabilità discenderà dal fatto che le persone sono responsabili al di là dei patti nel caso in cui venga cagionato un danno ingiusto per colpa propria.

Alcune persone con lo sguardo rivolto al futuro riflettono sulla configurazione di nuove forme di mandato e rappresentanza, in base a cui la responsabilità giuridica per le azioni dei robot ricadranno sulle persone che hanno permesso al robot di agire in proprio nome. Altre invece riflettono sulla creazione di nuove forme di assicurazione obbligatoria e clausole di responsabilità limitata per fare in modo che l’utilizzo di tali macchine non venga disincentivato.

In conclusione quindi si può dire che la realtà digitale pervade le nostre vite e la maggioranza di noi non ne è cosciente. Al giorno d’oggi, in cui le generazioni più anziane sono ancora lì che combattono la tecnologia che vista dai loro occhi è una nemica, quasi alla stregua del figlio del diavolo, e altre che sono più giovani e hanno sempre vissuto con la tecnologia, tanto che non riescono ad immaginare un mondo che è riuscito a stare senza tutte queste innovazioni, tutte queste macchine, tutte queste connessioni. Il mondo digitale non è qui e ora ma è “lì e ieri”. Forse dovremmo semplicemente smettere di combatterlo, il che non vuol dire arrendersi ma essere maggiormente coscienti, interattivi e adattativi, facendo si che l’uomo risponda agli stimoli dell’ambiente mutando gli stati interni o le sue proprietà ma soprattutto far si che l’uomo accresca e migliori le regole attraverso cui tali stati cambiano.

FEDERICA GRECO

 Bibliografia:

–          “Morte Lo Porto, Nyt: Obama lo sapeva ma non lo disse a Renzi. Il premier: ce l’hanno detto quando hanno avuto la certezza”: http://www.repubblica.it/esteri/2015/04/24/news/lo_porto_la_casa_bianca_mette_in_discussione_la_strategia_dei_droni-112709858/

–          “Lo Porto: Obama non aveva certezze quando vide Renzi”:

http://www.ansa.it/sito/notizie/mondo/asia/2015/04/23/lo-porto_c33adf81-a4be-4763-9f44-ac0603c32533.html

–          Massimo Durante, Ugo Pagallo, Manuale di informatica giuridica e diritto delle nuove tecnologie, UTET Giuridica, 2012.