Dalla Garfagnana al dibattito internazionale sull’intelligenza artificiale, passando per una delle questioni più delicate del nostro tempo: l’utilizzo degli algoritmi nei conflitti bellici.
Il professor Dino Pedreschi, originario di Castelnuovo, è intervenuto in un’intervista a RaiNews.it per approfondire i rischi legati all’impiego dell’intelligenza artificiale nelle decisioni militari, con particolare riferimento alla scelta degli obiettivi da colpire e alla difficoltà di individuare le responsabilità quando un sistema commette un errore.
Docente ordinario di informatica all’Università di Pisa, Pedreschi è un esperto di intelligenza artificiale e pioniere della Big Data Analytics, la disciplina che studia le tracce digitali delle attività umane per comprendere fenomeni e dinamiche sociali complesse. Un percorso scientifico che oggi lo vede impegnato anche a livello europeo: fa infatti parte, come uno dei sei vice-chair del gruppo di lavoro, della commissione incaricata di sviluppare il Code of Practice on Transparency of AI-Generated Content, nell’ambito del regolamento europeo sull’intelligenza artificiale, l’AI Act.
Nell’intervista a RaiNews.it, il professore ha affrontato una questione che va ben oltre le armi autonome. La trasformazione introdotta dall’intelligenza artificiale nei conflitti, ha spiegato, consiste soprattutto nella sua integrazione lungo l’intera catena decisionale che conduce alla scelta di un bersaglio. Non si tratta, dunque, soltanto di macchine capaci di selezionare autonomamente un obiettivo, ma di sistemi che intervengono in diverse fasi del processo, influenzando le valutazioni e le decisioni umane.
È proprio in questo passaggio che si concentra uno dei principali rischi. Gli algoritmi elaborano previsioni su base probabilistica e, come tali, possono sbagliare. Le loro indicazioni, inoltre, possono essere prodotte con una rapidità tale da lasciare a chi deve decidere tempi insufficienti per verificarle, valutarle criticamente o contraddirle. La velocità della macchina rischia così di comprimere lo spazio necessario al giudizio umano, soprattutto in contesti nei quali le conseguenze di una decisione possono essere irreversibili.
Un problema tecnologico che diventa immediatamente anche giuridico ed etico: chi risponde quando una decisione suggerita da un algoritmo provoca un errore? Pedreschi individua una delle maggiori criticità nell’opacità di questi sistemi, che possono proporre decisioni senza renderne comprensibili le motivazioni. A questo si aggiunge il coinvolgimento di numerose figure nella loro realizzazione e nel loro utilizzo, dalla programmazione fino all’impiego operativo. Il risultato, secondo il professore, è una possibile “diluizione della responsabilità”: ricostruire a posteriori il percorso che ha condotto a una decisione sbagliata può diventare estremamente difficile, con il rischio che nessuno sia chiamato a risponderne in modo chiaro. Sistemi complessi e poco trasparenti possono quindi rendere più difficile individuare chi abbia contribuito a determinare una scelta e in quale momento sarebbe stato possibile intervenire.
Da qui il richiamo a una linea rossa che, nei conflitti, non dovrebbe essere oltrepassata: la salvaguardia della responsabilità umana nelle decisioni finali. Per il professor Pedreschi, l’intelligenza artificiale non può diventare una giustificazione automatica per colpire un obiettivo. La valutazione deve rimanere affidata a persone in grado di assumersi la responsabilità delle proprie decisioni, nel rispetto del diritto internazionale.
Il professore richiama, in questo senso, la necessità di un appello internazionale paragonabile a quelli sviluppati in passato contro l’impiego di armi chimiche e nucleari: un impegno condiviso per preservare uno spazio effettivo di giudizio umano anche quando la tecnologia rende possibile accelerare e automatizzare i processi decisionali.
La riflessione si allarga infine oltre il campo militare. In un contesto internazionale nel quale la guerra sembra tornare a essere considerata una risposta ai conflitti, Pedreschi invita a interrogarsi sul modello di società che si vuole costruire e sulla capacità di continuare a promuovere un’idea di civiltà fondata sulla responsabilità, sul diritto e sulla ricerca di soluzioni diverse dalla violenza.
Un intervento che porta nel dibattito pubblico una questione destinata a diventare sempre più centrale: il progresso tecnologico non può sostituire la responsabilità delle persone, né cancellare il valore delle decisioni consapevoli.