Da un lato, l'uso dell'intelligenza artificiale (AI) facilita il lavoro quotidiano, aumenta l'efficienza e porta a una migliore fedeltà dei clienti. Per le aziende, tuttavia, sorgono anche nuovi scenari di danni e responsabilità.
L'uso di nuove tecnologie nelle aziende ha sempre due lati. Oltre ai numerosi vantaggi, possono presentarsi anche nuovi scenari per i quali non esiste ancora un piano di emergenza. Nel caso dell'uso dell'IA, le aziende si troveranno quindi di fronte a nuovi tipi di problemi di responsabilità in futuro, poiché la responsabilità delle azioni si sposterà dagli esseri umani alle macchine. Allo stesso tempo, la crescente interconnessione aumenta la vulnerabilità ai cyber-attacchi o ai guasti tecnici, che possono portare a fallimenti su larga scala e perdite finanziarie.
Nello studio "The Rise of Artificial Intelligence: Future Outlook and Emerging Risks" di Allianz Global Corporate & Specialty (AGCS), sono stati esaminati da un lato i benefici della crescente implementazione dell'AI nel business e nella società, compreso il settore assicurativo, ma anche i possibili rischi posti dalla nuova tecnologia. "Che si tratti di affari, politica, mobilità, salute, difesa o ambiente, l'IA porta benefici ma anche potenziali rischi. Abbiamo urgente bisogno di misure preventive di mitigazione del rischio per massimizzare i benefici netti della diffusione di massa e ridurre gli effetti collaterali indesiderati", spiega Michael Bruch, Head of Emerging Trends di AGCS.
Considerazioni etiche
I software alimentati dall'AI potrebbero, da un lato, ridurre il rischio informatico per le aziende attraverso una migliore individuazione degli attacchi, ma dall'altro, facilitare proprio tali attacchi rendendo la pianificazione e l'esecuzione più facile. Uno stesso attacco hacker - o anche un errore di programmazione - potrebbe essere replicato su numerosi computer, secondo l'AGCS. Questo renderebbe più probabili gli incidenti informatici globali.
Nel settore della mobilità, si ripongono grandi aspettative sulle applicazioni AI. Le auto a guida autonoma dovrebbero eliminare l'errore umano come causa principale degli incidenti, e l'IA nei sistemi di controllo del traffico dovrebbe gestire meglio il flusso del traffico. Tuttavia, non è ancora molto chiaro chi è responsabile in caso di incidenti e quali principi etici dovrebbero seguire i veicoli autonomi quando sono in gioco la salute e la vita degli altri utenti della strada.
Fattori di rischio
Secondo l'AGCS, i rischi dell'IA possono sorgere principalmente in cinque aree: Disponibilità del software, sicurezza, responsabilità, responsabilità ed etica. In termini di sicurezza, per esempio, secondo l'azienda, la corsa a portare rapidamente i sistemi AI sul mercato potrebbe portare a revisioni inadeguate, non garantendo così applicazioni AI sicure e funzionali. Questo, a sua volta, potrebbe innescare più difetti di prodotto e richiami.
Per quanto riguarda la questione della responsabilità, gli agenti AI potrebbero prendere molte decisioni dagli umani in futuro, ma non essere ritenuti legalmente responsabili per loro. Di regola, il produttore o il programmatore di software degli agenti AI è responsabile degli errori che causano danni agli utenti. Tuttavia, secondo la legge attuale, nessuno potrebbe essere ritenuto esplicitamente responsabile per le decisioni basate sull'AI che non possono essere direttamente attribuite alla progettazione o alla fabbricazione, ma che sono fatte da un agente AI. "Se il numero di danni causati dall'IA aumenta, lasciare il processo decisionale ai tribunali può diventare rapidamente costoso e lungo", dice Bruch. "Abbiamo bisogno di gruppi di esperti per chiarire la responsabilità legale per l'occorrenza e concepire un quadro di responsabilità che esponga i progettisti, i produttori o i venditori di prodotti AI a una responsabilità civile limitata."
Base legale necessaria
Per fare questo, le coperture tradizionali devono essere adattate per proteggere di conseguenza sia gli individui che le imprese. Gli assicuratori devono essere in grado di offrire alle aziende soluzioni appropriate per pericoli come i cyber-attacchi, l'interruzione dell'attività, il ritiro dei prodotti e i danni alla reputazione. Inoltre, è probabile che nuovi modelli di assicurazione della responsabilità civile diventino prevalenti, rendendo i produttori e i fornitori di software più responsabili e limitando la responsabilità oggettiva dei consumatori, ha detto AGCS.
È anche il settore assicurativo che sta già utilizzando sempre più soluzioni AI, come i bot che classificano ed elaborano automaticamente la posta in arrivo, le e-mail o anche le chiamate. "L'IA ha un enorme potenziale per gli assicuratori. Inizialmente, supporterà l'automazione dei processi per accelerare e migliorare l'emissione delle polizze o la gestione dei sinistri per i clienti", spiega Bruch.
Secondo AGCS, le analisi dei dati supportate dall'AI daranno anche agli assicuratori e ai loro clienti una migliore comprensione dei rischi in modo da poterli ridurre o coprire attraverso nuove soluzioni assicurative. Infine, ma non meno importante, l'AI cambierà anche la relazione con il cliente, poiché, per esempio, si possono attivare offerte self-service o consigli 24 ore su 24.