I rischi dell'IA in azienda, in Svizzera

I rischi legati all'IA in azienda non sono monolitici. Si suddividono in quattro famiglie distinte, ciascuna con le proprie cause, conseguenze e leve di controllo. Comprendere questa mappa è il primo passo prima di qualsiasi implementazione.

La Svizzera non dispone ancora di una legge specifica sull'IA. L'approccio adottato è quello della neutralità tecnologica: si applicano le leggi esistenti. Ciò significa che tre corpus normativi disciplinano direttamente l'uso dell'IA in azienda.

La nuova Legge federale sulla protezione dei dati (nLPD, in vigore da settembre 2023) è direttamente applicabile ai trattamenti effettuati tramite IA. Impone trasparenza sullo scopo e sulle fonti dei dati, analisi d'impatto in caso di rischi elevati, e diritto alla revisione umana delle decisioni automatizzate (art. 21 nLPD). Le sanzioni possono raggiungere i 250'000 CHF e comportano la responsabilità personale dei dirigenti.

Il Codice delle obbligazioni (art. 41 CO) impone all'azienda utilizzatrice di risarcire qualsiasi danno causato da un sistema IA che gestisce. La responsabilità è dell'azienda, non del sistema. La Legge federale sulla responsabilità per danno da prodotti (LRFP) può applicarsi anche qualora l'IA sia qualificata come componente difettoso.

L'AI Act europeo, adottato nel marzo 2024 ed entrato progressivamente in applicazione fino al 2026, riguarda direttamente le aziende svizzere che operano sul mercato europeo o i cui sistemi IA sono implementati nell'UE. Classifica le IA in quattro livelli di rischio (inaccettabile, elevato, limitato, minimo) e impone obblighi di documentazione, audit e marcatura CE per i sistemi ad alto rischio.

L'IA generativa produce risultati statisticamente probabili, non necessariamente esatti. Il fenomeno delle allucinazioni, in cui il modello genera informazioni false presentandole con sicurezza, è documentato in tutti i principali modelli attuali. In un contesto professionale, ciò può tradursi in contratti mal redatti, analisi finanziarie errate, risposte ai clienti incorrette o decisioni mediche erronee.

La dipendenza operativa è un rischio spesso sottovalutato. Quando un processo critico dipende interamente da un sistema IA fornito da terzi, un'interruzione, una modifica delle condizioni d'uso o un aumento tariffario può destabilizzare l'attività. In assenza di un piano di continuità, la vulnerabilità è strutturale.

Un modello addestrato su dati storici eredita i bias di quei dati. Nel contesto del reclutamento, della concessione di credito, della tariffazione assicurativa o della valutazione delle prestazioni, un algoritmo distorto può portare a decisioni discriminatorie ai sensi del diritto svizzero ed europeo, anche senza intenzione di nuocere.

L'assenza di controllo umano su queste decisioni aggrava il rischio: la discriminazione non è visibile nel processo, emerge solo nei risultati. In Svizzera, la nLPD impone che le decisioni automatizzate con effetti giuridici significativi su una persona siano soggette al diritto di revisione umana.

La maggior parte degli strumenti IA di uso comune (ChatGPT, Copilot, Gemini) tratta i dati su server localizzati negli Stati Uniti. Quando un collaboratore inserisce informazioni riservate, dati di clienti, segreti commerciali o dati personali in questi strumenti, tali dati escono dal perimetro aziendale e potenzialmente dalla giurisdizione svizzera ed europea.

La capacità di calcolo mondiale rimane in larga misura concentrata negli Stati Uniti, lasciando l'Europa in una dipendenza strutturale dagli hyperscaler americani. Questa realtà crea un rischio di sovranità che le aziende svizzere, in particolare nei settori regolamentati (finanza, sanità, assicurazioni, pubblica amministrazione), non possono più ignorare.

L'hosting dei dati è un criterio di sicurezza, non solo di comodità. Esistono alternative concrete, tra cui modelli open source ospitati su infrastruttura europea, che consentono di trattare dati sensibili senza trasferirli al di fuori dell'UE.

Molte aziende svizzere hanno adottato l'IA, ma la strategia fatica spesso a tenere il passo. L'adozione senza governance è essa stessa un rischio: gli utilizzi si moltiplicano in modo non coordinato, le responsabilità restano indefinite e nessun quadro stabilisce quali dati possano essere condivisi con quali strumenti.

Il lock-in da fornitore è una forma di dipendenza strategica. Quando i processi aziendali si basano su uno strumento IA proprietario, migrare verso un'alternativa diventa costoso, rischioso e tecnicamente complesso. Nel lungo periodo, il fornitore acquisisce un potere di mercato che erode la capacità negoziale dell'azienda.

La mancanza di competenze interne è uno dei principali ostacoli a un'adozione strutturata. Le PMI generalmente non possono costituire da sole un team di governance IA. L'accompagnamento esterno, che si tratti di consulenza, formazione o di un fornitore tecnico, è quindi un fattore di riduzione del rischio, non un lusso.

La Svizzera adotta un approccio di neutralità tecnologica: nessuna legge IA unica, ma applicazione delle leggi settoriali esistenti. Concretamente, nel 2025-2026, i seguenti testi si applicano direttamente agli utilizzi IA in azienda.

L'IFPDT (autorità federale di protezione dei dati) ha confermato che la nLPD è direttamente applicabile ai trattamenti effettuati tramite IA, senza ambiguità. L'autorità monitora in particolare i casi di riconoscimento facciale, sorveglianza comportamentale e trattamento di dati sensibili da parte di sistemi automatizzati.

Per le aziende esposte al mercato UE, l'AI Act si aggiunge come ulteriore livello normativo. I primi divieti (livello di rischio inaccettabile) sono entrati in vigore nel febbraio 2025. Gli obblighi per i sistemi ad alto rischio si applicano progressivamente fino all'agosto 2026.

La gestione dei rischi IA non richiede di fermare tutto né di ricominciare da capo. Richiede un approccio strutturato, proporzionato alle dimensioni e al settore dell'organizzazione. Ecco le priorità identificate dai professionisti svizzeri del settore.

Per le aziende svizzere che desiderano implementare strumenti IA aziendali, portali clienti, software interni o agenti IA senza trasferire i propri dati a hyperscaler americani, Kleap propone un approccio basato su tre principi.

Primo principio: infrastruttura europea. I deployment si basano su Hetzner (Germania, certificato ISO 27001) e su modelli open source i cui dati non lasciano l'UE e non vengono riutilizzati per addestrare modelli di terzi.

Secondo principio: accompagnamento. Kleap non vende uno strumento, ma propone un risultato consegnato da un team. Sono disponibili tre percorsi: realizzazione chiavi in mano tramite l'agenzia partner Lionscreative, messa in contatto con un fornitore specializzato, o deployment Kleap Enterprise in modalità guidata.

Terzo principio: tracciabilità. Le azioni dei sistemi IA implementati sono verificabili. I dirigenti possono documentare le decisioni per rispondere ai requisiti della nLPD e prepararsi alla conformità all'AI Act.