.

Indagine sull'utilizzo di strumenti di IA


Protetto
Survio
Crea un sondaggio
Indagine sull'utilizzo di strumenti di IA

INFORMAZIONI GENERALI SULL'AZIENDA

1

Denominazione dell'azienda ospedaliera per esteso.

2

Email di riferimento del responsabile dei modelli o dell'innovazione (o in sua assenza, del responsabile della compliance) per eventuali chiarimenti


Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

UTILIZZO DELL'INTELLIGENZA ARTIFICIALE E MACHINE LEARNING

3

L'azienda utilizza modelli di Intelligenza Artificiale?

Scegli una risposta
4

Se sì, tali modelli sono accompagnati da altre tecnologie innovative?

Scegli una o più risposte
5

Nell'ambito dei modelli di IA, sono utilizzati algoritmi Machine Learning?

Scegli una risposta
6

Specificare in quale ambito operativo viene utilizzato l'algoritmo Machine Learning.

7

Indicare se l'azienda utilizza un modello Machine Learning sviluppato internamente o è utente di una soluzione acquistata all'esterno. Nell'ultimo caso, indicare il nome commerciale della soluzione/piattaforma.

8

Tipologia di algoritmo Machine Learning.

Scegli una o più risposte
9

Descrivere le finalità e le modalità di utilizzo dell'algoritmo/algoritmi Machine Learning.

10

Quali sono i principali dati richiesti ai pazienti e quali sono presi in considerazione per la fase di training / validazione / test dell'algoritmo Machine Learning.

11

In che modo l'azienda si assicura che i dati utilizzati per il training / validazione / test dell'algoritmo Machine Learning siano accurati, appropriati e completi?

12

In che modo l'azienda si assicura che i dati utilizzati per il training / validazione / test dell’algoritmo Machine Learning siano non discriminatori nei confronti dei pazienti, in particolare che non siano presenti bias su fattori quali sesso, etnia, religione, nazionalità, orientamento sessuale, condizione socioeconomica?

13

Indicare se sono presenti attività di monitoraggio, individuazione e correzione dei bias.

14

Con quale frequenza viene rivista la calibrazione dell'algoritmo Machine Learning?

15

In che modo sono documentati il funzionamento, le decisioni e i risultati dell'algoritmo Machine Learning?

Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

GOVERNANCE DEGLI ALGORITMI MACHINE LEARNING

16

È prevista una policy specifica per le applicazioni/servizi che utilizzano algoritmi di Machine Learning?

Scegli una risposta
17

L'azienda ha modificato le policy di risk management, compliance, internal auditing e IT alla luce dell’utilizzo degli algoritmi Machine Learning?

Scegli una risposta
18

Indicare i principali rischi identificati per l’utilizzo degli algoritmi Machine Learning e i presidi adottati per mitigare tali rischi.

19

Il coordinamento dello sviluppo e gestione delle applicazioni che utilizzano algoritmi Machine Learning è centralizzato o distribuito in differenti aree/settori?

Centralizzato/Distribuito (Fornire una descrizione)
20

Come viene assicurata la governance dei dati utilizzati negli algoritmi Machine Learning?

21

Gli algoritmi di Machine Learning sono stati sottoposti a validazione / auditing interno o esterno?

Scegli una risposta
22

Sono stati sviluppati specifici KPI/KRI per la valutazione delle prestazioni/rischi legati agli algoritmi Machine Learning? Se sì, quali?

Scegli una o più risposte
23

È prevista la supervisione umana (human in the loop) sulle decisioni prese dagli algoritmi Machine Learning?

Totale, Parziale, Nulla (fornire una descrizione)
24

Esistono dei piani di formazione per il personale interno della compagnia che utilizza i modelli Machine Learning nell’operatività corrente al fine di garantirne il corretto utilizzo?

Sì / No / In fase di attuazione (Fornire una descrizione)
Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

COMUNICAZIONE ALLA CLIENTELA E CONSENSO

25

Viene fornita una informativa ai pazienti sull’utilizzo di algoritmi di Machine Learning nei servizi a loro rivolti?

Sì / No (Fornire una descrizione)
26

Se sì, quali informazioni sono fornite in merito all'utilizzo dei modelli Machine Learning, ai dati trattati e alle principali variabili che impattano sulle decisioni prese dagli algoritmi?

Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

SICUREZZA DEGLI ALGORITMI MACHINE LEARNING

27

L'azienda effettua audit periodici per verificare l'integrità e la robustezza delle applicazioni che utilizzano algoritmi Machine Learning contro possibili attacchi informatici?

Sì / No / In fase di sviluppo (Fornire una descrizione)
28

Quali meccanismi di fall-back sono previsti nel caso di indisponibilità delle applicazioni che utilizzano algoritmi Machine Learning?

29

Quali procedure sono messe in atto per tutelare gli algoritmi da attacchi di tipo data-poisoning?

Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

SPIEGABILITÀ DEGLI ALGORITMI MACHINE LEARNING

30

L'azienda utilizza algoritmi Machine Learning "black box"?

Sì / No (Se sì, fornire una descrizione degli eventuali criteri minimi di spiegabili definiti)
31

Relativamente agli algoritmi Machine Learning "black box" o di particolare complessità, l'azienda adotta dei tool mirati a garantirne la spiegabilità? Se sì, indicare quali (ad es. metodi di challenging o report specifici sulla spiegabilità).

Sì/No/In fase di sviluppo (Fornire una descrizione)
Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

FAIRNESS DEGLI ALGORITMI MACHINE LEARNING

32

In che modo l'azienda identifica bias nei dati utilizzati per gli algoritmi Machine Learning e previene l’esclusione o discriminazione di pazienti?

33

Esistono meccanismi interni che segnalino indesiderate esclusioni o discriminazioni di pazienti causati dagli algoritmi Machine Learning? Se sì, descrivere tali meccanismi e le azioni da attuare in caso di bias nei risultati.

Sì / No / In fase di sviluppo (Fornire una descrizione)
34

Nel caso di algoritmi Machine Learning utilizzati per la diagnosi di malattie, i risultati sono sottoposti a controllo per verificare se a pazienti con la stessa sintomatologia è attribuita la stessa diagnosi?

Sì / No (Fornire una descrizione)
Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

OUTSOURCING DEGLI ALGORITMI MACHINE LEARNING

35

Nella gestione di algoritmi Machine Learning, l'azienda si rivolge ad outsourcer esterni?

Se sì indicare il nome dell'outsourcer (i nomi se più)
36

Se sì, quali processi di controllo sono stati adottati?

37

In particolare, l'azienda ha valutato i possibili rischi (es. lock-in o concentrazione) derivanti dall'outsourcing degli algoritmi Machine Learning?

Sì / No / In fase di valutazione (Fornire una descrizione)
Crea sondaggi
Indagine sull'utilizzo di strumenti di IA

RESPONSABILITÀ SANITARIA

38

Quale regime di responsabilità è previsto in ipotesi di evento dannoso derivante dall'utilizzo di strumenti di IA?

39

In particolare, come viene individuato il soggetto responsabile, il nesso causale tra danno ed evento e la ripartizione del danno?

40

È previsto un regime di responsabilità differenziata a seconda che si utilizzino modelli "trasparenti" o modelli "opachi" (quali ad esempio tecnologie di Deep Learning)?

Se sì, fornire descrizione
Crea sondaggi