Trasparenza dell'IA e scheda del modello

Sistema

HEAL Companion è un sistema conversazionale potenziato dal recupero di informazioni. Le risposte sono generate da un modello linguistico di grandi dimensioni accessibile tramite Lovable AI Gateway e si basano sul corpus HEAL (protocolli delle matrici, Manifesto e documenti di riferimento), recuperato tramite similarità vettoriale.

Finalità e inquadramento

Accompagnamento alla riflessione e traduzione delle sensazioni corporee in significati simbolici per adulti, su base volontaria. Ai sensi del regolamento europeo sull'IA, questo sistema rientra nella categoria a rischio limitato con obblighi di trasparenza. Non viene deliberatamente presentato come destinato a finalità sanitarie e non effettua inferenze sulle emozioni in contesti lavorativi o educativi.

Funzionalità

Radicamento nel presente e regolazione dell'attenzione, decodifica delle sensazioni attraverso Body Matrix e Mouth Matrix, riconoscimento di schemi ricorrenti tra le sessioni e dialogo in 14 lingue. Input vocale in tutte le lingue supportate; output vocale in tutte tranne il papiamento.

Limiti noti

Esplicitati, non nascosti:

• Il modello può esprimersi con sicurezza su qualcosa che non conosce.
• Le interpretazioni delle matrici sono indicazioni euristiche tratte da uno specifico quadro di riferimento, non misurazioni.
• La qualità varia da una lingua all'altra; nelle lingue con minori risorse linguistiche è maggiore il rischio di formulazioni innaturali o che mescolano più lingue.
• La qualità del riconoscimento vocale diminuisce in presenza di rumore, accenti e frasi brevi.
• Non conserva memoria di nulla al di fuori di questo account e non conserva alcuna memoria quando la memorizzazione delle sessioni è disattivata.

Supervisione umana

Un facilitatore umano è raggiungibile tramite WhatsApp da ogni schermata. Le espressioni che segnalano una crisi attivano una risposta fissa, non generata, che mostra i contatti di emergenza.

Valutazione

Una revisione trimestrale esamina, in tutte le 14 lingue, la gestione delle espressioni che segnalano una crisi, la tendenza a formulare diagnosi, il rispetto dei limiti e la mescolanza di lingue. I risultati e le modifiche vengono annotati nel registro interno di valutazione.