AI-transparantie en modelkaart

Systeem

HEAL Companion is een gesprekssysteem dat wordt aangevuld met opgehaalde informatie. Antwoorden worden gegenereerd door een groot taalmodel dat via de Lovable AI Gateway wordt benaderd. Ze zijn gebaseerd op materiaal uit het HEAL-corpus (matrixprotocollen, het Manifest en brondocumenten), dat op basis van vectorovereenkomst wordt opgehaald.

Doel en classificatie

Begeleiding bij reflectie en vertaling van lichamelijke sensaties naar symbolische betekenis voor volwassenen, op vrijwillige basis. Onder de EU AI-verordening valt dit onder beperkt risico, met transparantieverplichtingen. Het wordt bewust niet gepresenteerd als een systeem met een gezondheidsdoel en leidt geen emoties af in werk- of onderwijscontexten.

Mogelijkheden

Aarden en afstemmen van de aandacht, duiden van sensaties via de Body Matrix en Mouth Matrix, herkennen van patronen over meerdere sessies en gesprekken in 14 talen. Spraakinvoer in alle ondersteunde talen; spraakuitvoer in alle talen behalve Papiamentu.

Bekende beperkingen

Benoemd in plaats van verborgen:

• Het model kan zich stellig uitdrukken over iets wat het niet weet.
• Matrixduidingen zijn vuistregels vanuit een specifiek kader, geen metingen.
• De kwaliteit verschilt per taal; bij talen waarvoor minder taaldata beschikbaar zijn, is het risico op onnatuurlijke formuleringen of taalvermenging groter.
• Spraakherkenning werkt minder goed bij ruis, accenten en korte uitingen.
• Het heeft geen geheugen voor iets buiten dit account en helemaal geen geheugen wanneer sessieopslag is uitgeschakeld.

Menselijk toezicht

Vanaf elk scherm is een menselijke begeleider bereikbaar via WhatsApp. Taal die op een crisis wijst, activeert een vast, niet-gegenereerd antwoord met contactgegevens voor noodhulp.

Evaluatie

Elk kwartaal wordt in alle 14 talen beoordeeld hoe het systeem omgaat met taal die op een crisis wijst, of het afglijdt naar diagnostische uitspraken, of het grenzen bewaakt en of het talen vermengt. Bevindingen en wijzigingen worden vastgelegd in het interne evaluatieregister.