KI-Transparenz und Modellbeschreibung

System

HEAL Companion ist ein Dialogsystem, das durch den Abruf von Informationen ergänzt wird. Die Antworten werden von einem großen Sprachmodell erzeugt, das über Lovable AI Gateway angesprochen wird. Als Grundlage dienen Inhalte aus dem HEAL-Korpus (Matrix-Protokolle, das Manifest und Quelldokumente), die anhand von Vektorähnlichkeit abgerufen werden.

Zweck und Einordnung

Begleitung bei der Reflexion und Übertragung körperlicher Empfindungen in symbolische Bedeutungen für Erwachsene auf freiwilliger Basis. Nach der KI-Verordnung der EU fällt dies in den Bereich des begrenzten Risikos mit Transparenzpflichten. Das System wird bewusst nicht als einem gesundheitlichen Zweck dienend dargestellt und leitet im Arbeits- oder Bildungskontext keine Emotionen ab.

Fähigkeiten

Unterstützung beim Ankommen im Hier und Jetzt und beim Ausrichten der Aufmerksamkeit, Deutung von Empfindungen mithilfe der Body Matrix und der Mouth Matrix, Erkennung von Mustern über Sitzungen hinweg und Dialog in 14 Sprachen. Spracheingabe in allen unterstützten Sprachen; Sprachausgabe in allen außer Papiamentu.

Bekannte Einschränkungen

Offen benannt statt verborgen:

• Das Modell kann sich zu etwas, das es nicht weiß, mit großer Sicherheit äußern.
• Matrix-Deutungen sind heuristische Einordnungen innerhalb eines bestimmten Bezugsrahmens, keine Messungen.
• Die Qualität unterscheidet sich je nach Sprache; bei Sprachen mit weniger verfügbaren Sprachdaten besteht ein höheres Risiko für unnatürliche Formulierungen oder Sprachvermischungen.
• Die Spracherkennung wird bei Hintergrundgeräuschen, Akzenten und kurzen Äußerungen ungenauer.
• Das System erinnert sich an nichts außerhalb dieses Kontos und hat bei ausgeschalteter Sitzungsspeicherung keinerlei Erinnerung.

Menschliche Aufsicht

Eine menschliche Begleitperson ist von jeder Bildschirmansicht aus über WhatsApp erreichbar. Äußerungen, die auf eine Krise hinweisen, lösen eine fest vorgegebene, nicht generierte Antwort aus, die Notfallkontakte anzeigt.

Überprüfung

Vierteljährlich werden in allen 14 Sprachen der Umgang mit Äußerungen zu Krisen, das Abgleiten in diagnostische Aussagen, die Einhaltung von Grenzen und Sprachvermischungen überprüft. Ergebnisse und Änderungen werden im internen Evaluationsregister dokumentiert.