Прозрачност на изкуствения интелект и описание на модела

Система

HEAL Companion е разговорна система, подпомагана от извличане на информация. Отговорите се генерират от голям езиков модел, достъпен чрез Lovable AI Gateway, въз основа на материали от корпуса HEAL (протоколи на матриците, Манифеста и изходни документи), извлечени чрез векторно сходство.

Цел и класификация

Съпровождане при осмисляне и превеждане на телесните усещания в символни значения за пълнолетни лица на доброволна основа. Съгласно Акта на ЕС за изкуствения интелект системата попада в категорията с ограничен риск и задължения за прозрачност. Тя умишлено не се представя като служеща за здравни цели и не извършва извеждане на заключения за емоции на работното място или в образователна среда.

Възможности

Насочване към настоящия момент и настройване на вниманието, разчитане на усещания чрез Body Matrix и Mouth Matrix, разпознаване на закономерности между сесиите и диалог на 14 езика. Гласово въвеждане на всички поддържани езици; гласови отговори на всички с изключение на папиаменту.

Известни ограничения

Посочени открито, а не скрити:

• Моделът може да се изразява уверено за нещо, което не знае.
• Тълкуванията чрез матриците са ориентировъчни подходи в рамките на конкретна концепция, а не измервания.
• Качеството варира според езика; при езици с по-малко налични езикови ресурси рискът от неестествени изрази или смесване на езици е по-висок.
• Качеството на разпознаването на реч се влошава при шум, акцент и кратки изказвания.
• Системата не помни нищо извън този акаунт, а когато съхраняването на сесиите е изключено, изобщо няма памет.

Човешки надзор

От всеки екран е достъпна връзка чрез WhatsApp с фасилитатор — човек. Изрази, сочещи криза, задействат предварително зададен, а не генериран отговор, който показва контакти за спешна помощ.

Оценяване

На всяко тримесечие се преглеждат реакциите при изрази, сочещи криза, отклоненията към поставяне на диагнози, спазването на ограниченията и смесването на езици на всички 14 езика. Констатациите и промените се вписват във вътрешния регистър за оценяване.