AI 투명성 및 모델 카드

시스템

HEAL Companion은 검색 증강 대화형 시스템입니다. Lovable AI Gateway를 통해 연결되는 대규모 언어 모델이 벡터 유사도로 검색한 HEAL 자료 모음(매트릭스 프로토콜, 선언문, 원문 문서)을 바탕으로 답변을 생성합니다.

목적 및 분류

자발적으로 참여하는 성인에게 성찰을 위한 동행과 신체 감각을 상징적 의미로 옮기는 기능을 제공합니다. EU AI법에 따라 투명성 의무가 적용되는 제한적 위험 범주에 해당합니다. 건강 목적을 위한 서비스로 표방하지 않도록 명확히 하고 있으며, 직장이나 교육 환경에서 감정 추론을 수행하지 않습니다.

기능

현재의 감각에 주의를 두고 주의를 조절하기, Body Matrix와 Mouth Matrix를 통한 감각 해석, 여러 세션에 걸친 패턴 인식, 14개 언어로 대화하기를 지원합니다. 모든 지원 언어에서 음성 입력을 제공하며, 파피아멘투어를 제외한 모든 지원 언어에서 음성 출력을 제공합니다.

알려진 한계

한계를 숨기지 않고 명시합니다.

• 모델은 알지 못하는 내용에 대해서도 확신에 찬 표현을 생성할 수 있습니다.
• 매트릭스 해석은 특정 체계에 따른 경험적 해석 방식이며, 측정값이 아닙니다.
• 품질은 언어마다 다릅니다. 언어 자원이 적은 언어에서는 표현이 부자연스럽거나 다른 언어가 섞일 위험이 더 큽니다.
• 소음, 억양, 짧은 발화로 인해 음성 인식 성능이 저하될 수 있습니다.
• 이 계정 밖의 내용은 기억하지 않으며, 세션 저장이 꺼져 있으면 어떤 내용도 기억하지 않습니다.

사람에 의한 감독

모든 화면에서 WhatsApp을 통해 담당 진행자에게 연락할 수 있습니다. 위기를 나타내는 표현이 감지되면 생성형 답변이 아닌 미리 정해진 응답으로 긴급 연락처를 안내합니다.

평가

분기별 검토에서는 14개 언어 모두에 걸쳐 위기 표현 대응, 진단적 표현으로의 이탈, 역할과 한계 준수, 언어 혼용을 점검합니다. 발견 사항과 변경 사항은 내부 평가 대장에 기록합니다.