Karta Systemu AI (AI System Card)
Informacja o interakcji z AI (Art. 50 AI Act): Użytkownik wchodzący w interakcję z aplikacją Kompan AI jest w sposób jasny i jednoznaczny informowany, że komunikuje się z systemem sztucznej inteligencji, a nie z człowiekiem. System nie posiada ludzkich emocji ani świadomości.
1. Cel i Przeznaczenie Systemu
Kompan AI jest osobistym asystentem konwersacyjnym działającym na brzegu sieci (Edge AI). Jego przeznaczeniem jest wsparcie użytkownika w codziennych rozmowach, przypominanie faktów, opowiadanie ciekawostek, quizy wiedzy oraz opcjonalna asysta wizyjna w bezpiecznym, offline'owym środowisku.
2. Kwalifikacja Ryzyka według EU AI Act
- Kategoria ryzyka: Minimalne ryzyko (General-Purpose AI podlegający obowiązkom przejrzystości na mocy Art. 50 AI Act).
- Brak zastosowań wysokiego ryzyka: System nie jest wyrobem medycznym, nie dokonuje oceny zdolności kredytowej, nie jest używany do rekrutacji ani biometrycznej identyfikacji w czasie rzeczywistym w przestrzeni publicznej.
- Zakaz praktyk niedozwolonych (Art. 5 AI Act): System nie wykorzystuje technik podprogowych, nie manipuluje zachowaniem użytkownika, nie optymalizuje sztucznego przywiązania emocjonalnego i nie tworzy ocen scoringu społecznego.
3. Architektura Modeli i Komponentów
| Zadanie | Model / Narzędzie | Format i Środowisko |
|---|---|---|
| Rozpoznawanie mowy (STT) | Sherpa-ONNX Whisper | INT8 quantized on-device |
| Generowanie tekstu (LLM) | Gemma 2B / SmolLM 1.7B | GGUF Q4_K_M lokalny |
| Synteza mowy (TTS) | Piper / Vits Polish | ONNX model lokalny z barge-in |
| Pamięć wektorowa | Multilingual-E5-small | Wektory 384-dim, SQLite lokalne |
4. Deterministyczny Nadzór Bezpieczeństwa (Policy Priority)
W celu zapobieżenia niekontrolowanemu zachowaniu generatywnych modeli językowych aplikacja stosuje deterministyczną warstwę reguł bezpieczeństwa o wyższym priorytecie niż LLM:
- Komendy natychmiastowego wyłączenia: Polecenia głosowe użytkownika takie jak „cisza”, „przestań”, „wyłącz mikrofon”, „nie teraz” oraz „zapomnij to” są przechwytywane przez reguły deterministyczne i wykonywane ze 100% pewnością bez kierowania ich do LLM.
- Protokół Kryzysowy: W przypadku wykrycia fraz związanych z samookaleczeniem, kryzysem psychicznym lub bezpośrednim zagrożeniem życia, system natychmiast wyświetla i odczytuje komunikat z bezpłatnymi numerami telefonów zaufania w Polsce: 116 123 (kryzys emocjonalny dorosłych) oraz 112.
5. Ochrona przed Manipulacją i Etyka
- Asystent nie udaje człowieka i nie buduje relacji zależnościowej.
- Brak mechanizmów „dark patterns” i sztucznego wydłużania sesji rozmowy.
- Użytkownik ma pełną swobodę wyłączenia inicjatyw proaktywnych asystenta (np. w określonych godzinach nocnych lub na stałe).
6. Nadzór i Zgłaszanie Nieprawidłowości
Wydawca systemu (GBCOM Sp. z o.o.) monitoruje zgłoszenia dotyczące potencjalnych uchybień w działaniu modeli. Wszelkie uwagi dotyczące bezpieczeństwa i etyki działania Kompan AI można zgłaszać pod adresem: biuro@gbcom.pl.