Hovoříte se strojem
Asistent SmartCallPro je systém umělé inteligence, který s lidmi komunikuje hlasem. Podle čl. 50 nařízení o umělé inteligenci je každý volající o této skutečnosti informován na začátku každého hovoru, srozumitelně a před shromážděním jakýchkoli údajů. Toto informování není nepovinné a zákazník je nemůže vypnout.
Asistent používá syntetický hlas. Má přidělené křestní jméno, aby ho volající měli přirozeně čím oslovit, a ve stejné větě uvádí, že je AI telefonní asistent. Nevydává se za člověka, a pokud se volající zeptá, zda hovoří s člověkem, jasně odpoví, že nikoli.
Klasifikace rizika
Asistenta klasifikujeme jako AI systém s omezeným rizikem podléhající povinnostem transparentnosti podle čl. 50. Nepoužívá se pro biometrickou identifikaci, odvozování emocí na pracovišti nebo ve vzdělávání, sociální bodování ani žádnou z praktik zakázaných čl. 5. Nepůsobí jako bezpečnostní komponenta a nerozhoduje o zaměstnání, úvěru, pojištění, základních službách ani přístupu k dávkám.
Co systém dělá a co nedělá
- Přijímá hovor, zjišťuje, co volající potřebuje, zaznamenává jeho údaje, rezervuje nebo požaduje schůzku a zaznamenává výsledek pro firmu.
- Řídí se plánem zpracování hovorů vytvořeným se zákazníkem. Neimprovizuje závazky, neuvádí ceny, které nebyly zadány, ani neposkytuje odborné, zdravotní či právní poradenství.
- Nesnaží se z hlasu volajícího odvodit emoce, zdravotní stav, etnický původ, politický názor ani jiný atribut zvláštní kategorie.
- Nepoužívá hlasové charakteristiky k identifikaci nebo ověření volajícího.
- Zvukové záznamy volajících ze zákaznických linek se nepoužívají k trénování obecných modelů.
Lidský dohled
Volající může kdykoli požádat o přepojení na člověka nebo o zanechání zprávy pro člověka a asistent tomu vyhoví. Zákazníci mohou zkontrolovat každý záznam hovoru, opravit ho a eskalovat. Hovory označené jako naléhavé se řídí eskalační cestou definovanou zákazníkem. Monitorujeme výsledky hovorů kvůli systematickým chybám a v případě zjištění upravujeme plán zpracování hovorů společně se zákazníkem.
Známá omezení
- Přesnost klesá při špatné kvalitě linky, silném okolním hluku a překrývající se řeči.
- Neobvyklá jména, názvy ulic a hláskování mohou být přepsány nesprávně a měla by být před použitím ověřena.
- Silné regionální přízvuky a rychlé přepínání mezi jazyky mohou vyžadovat zopakování.
- Asistent zvládá situace popsané v plánu zpracování hovorů; cokoli mimo něj je přesměrováno na člověka nebo zaznamenáno jako zpráva.
Gramotnost v oblasti AI a odpovědnost
Zaměstnanci, kteří asistenta konfigurují a dohlížejí na něj, absolvují školení o jeho schopnostech, omezeních a platných povinnostech transparentnosti, jak vyžaduje čl. 4 nařízení o umělé inteligenci. Dotazy, stížnosti nebo hlášení zavádějící interakce lze zaslat na info@smartcallpro.cz a přezkoumává je člověk.