Nemecká personálno-softvérová agentúra vyriešila vysoké riziko pokút za porušenie EU AI Act pri automatizovanom skríningu kandidátov nasadením nástrojov Microsoft Purview a Azure OpenAI na priebežný audit governance. Stredne veľká spoločnosť s 230 zamestnancami využívala interné algoritmy na prvotnú selekciu uchádzačov o prácu. S príchodom novej európskej legislatívy spadal ich náborový systém do kategórie vysokorizikových aplikácií, čo si vyžadovalo okamžitú revíziu dokumentácie aj samotných algoritmov. Tradičný právny a technický audit by trval mesiace a vyžadoval obrovské finančné prostriedky, preto vedenie zvolilo automatizovanú kontrolu.
Technické riešenie: Prepojenie Microsoft Purview a Azure OpenAI
Implementovaný systém spojil pokročilú dátovú klasifikáciu s generatívnou analýzou textu. Microsoft Purview primárne mapuje, indexuje a štruktúruje všetky interné HR dokumenty, zmluvy, popisy pracovných pozícií a protokolované výstupy z náborových nástrojov. Nad týmito dátami funguje špecializovaný model Azure OpenAI, ktorý bol nastavený na legislatívne texty EU AI Act a normy GPAI (General Purpose AI).
Proces kontroly prebieha v troch nadväzujúcich krokoch:
- Automatická identifikácia rizík: Azure OpenAI skenuje kódy skriptov a logiku skríningu, pričom odhaľuje potenciálne skreslenia (bias) pri vyhodnocovaní kandidátov.
- Krížová kontrola s legislatívou: Systém porovnáva zaznamenané HR postupy s jednotlivými článkami nariadenia EU AI Act a vyhodnocuje úroveň transparentnosti aj ľudského dohľadu.
- Generovanie auditnej dokumentácie: Generatívny model zostavuje kompletné compliance reporty vrátane presných odporúčaní na úpravu procesov.
Ochrana osobných údajov zostala plne zachovaná, keďže Azure OpenAI pracoval výhradne v uzavretom firemnom prostredí. Žiadne citlivé informácie o uchádzačoch neboli použité na trénovanie verejných modelov a Microsoft Purview bezpečne riadil prístupové práva auditných tímov.
Reálne výsledky v číslach
Nasadenie automatizovaného auditu radikálne zrýchlilo zosúladenie procesov s novou legislatívou. Počas roka 2024 dosiahla spoločnosť merateľné výsledky:
- Skrátenie času auditu o 65 %: Trvanie kompletnej revízie interných HR dokumentov a systémov sa skrátilo zo šiestich týždňov na necelé dva týždne.
- Úspora viac ako 42 000 EUR: Vďaka automatickému predvýberu a príprave podkladov firma znížila rozsah platených hodín externých právnych poradcov.
- Eliminácia právnych rizík: Spoločnosť získala nepretržitý prehľad o stave governance a schopnosť okamžite reagovať na aktualizácie pravidiel GPAI.
Príklad z praxe
- Firma: Stredne veľká personálna a softvérová agentúra (230 zamestnancov), Nemecko
- AI riešenie: Microsoft Purview v kombinácii s Azure OpenAI pre automatizovaný audit HR governance
- Problém: Potreba preauditovať a prispôsobiť interné administratívne a HR systémy (najmä automatizovaný skríning kandidátov) prísnym požiadavkám nového zákona EU AI Act a GPAI kódexu s cieľom eliminovať právne riziká a netransparentnosť.
- Výsledok: Skrátenie času potrebného na audit interných HR dokumentov a procesov o 65 % a úspora viac ako 42 000 EUR na externých právnych poplatkoch v roku 2024.
Ponaučenie pre B2B sektor: Ako pristúpiť k EU AI Act
Skúsenosť nemeckej agentúry dokazuje, že plnenie prísnych regulácií nemusí spomaliť prevádzku firmy. Využitie AI modelov na kontrolu vlastných interných algoritmov predstavuje najrýchlejší spôsob, ako zvládnuť požiadavky EU AI Act bez extrémneho nárastu nákladov. Subjekty spravujúce personálne matice alebo vlastné náborové systémy musia začať s provierkou procesov bezodkladne. Automatizovaný audit garantuje právnu istotu a chráni firmu pred devastačnými pokutami.