Bezpečnostné poistky veľkých jazykových modelov navrhnuté na zabránenie zneužitiu AI narážajú na nečakaný problém. Namiesto zastavenia útočníkov často blokujú špecialistov na etický hacking, ktorí simulujú kybernetické hrozby. Systémy od spoločností OpenAI či Anthropic automaticky odmietajú spracovať požiadavky obsahujúce kód zraniteľností, čím priamo ohrozujú vývoj defenzívnych nástrojov a spomaľujú reakciu na reálne hrozby.
Keď bezpečnostné filtre chránia útočníkov
Implementácia bezpečnostných poistiek (guardrails) v generatívnej AI má za cieľ zamedziť generovaniu škodlivého kódu, návodov na sociálne inžinierstvo či analýze zraniteľností neautorizovanými osobami. Tieto systémy však fungujú na základe plošných kľúčových slov a kontextových filtrov, ktoré nedokážu rozlíšiť zámer používateľa.
Keď etický hacker vloží do rozhrania vzorku obfuskovaného škodlivého kódu s cieľom vytvoriť detekčné pravidlo pre SOC (Security Operations Center), model odpoveď zamietne. Výskumníci tak trávia desiatky minút obchádzaním vlastných nástrojov pomocou zložitého preformulovania zadaní. Falošne pozitívne blokovanie legitímnych bezpečnostných požiadaviek znižuje efektivitu testovania zraniteľností až o 40 %.
Rozdiel medzi útočným kódom a výskumným skriptom často spočíva výhradne v kontexte použití, čo je vlastnosť, ktorú algoritmy spracovania prirodzeného jazyka nedokážu spoľahlivo dedukovať. Automatizované poistky tak vytvárajú falošný pocit bezpečia na strane poskytovateľov AI, no v praxi hendikepujú defenzívnu stranu.
Dopad na slovenské firmy a IT tímy
Pre slovenské B2B firmy, dodávateľov IT infraštruktúry a špecializované audítorské spoločnosti znamená tento stav výrazné zvýšenie nákladov na penetračné testovanie. Ak bezpečnostný analytik nemôže použiť komerčné AI modely na urýchlenie reverzného inžinierstva alebo generovanie testovacích skriptov, manuálna práca predlžuje trvanie celého auditu.
Smernica NIS2 ukladá subjektom v kritických odvetviach povinnosť vykonávať pravidelné audity a rýchlo reagovať na kybernetické incidenty. Ak výskumné tímy strácajú čas obchádzaním filtrov pri analýze novotvarov škodlivého kódu, priamo sa to odzrkadľuje na predĺžení ukazovateľov Mean Time to Detect (MTTD) a Mean Time to Respond (MTTR).
Slovenské organizácie sa musia prispôsobiť a diverzifikovať svoju technologickú architektúru. Spoliehanie sa výhradne na verejné cloudové API veľkých hráčov predstavuje v procese detekcie hrozieb úzke hrdlo.
Kľúčové oblasti zasiahnuté blokovaním AI:
- Automatizovaný red teaming: Generovanie komplexných scenárov útokov naráža na odmietavé odpovede modelov.
- Analýza malvéru: Dekódovanie podozrivých skriptov je systémami označené ako nebezpečná aktivita.
- Písanie exploitov pre verifikáciu: Vývoj proof-of-concept kódov na overenie opravených zraniteľností je bez špeciálnych výnimiek prakticky nemožný.
Riešenia a stratégia pre B2B sektor
Existuje niekoľko hlavných ciest, ako môžu bezpečnostné tímy túto prekážku prekonať bez straty produktivity a porušenia licenčných podmienok.
Prvým krokom je nasadenie lokálnych open-source modelov (napríklad Llama 3 alebo Mistral) prevádzkovaných na vlastnej infraštruktúre. Tieto modely je možné doškoliť na špecifické bezpečnostné úlohy bez akýchkoľvek externých poistiek. Firmy tak získajú plnú kontrolu nad dátami aj správaním modelu.
Druhou možnosťou je využitie špeciálnych podnikovým programov (Enterprise API), kde poskytovatelia dovoľujú overeným subjektom modifikovať nastavenia striktnosti filtrov. Tento prístup je však finančne aj administratívne náročnejší.
Tretím prístupom je vybudovanie internej medzivrstvy, ktorá automaticky prekladá bezpečnostný jazyk do neutrálnej formulácie pred odoslaním na cloudové API a následne rekonštruuje odpoveď. Dôležitým krokom je aj štandardizácia testovacích protokolov a vytvorenie interných knižníc odobrených zadani, ktoré minimalizujú pravdepodobnosť spustenia poistiek.
Záver a odporúčania
Bezpečnostné poistky v generatívnej AI vytvárajú asymetriu: útočníci aktívne využívajú neobmedzené lokálne modely alebo undergroundové AI služby, zatiaľ čo obrancovia sú zviazaní pravidlami komerčných platforiem. Pre zachovanie vysokej úrovne ochrany musia slovenské firmy prejsť na hybridné AI modely – kombinovať licencované cloudové API pre bežnú operatívu s lokálne hostovanou AI pre hĺbkový výskum zraniteľností.