Bezpečná AI adopcia začína dátovým poriadkom

Prečo pri zavádzaní AI nestačí riešiť nástroj a prompt. Praktický rámec pre dáta, prístupové práva, privacy a kontrolu výstupov.

Pri AI bezpečnosti sa firmy často zaseknú na otázke, či môžu používať konkrétny nástroj. Je ChatGPT povolený? Môžeme používať Claude? Máme ísť do enterprise licencie? Čo ak uniknú dáta?

Tieto otázky sú legitímne. Lenže samy o sebe nestačia. Hlbší problém je prístup k dátam. Kto vo firme má právo vidieť aké informácie? Prenášajú sa tieto práva aj do AI vrstvy? Vie si zamestnanec cez asistenta vypýtať niečo, k čomu by sa normálne nemal dostať?

Na Women in AI Prague zaznela z publika presná enterprise otázka: čo sa stane, keď sa ľudia začnú AI pýtať na plat CEO alebo informácie o kolegoch? To nie je problém šikovného alebo zlého promptu. To je problém dátovej architektúry, prístupových práv a pravidiel.

Prvá bezpečnostná otázka nie je výber modelu

Keď firma rieši AI, prvá praktická otázka by mala znieť: aké dáta bude tento use case potrebovať?

Až potom má zmysel riešiť nástroj. Ak má AI pomáhať s verejnými textami, riziko je iné ako pri interných HR dokumentoch, zákazníckych dátach, právnych podkladoch alebo finančných reportoch. Ak má iba čítať, je to iný režim ako keď má zapisovať, upravovať alebo posielať výstupy ďalej.

Bez tohto rozlíšenia sa AI bezpečnosť zmení na všeobecný strach. A všeobecný strach vedie buď k plošnému zákazu, alebo k tichému obchádzaniu pravidiel.

Ani jedno nie je dobré riadenie rizika.

AI zväčší problém, ktorý už vo firme existuje

Ak má firma neporiadok v dokumentoch, zdieľaniach a právach, AI ho pravdepodobne nezakryje. Skôr ho zviditeľní a zrýchli.

Pred AI sa človek k citlivým informáciám možno dostával ťažšie. Musel vedieť, kde hľadať. Musel preklikávať priečinky. Musel chápať názvy dokumentov. AI vrstva môže toto trenie odstrániť. Stačí otázka položená prirodzeným jazykom.

Preto sa v enterprise prostredí nedá hovoriť iba o tom, či je model bezpečný. Treba riešiť, čo model vidí. A pre koho.

Data classification, role-based access, auditovateľnosť, miesto spracovania dát a prenos práv z dokumentov do AI vrstvy nie sú nudné compliance témy. Pri firemnej AI sú to základné podmienky, aby sa use cases dali používať bez zbytočného rizika.

Enterprise AI je aj o právach a dátových vrstvách

V diskusii zaznel aj pohľad na Google Workspace a enterprise modely. Dôležité je vedieť, kde sa dáta spracúvajú, kde sú uložené a či sa existujúce prístupové práva premietajú do toho, čo AI vidí.

Toto je dobrý rámec pre každú firmu, nielen pre veľký korporát. Ak AI pracuje s dokumentmi, musí byť jasné, či rešpektuje rovnaké prístupové práva ako pôvodný systém. Ak sa napája cez API, musí byť jasné, či iba číta, alebo aj zapisuje. Ak generuje odporúčania, musí byť jasné, kto ich kontroluje pred použitím.

Inak sa bezpečnosť presunie z architektúry do zodpovednosti jednotlivca. A to je slabé miesto.

Read-only nestačí vždy, ale často je dobrý začiatok

V podkladoch k podcast studio dashboardu je napríklad spomenuté read-only napojenie na Reservio API. To je dobrá praktická skratka: ak workflow nepotrebuje zapisovať, nemal by mať právo zapisovať.

Podobne sa pri interných dashboardoch spomínajú Basic auth, security headers, premenné cez env a oddelené API routes. Nie sú to veľké slogany. Sú to konkrétne technické rozhodnutia, ktoré znižujú riziko.

Bezpečnosť pri AI často nebude stáť na jednom veľkom pravidle. Bude stáť na množstve menších rozhodnutí: čítať alebo zapisovať, kto má prístup, čo sa loguje, kde sú dáta, kto kontroluje výstup, čo sa nesmie posielať von.

Praktický 10-minútový audit use casu

Skôr než tím spustí nový AI workflow, stačí si prejsť päť otázok:

• Aké dáta workflow potrebuje?
• Sú tieto dáta citlivé?
• Kto k nim má mať prístup?
• Má AI iba čítať, alebo aj zapisovať?
• Kde človek kontroluje výstup pred použitím?

Ak tím nevie odpovedať, use case ešte nie je pripravený. Nie preto, že by bol zlý. Ale preto, že bezpečnostný rámec ešte nie je dostatočne jasný.

Nezabudnúť na autorské a reputačné riziká

V transcripte zaznelo aj upozornenie na autorské práva pri AI výstupoch, najmä pri obrázkoch a obsahu, ktorý ide von. To je ďalšia vrstva bezpečnosti. Firma nerieši iba únik dát. Rieši aj to, čo môže publikovať, čo si môže nárokovať a čo môže poškodiť reputáciu.

AI use case preto nie je iba produktivitný experiment. Je to rozhodnutie o dátach, právach, dôvere a zodpovednosti.

Ak firma túto vrstvu preskočí, možno spustí nástroj rýchlejšie. Ale neskôr bude opravovať škody v priestore, kde už rýchle opravy často neexistujú.