Pavol Adamka z odboru marketingu a komunikácie Eximbanky sa v komentári pre TREND.sk zamýšľa nad rizikami využívania umelej inteligencie v organizáciách a potrebou nastavenia jasných pravidiel, ktoré umožnia bezpečne využívať jej potenciál pri zachovaní kontroly nad citlivými údajmi a rozhodovacími procesmi.
Umelá inteligencia sa do práce organizácií dostala rýchlejšie než pravidlá pre jej používanie. Zamestnanci začali dostupné nástroje využívať pri písaní, analýzach či práci s dokumentmi často skôr, než firmy rozhodli, čo je povolené a čo nie. Otázkou preto už nie je, či sa AI vo firme používa, ale či má organizácia prehľad o tom, aké nástroje jej ľudia využívajú, s akými údajmi pracujú a kto zodpovedá za výsledok.
Práve strata tohto prehľadu patrí medzi najväčšie praktické riziká firemného využívania AI. Zamestnanec môže použiť kvalitný a dostupný nástroj, no organizácia nemusí vedieť, aké informácie doň vkladá, kde sa údaje spracúvajú alebo či je výsledok dostatočne spoľahlivý na ďalšie použitie. Pri firmách a inštitúciách pracujúcich s citlivými údajmi môže byť dôsledkom nielen chyba, ale aj bezpečnostný či reputačný problém.
Riešením pritom nie je jednoduchý zákaz. AI sa stáva bežným pracovným nástrojom a organizácie potrebujú vytvoriť prostredie, v ktorom ju zamestnanci môžu používať bezpečne. Základom je vedieť, ktoré nástroje sú povolené, na aký účel sa používajú, s akými údajmi môžu pracovať a kto za ich používanie zodpovedá.
Rovnako dôležitý je princíp ľudskej zodpovednosti. AI môže pripravovať podklady, sumarizovať informácie alebo pomáhať pri analýze, nemala by však vytvárať ilúziu, že za výsledok zodpovedá technológia. Ak výstup vstupuje do rozhodovania alebo smeruje mimo organizácie, musí byť overený človekom, ktorý za jeho obsah nesie zodpovednosť.
Podobný prístup zvolila aj Eximbanka, ktorá pracuje s citlivými informáciami o exportných kontraktoch, obchodných partneroch či finančnej situácii klientov. Skúsenosť z nastavovania vlastného systému ukázala, že pri zavádzaní AI treba mať jasno najmä v troch otázkach: ktoré nástroje možno používať, s akými údajmi môžu pracovať a kto zodpovedá za ich výstupy. Až kombinácia týchto troch prvkov dáva organizácii reálnu kontrolu nad používaním technológie. V Eximbanke preto jednotlivé systémy podliehajú evidencii a posúdeniu rizika a výstupy určené na ďalšie použitie alebo smerujúce mimo banky podliehajú kontrole zodpovedného zamestnanca.
Samotná smernica však v praxi nestačí. Ak organizácia považuje určitý spôsob práce s AI za neprijateľný, musí vedieť dodržiavanie pravidiel podporiť aj technicky. Inak zostáva kontrola odkázaná len na individuálnu disciplínu používateľov. Rozdiel medzi tým, keď je určitý postup zakázaný, a tým, keď ho systém technicky neumožní, môže byť pri ochrane citlivých údajov zásadný.
Rámec pre podobné nastavenie dnes ponúka aj európsky AI Act a medzinárodná norma ISO/IEC 42001. Regulácia stanovuje povinnosti a pracuje s úrovňami rizika, norma pomáha vytvoriť systém riadenia – od zodpovedností a hodnotenia rizík až po pravidelné preskúmanie. Neoddeliteľnou súčasťou zostáva vzdelávanie ľudí, pretože ani najlepšie pravidlá nepomôžu, ak zamestnanci nerozumejú tomu, prečo existujú. Dobré riadenie AI nemá technológii zatvárať dvere. Jeho úlohou je umožniť organizácii využívať ju vo väčšom rozsahu bez toho, aby zároveň strácala kontrolu nad svojimi údajmi, procesmi a rozhodnutiami.
Zdroj: TREND.sk