Umělá inteligence je už běžnou součástí práce na řadě úřadů, ministerstev, krajů, měst i dalších veřejných institucí. Pomáhá zrychlit administrativu, třídit dokumenty, vytěžovat údaje z faktur nebo připravovat podklady pro rozhodování. Ve veřejné správě ale platí víc než kde jinde, že technologie musejí být nejen užitečné, ale také bezpečné, transparentní a správně řízené.  

Aby umělá inteligence (AI) skutečně pomáhala, musí být zasazena do prostředí, kde člověk zůstává tím, kdo kontroluje, rozhoduje a nese odpovědnost. S rostoucím využíváním AI rostou i požadavky na její bezpečné a odpovědné zavádění. Organizace proto musí vedle přínosů nových technologií věnovat pozornost také jejich dopadům na bezpečnost, způsobu zpracování dat a nastavení interních procesů. 

Ještě před několika lety byla AI jen tématem odborných konferencí, dnes už se přesunula do každodenní praxe. Úřady pracují se stále větším množstvím dokumentů, žádostí, faktur, smluv i dat a zároveň čelí tlaku na rychlejší, jednodušší a dostupnější služby. Právě v tomto prostředí AI sehrává roli důležitého pomocníka. 

Nejde přitom o nahrazení úředníka. Smyslem je omezit rutinní práci, která zabírá čas a vytváří prostor pro chyby. Umělá inteligence dokáže připravit návrh dokumentu, předvyplnit údaje, upozornit na nejasnosti nebo pomoci s orientací v rozsáhlém textu. Člověk pak výsledek zkontroluje, případně upraví a rozhodne. 

Kde AI pomáhá nejvíce 

Největší přínos AI je tam, kde se opakují rutinní činnosti, zpracovává velké množství dat nebo kde je potřeba rychle vyhledávat a zpracovávat informace. Typickým příkladem je podatelna, která v mnoha organizacích představuje vstupní bod pro tisíce dokumentů ročně. Ty přicházejí z datových schránek, e-mailů, elektronických formulářů i v listinné podobě a je potřeba je správně zaevidovat, rozpoznat jejich obsah, zařadit do příslušné agendy a předat k dalšímu zpracování. AI zde může pomoci například s automatickou klasifikací dokumentů, rozpoznáním klíčových údajů nebo návrhem dalšího postupu. 

Významnou roli sehrává umělá inteligence také v oblasti účetnictví. Při zpracování faktur a účtenek dokáže automaticky vytěžit důležité údaje, jako jsou dodavatel, částka, datum, variabilní symbol nebo číslo účtu, převést je do strukturované podoby a připravit je pro další zpracování v účetním systému. Účetní se tak nemusí věnovat opakovanému ručnímu přepisování údajů a může se více soustředit na věcnou správnost, schvalovací procesy a kontrolní činnosti. 

Stále větší uplatnění nachází AI i při práci s textovými dokumenty a rozsáhlými informačními zdroji. Úřady denně pracují se smlouvami, rozhodnutími, stanovisky, metodikami nebo interními předpisy. Umělá inteligence může pomoci rychleji vyhledat relevantní informace, připravit shrnutí dokumentů, upozornit na nestandardní ustanovení nebo usnadnit orientaci v rozsáhlém množství podkladů. Díky tomu se pracovníci mohou více věnovat činnostem, kde je nezastupitelný jejich odborný úsudek a rozhodování. 

AI jako součást systému 

Ve veřejné správě je důležité, aby AI nebyla izolovaným nástrojem mimo hlavní informační systémy organizace. Pokud musí uživatel manuálně přenášet data mezi různými aplikacemi nebo kopírovat dokumenty do externích služeb, snižuje se efektivita práce a vznikají nová rizika spojená s?bezpečností nebo porušením zásad ochrany citlivých informací. 

Největší přínos má proto AI, která je přirozeně propojena s prostředím, ve kterém úředníci pracují. Tento princip rozvíjí i platforma GINIS od společnosti Gordic, která je nejvyužívanějším informačním systémem ve veřejné správě v České republice. Díky dlouhodobým zkušenostem z tohoto prostředí a znalosti konkrétních agend umožňuje zapojovat umělou inteligenci přímo do pracovních procesů, kde uživatelům pomáhá zjednodušit postupy a zefektivnit výkon jednotlivých agend. Kromě uvedených příkladů využití zde AI zajišťuje i technickou podporu úředníkům při práci s informačním systémem. 

Přínosy vs. rizika AI  

Využívání umělé inteligence ale přináší i nová rizika, která musí organizace aktivně řídit. AI může pracovat s neúplnými nebo chybnými daty, vytvářet nepřesné návrhy nebo poskytovat výsledky, jejichž správnost není na první pohled zřejmá. Výzvou je také transparentnost fungování AI systémů, ochrana citlivých údajů a zajištění toho, aby zpracovávaná data a citlivé údaje zůstaly pod kontrolou organizace. 

Právě proto evropská i česká legislativa kladou při využívání umělé inteligence důraz na systematické řízení rizik. Organizace by měly mít jasno v tom, jaké technologie využívají, s jakými daty pracují, jaká rizika mohou vzniknout a jaká opatření je potřeba přijmout. Důvěra v bezpečné a odpovědné využívání technologií je stejně důležitá jako samotná rychlost a efektivita.  

AI Act, NIS2 a ISO 

Požadavek na systematické řízení rizik se promítá do klíčových evropských a národních pravidel, která upravují bezpečné využívání digitálních technologií. Evropský AI Act, směrnice NIS2 i standardy ISO/IEC 27001 vycházejí ze stejného principu – organizace musí rozumět používaným technologiím, znát související rizika a přijímat odpovídající opatření. 

Evropský AI Act, který klade důraz zejména na bezpečné a odpovědné využívání umělé inteligence, včetně požadavků na transparentnost, dokumentaci, dohled a řízení rizik podle způsobu využití konkrétního AI řešení, principiálně navazuje na požadavky v oblasti kybernetické bezpečnosti vycházející ze směrnice NIS2 nebo standardů ISO/IEC 27001. 

Zavádění AI proto není pouze technologickým projektem. Organizace potřebují mít přehled o tom, kde a jak AI využívají, jaká data tato technologie zpracovává, v jakých systémech funguje, kdo za její využití odpovídá a jaká rizika mohou při jejím nasazení vzniknout. Právě systematická analýza a řízení rizik představují základ pro bezpečné využívání umělé inteligence i pro plnění souvisejících regulatorních požadavků. 

Bezpečnost jako základ pro řízené využívání AI 

Každé zavádění AI by mělo být podloženo systematickým řízením rizik. To předpokládá mít přehled o všech aktivech a používaných technologiích, možných hrozbách vyplývajících z?jejich používaní, přijatých opatřeních ke snížení rizik i schopnost tato rizika průběžně vyhodnocovat. 

Na trhu dnes existují specializované nástroje, které organizacím pomáhají zvládnout řízení rizik jednoduše, systematicky a v souladu s legislativními požadavky. Jedním z nich je nástroj CSA (Cyber Security Audit) od společnosti Gordic, který získal certifikaci v souladu se zákonem o kybernetické bezpečnosti (ZoKB) od nezávislé auditorské společnosti TAYLLORCOX. Aplikace CSA nabízí uživatelsky přívětivé prostředí a umožňuje zpracovat analýzu rizik a řídit související procesy kybernetické bezpečnosti z?jediného místa. 

CSA organizacím pomáhá s evidencí a hodnocením aktiv, identifikací hrozeb a zranitelností, posouzením kybernetických rizik, vyhodnocením jejich dopadů i návrhem odpovídajících bezpečnostních opatření. Umožňuje také plánovat jejich realizaci, průběžně pracovat s?aktuálními hrozbami a vytvářet podklady pro další rozhodování. Pro organizace veřejné správy může být CSA praktickou podporou zejména ve chvíli, kdy zvažují využití umělé inteligence nebo zavádějí nové digitální technologie.  

CSA tak propojuje technologický rozvoj a odpovědné řízení bezpečnosti. Organizacím umožňuje získat potřebný přehled o dopadech nových technologií na jejich bezpečnostní prostředí a vytvářet pevný základ pro jejich bezpečné a kontrolované využívání. 

Bezpečná AI pro veřejnou správu 

Umělá inteligence může organizacím ve veřejné správě pomoci zefektivnit práci úředníků, zrychlit poskytování služeb občanům a nabídnout lepší podklady pro rozhodování. Její skutečný přínos ale závisí na tom, zda bude využívána v prostředí, které má nastavená pravidla, jasně definované odpovědnosti a systematicky řízená rizika. 

Budoucnost veřejné správy proto nebude jen o rozsahu využití umělé inteligence, ale především o schopnosti propojit technologický rozvoj s bezpečností, odpovědností a důvěrou. Právě kvalitní řízení rizik bude jedním z klíčových předpokladů, aby se AI stala spolehlivým nástrojem pro moderní veřejnou správu.