Bezpečnost podnikového LLM neurčuje logo dodavatele ani země původu modelu.

Rozhoduje, co skutečně provozujeme, kde se zpracovávají naše data, k čemu má model přístup a jaké škody může způsobit. Modely vybírejme podle jejich skutečných schopností, ověřitelných bezpečnostních vlastností a zbytkového rizika.

Nasazení umělé inteligence se dnes zpravidla hodnotí podle toho, co organizaci přináší, kolik času ušetří, kolik činností automatizuje, jak sníží náklady nebo o kolik zvýší produktivitu.

To jsou jistě důležité ukazatele, avšak vypovídají především o tom, jak organizace funguje za předpokladu, že AI funguje správně. Ovšem stejně důležitá je otázka, co se s organizací stane, když AI přestane fungovat tak, jak očekává. Organizace může být po zavedení AI sice výrazně efektivnější, ale zároveň méně odolná. A právě tento rozdíl nabývá s rostoucí závislostí na AI na významu.

Nařízení EU o horizontálních požadavcích na kybernetickou bezpečnost produktů s digitálními prvky, též známé jako Evropský zákon o kybernetické odolnosti (Cyber Resilience Act, zkr. CRA), vstoupilo v platnost 10. prosince 2024 a v plném rozsahu se použije od 11. prosince 2027.

Některé povinnosti se však začnou uplatňovat dříve, zejména oznamovací povinnosti podle článku 14 od 11. září 2026.

V asymetrické kryptografii se obvykle rozlišují dva základní účely. Prvním je zajištění autenticity a integrity dat, typicky prostřednictvím elektronického podpisu. Druhým je bezpečné ustanovení sdíleného tajemství mezi dvěma stranami, které se dosud na žádném společném klíči nedomluvily, avšak potřebují následně chránit svou komunikaci symetrickým šifrováním.

Právě tento druhý účel je pro praktické fungování dnešního internetu zásadní.

Propojení byznysu, legislativních požadavků a technické reality je jednou z největších výzev pro architekty a manažery bezpečnosti v bankovním sektoru.

Situaci komplikuje fakt, že evropská směrnice NIS2 (v ČR implementovaná novým zákonem o kybernetické bezpečnosti) a nařízení DORA používají odlišnou (a právnicky definovanou) terminologii než zavedené standardy řady ISO 27000, enterprise architektura nebo interní procesní model banky.

V kvantitativním hodnocení kybernetických rizik často začínáme velmi prostou otázkou: jak často může daná událost nastat?

Jinými slovy potřebujeme stanovit roční frekvenci výskytu události (annualized rate of occurrence, zkr. ARO) nebo také frekvenci ztrátové události (loss event frequency, zkr. LEF), kterou pak násobíme očekávanou ztrátou při jedné události (single loss expectancy, zkr. SLE), abychom získali roční očekávanou ztrátu (annualized loss expectancy, zkr. ALE). A tady začíná problém.

Od reakcie na udalosti k prediktívnemu bezpečnostnému monitoringu

Analytik SOC sedí pred obrazovkou a SIEM mu práve zobrazil červený alert. Nastala korelácia udalostí, ktorá naznačuje incident. Napríklad sa niekto neoprávnene dostal tam, kam nemal. Monitorovací systém urobil presne to, na čo bol postavený – upozornil na útok vo chvíli, keď už prebiehal, alebo tesne po tom, čo skončil. Otázka, ktorá by mala analytika zaujímať oveľa viac, znie inak: mohol to systém vedieť skôr?

Norma ISO/IEC 27001 v článku 6.1.2 požaduje, aby proces hodnocení rizik produkoval konzistentní, validní a srovnatelné výsledky. ISO/IEC 27005 pak v informativní části upozorňuje, že provádění matematických operací nad čísly, která jsou ve skutečnosti pouze kódy kvalitativního hodnocení, může být metodicky neplatné.

Výklad není tak jednoduchý, jak by se na první pohled mohlo zdát. Risk matice sama o sobě nemusí být automaticky neshodou.

Jelikož ty zatracené matice rizik stále nedávají některým z vás spát, tak se k nim opět na chvíli vrátíme.

Mnozí z vás se totiž celkem logicky ptají: „Dobře, když je problém v tom, že se v klasické matici rizik nesmí sčítat nebo násobit ordinální hodnoty, tak je prostě nahradíme kardinálními reprezentanty a problém je vyřešen, ne?“

Používají ji všichni a tak ani my nemůžeme zůstat mimo, pomyslí si nejeden CEO, protože přeci kdo chvíli stál, za chvíli stojí opodál.

Jasně, jenže pak zjistíme, že největší problém není, zda vůbec AI začít používat, ale kde a jak nastavit pravidla. Protože AI se dá nasadit skoro kdekoliv. Otázka ovšem je, co to udělá s firmou, když ji nacpeme i tam, kde se vůbec, ale vůbec nehodí. A přesně tady to začíná.