← Všechny AI tipy
7 AI security mýtů, které znějí chytře, ale míří vedle
Sedm vět, které v debatě o bezpečnosti AI znějí zasvěceně a nesedí; rozdíl mezi „model je riziko" a „riziko je architektura kolem něj".
Účel
Sedm vět, které v debatě o bezpečnosti AI zaznívají pravidelně, znějí zasvěceně a nesedí. Základní teze: mluví se o „AI" jako o jedné magické krabici, přestože jde o několik oddělených komponent — model, inference, RAG, API, okolní infrastruktura. Z toho splynutí vznikají špatné otázky a na ně zavádějící odpovědi.
Sedm mýtů a jádro odpovědi na každý:
- „Lokální LLM může samo poslat data na internet." — „Bez síťového přístupu, bez nástrojů, bez volání API nebo jiné komponenty, která umí komunikovat ven, nemá mechanismus, kterým by data sám odeslal."
- „Naše enterprise AI zpracovává data úplně odděleně od ostatních zákazníků." — Vágní tvrzení. Je potřeba se doptat, jestli je oddělení fyzické, nebo logické: „Sdílený hardware ≠ sdílený kontext."
- „Dávkové zpracování znamená, že model může míchat data zákazníků." — Možný bug infrastruktury, ne vlastnost LLM: „Bug není feature a u AI platí stejná fyzika."
- „Halucinace může znamenat únik dat jiného zákazníka." — Halucinace není ten mechanismus: „Problém je, že selhala izolace."
- „Největší riziko AI je samotný model." — Riziko roste ve chvíli, kdy model dostane přístup k SharePointu, CRM, databázím nebo spouštění kódu: „Je to rozhodovací vrstva nad reálnými daty, schopnostmi a oprávněními."
- „Zero Data Retention znamená, že moje data nikde nejsou." — „Zero Data Retention ≠ Zero Data Processing." Data existují během inference; ZDR typicky znamená, že se po požadavku neukládají, a neříká nic o logách, metadatech ani navazujících službách.
- „Když AI používá naše firemní data přes RAG, model se je naučí." — „RAG ≠ training." Skutečná rizika leží v řízení přístupu, uložených embeddingech a zabezpečení retrievalu.