Můžou se naše citlivá data nahraná do AI dostat ven? Ano, ale možná jinak, než si myslíte. Tady jsem velmi stručně sepsal, co hrozí, co nehrozí a jak s riziky pracovat.
Přímo samotný AI chat vaše tajemství neprozradí.
Na jeho pozadí pracují velké jazykové modely (LLM). Ty fungují tak, že jakmile jednou prošly trénováním, dále se v jádru neučí a nerozvíjejí. Nemohou si tak informace od vás zapamatovat a vyzradit jinému uživateli.
Ono to může vypadat, že si o vás jazykový model leccos pamatuje. Realita je ale jiná: AI chat si na vás vede dokument s poznámkami a při každé nové konverzaci ho jazykovému modelu znovu musí celý předložit.
Pokud by ale tvůrci AI chatu vzali vámi vložená data a použili je pro doladění nebo vytvoření nové verze jazykového modelu, není zcela vyloučeno, že se data dostanou ven. Pravděpodobnost je sice velmi malá, ale i tak je dobré používat AI nástroje, které se na vašich datech neučí nebo kde to jde vypnout.
Riziko netvoří AI, ale cloud
Největší riziko představuje únik dat. To je dáno tím, že AI je cloudová služba a data tečou mimo vaši firmu a mimo vaši kontrolu. Čili toto riziko není dáno tím, že služba používá umělou inteligenci, ale tím, že běží v cloudu. Protože nemáte jak ověřit, jak s daty privizivatek zachází, je potřeba si vybírat firmy s dobrou reputací, které jsou schopny se zavázat přísnou smlouvou. Je důležité také používat nástroje, které jsou určeny pro firmy, protože mají mnohem propracovanější bezpečností postupy a zásady.
Objevují se i další, nová rizika typu prompt injection (útočník skryje do dokumentu nebo e-mailu instrukce, které AI omylem vykoná), nebo získání dat některým autoritářským režimem.
Co s tím?
Žádná technologie není bez rizika. Cílem je rizikům rozumět, umět je minimalizovat na úroveň, kterou budete ochotni akceptovat.l Sedujte proto nejnovější trendy, poslouchejte své IT oddělení a vzdělávejte se v kyberbezpečnosti.
🙋 Jsem inovátor na volné noze
- Pomáhám firmám s inovačními projekty.
- Učím lidi ve firmách AI a inovační dovednosti.
- Školím jednoduchým jazykem, zábavně a trpělivě.
- Tvořím videa, točím podcast a píšu blog.
Líbilo? Odebírejte můj newsletter 👇
Jestli se vám články líbí, rád vám každý čtvrtek pošlu přehled těch nových za předchozí týden: