Scénář, který slýcháme čím dál častěji. Ve firmě někdo objeví, že mu AI dokáže shrnout smlouvu za pár vteřin. Nadšeně to ukáže kolegům a během měsíce polovina kanceláře nahrává do chatu firemní dokumenty. Pak se někdo zeptá, kde ty dokumenty vlastně skončily, a v místnosti nastane ticho.
Není to otázka paranoie. U řady profesí jde o povinnost danou zákonem nebo profesní etikou.
Kde končí data u běžné cloudové AI
Když použijete běžnou AI službu, váš text putuje na servery poskytovatele, obvykle mimo Evropskou unii. Co se s ním děje dál, se liší podle typu účtu a nastavení. Zjednodušeně platí, že firemní tarify bývají na papíře přísnější než ty osobní, ale i tak data fyzicky opouštějí vaši firmu a spoléháte na smluvní ujednání, ne na technickou nemožnost.
U marketingového textu to nikdo neřeší. U klientské smlouvy, zdravotní dokumentace nebo cenové kalkulace to začíná být jiná debata.
Co znamená, že AI běží lokálně
Lokální AI je jazykový model, který běží na počítači ve vaší kanceláři nebo serverovně. Dotazy i dokumenty zůstávají uvnitř vaší sítě a ven neodchází nic. Prakticky to vypadá stejně jako běžný AI chat, jen adresa, na kterou se váš tým připojuje, patří vám.
Rozdíl je i v ekonomice. U cloudových služeb platíte měsíčně za každého uživatele, takže náklady rostou s tím, jak řešení ve firmě zdomácní. U lokálního řešení zaplatíte jednou za hardware a nasazení a pak už jen za správu, bez ohledu na to, kolik lidí ho používá.
Na co si dát pozorLokální modely bývají o něco pomalejší a u okrajových úloh slabší než ty největší cloudové. Pro běžnou firemní práci, tedy shrnování, vyhledávání v dokumentech, přípravu textů a odpovědi z interních podkladů, to ale rozdíl nedělá.
Pro koho to dává smysl
- Advokátní kanceláře. Advokátní tajemství není doporučení, ale povinnost. Rozbor smlouvy na cizím serveru je téma na dlouhou debatu s dozorovým orgánem.
- Zdravotnická zařízení. Pacientská data mají zvláštní režim a odpovědnost za ně nejde přenést na poskytovatele služby v zámoří.
- Účetní a daňoví poradci. Pracují s finančními údaji desítek firem najednou, takže jeden únik zasáhne celé portfolio klientů.
- Firmy s vlastním know-how. Výrobní postupy, kalkulace a receptury jsou často to nejcennější, co firma má.
- Firmy s velkým týmem. Tady rozhoduje spíš ekonomika. Od určitého počtu lidí vyjde vlastní řešení levněji než měsíční poplatky za každého.
Co to obnáší
Buďme konkrétní, protože tady se marketing často vyhýbá odpovědi. Vlastní firemní AI znamená pořídit hardware, nasadit model, napojit ho na vaše dokumenty a systémy a pak se o to starat. Je to investice v řádu stovek tisíc, ne měsíční předplatné za pár set korun.
Ta investice se vrací dvěma způsoby. Jednak odpadají poplatky za uživatele, které u většího týmu během tří let dorostou do podobných částek. Jednak získáte možnost pustit AI k datům, ke kterým byste ji v cloudu pustit nemohli, takže ji používáte tam, kde by jinak nepřipadala v úvahu.
Kdy lokální AI naopak nepotřebujete
Pokud jste tři lidé, pracujete s běžnou agendou bez citlivých údajů a AI používáte hlavně na texty a nápady, je vlastní řešení zbytečně velké sousto. V takovém případě dává větší smysl začít u konkrétních automatizací, které vám ušetří ruční práci, a otázku vlastní AI odložit na dobu, kdy pro ni budete mít skutečný důvod.
To je mimochodem doporučení, které dáváme docela často. Vstupní analýza má mimo jiné za úkol tohle odhalit dřív, než se do projektu pustíte.