AI Security 2026: Bezpečný vývoj s AI agenty
Konference DataScriptu
Celodenní odborná akce, která propojuje několik praktických pohledů na jedno aktuální technologické téma a nabízí prostor pro sdílení zkušeností i setkávání komunity.
Proč se přijít podívat?
Uvidíte, co se změní, když se z AI asistenta stane autonomní vývojový agent.
Odnesete si principy Zero Trust pro bezpečné nasazení AI agentů v reálném prostředí.
Pochopíte, jak má vypadat bezpečná AI software factory s jasnými pravidly, testy a kontrolou autonomie.
Zjistíte, jak odhalovat Shadow AI ve firmě dřív, než se z něj stane bezpečnostní incident.
Program
08:00–09:00
Snídaně
09:00–10:00
AI observability a security v praxi: vlastní tooling a lessons learned z nasazení v regulovaném prostředí
10:00–10:30
Přestávka
10:30–11:30
Od copilota k autonomnímu agentovi: co se změní, když AI přestane čekat na váš prompt
11:30–12:30
Oběd
12:30–13:30
Jak nasadit AI agenty a nestřelit se při tom do nohy
13:30–14:00
Přestávka
14:00–15:00
Od coding asistenta k autonomní software factory
15:00–15:30
přestávka
15:30–16:30
Shadow AI discovery, detekce a incident response
09:00 – 10:00
AI observability a security v praxi: vlastní tooling a lessons learned z nasazení v regulovaném prostředí
Debata o AI se ve většině firem točí kolem toho, kterého asistenta nasadit a který model zrovna vede. Skutečný problém ale začíná ve chvíli, kdy ho už používají všichni. U ~300 vývojářů a analytiků přestává být AI pilotem, který máte pod kontrolou. Jsou to prompty, secrets a tool calls, které každou minutu opouštějí firmu. Potenciální únik dat, chybějící audit trail, prompt injection útoky a supply chain, který nikdo nerevidoval. Výběr modelu z toho nic neřeší. AI, na kterou nikdo nevidí, se dřív nebo později prodraží, ať už únikem dat, nebo incidentem.
Přednáška spojuje praktickou zkušenost s technickou realitou stavby téhle vrstvy v regulovaném prostředí: co jsme nasadili a co jsme si museli napsat sami.
AI governance a řízení rizik - kdo používá AI, s jakými daty a přes jaký nástroj; vynutitelná acceptable use policy, RBAC a retence dat, kterou vám uzná auditor.
Secrets, credentials a citlivá data - detekce a maskování PII a secrets v promptech, odpovědích a tool calls, napojené na sensitivity labels z Microsoft Purview; rizikové nálezy tečou do Microsoft Sentinelu.
Prompt injection a content scanning - třístupňový model detekce: ML classifiers na všechno, LLM-as-a-judge na to, co se vyhodnotí jako riziko, a člověk jen na kritické incidenty.
MCP, pluginy, konektory a AI supply chain - každý MCP server, plugin a konektor je vrstva, kterou nikdo nereviduje. Trasujte, co AI vyrobila („AI Bill of Materials").
Reálné incidenty a lessons learned - nedávný supply-chain útok přes PyTorch Lightning AI: jak se projevil, co náš tooling zachytil, co mu uniklo a co jsme změnili.
Jakub Rohovský
CTO
Jakub Rohovský je spoluzakladatel a CTO společnosti Noibit. Vede interní AI research a věnuje se tomu, co musí firma zvládnout, aby AI reálně používala, aniž by ztratila kontrolu nad bezpečností a compliance. Má více než 15 let zkušeností v oboru, pohybuje se na pomezí Offensive Security, Cloud Architecture a AI adopce a řeší, jak řídit riziko, data i autonomii vývojářů tak, aby technologie obstála v regulovaném prostředí.
Governance AI pro něj není o zakazování nástrojů. AI nástroje bere jako skutečnost, ať už schválenou, nebo skrytou. Skutečná práce je udělat to používání viditelné, auditovatelné a bezpečné, a to pro firmu i pro vývojáře.
10:30 – 11:30
Od copilota k autonomnímu agentovi: co se změní, když AI přestane čekat na váš prompt
Většina vývojářů dneska používá AI jako chytřejší autocomplete. Napíšete prompt, dostanete kód, zkontrolujete, commitnete. To funguje. Ale co když chcete jít dál? Co když chcete, aby agent pracoval sám, vybíral si úkoly, implementoval změny, procházel review procesem a reagoval na zpětnou vazbu? Bez toho, aby mu někdo stál za zády?
Přesně tohle jsme zkusili. A ukázalo se, že rozdíl mezi copilotem a autonomním agentem není v kvalitě modelu. Je ve všem okolo. Kontejnery, CI, správa secrets, síťová izolace, stavový management — nic z toho není nové. Používáme to roky. Nové je, jak to celé slepit dohromady tak, aby uprostřed mohl fungovat agent, kterému nemusíte důvěřovat.
Agentovi se nedá věřit - žádný system prompt ho nezabezpečí. Prompt injection není teoretická hrozba, je to problém, se kterým musíte počítat. Vždycky se dá najít cesta kolem instrukcí. Proto bezpečnost nemůže být v promptu — musí být v infrastruktuře. Tu agent přemluvit nemůže.
Stav přežívá agenta - autonomní agent nemá kontext mezi běhy. Musíte vyřešit, kde žije stav, jak se obnoví po selhání a jak agent ví, kde minule skončil.
Feedback loop místo one-shotu - skutečná hodnota přichází, když agent reaguje na code review, opravuje CI a učí se z toho. Jednorázové generování kódu je jen začátek.
Škálování není kopírování - když to funguje pro jeden tým, neznamená to, že přidáte druhý tým a pojede to. Sdílená infrastruktura, izolace kontextů a různé projekty přinášejí vlastní problémy.
Na konkrétním projektu ukážu cestu od "zkusíme to" po systém, který běží v produkci na OpenShift — a co jsme se cestou naučili o tom, kde AI generuje hodnotu a kde jen generuje náklady.
Martin Maroši
Principal software engineer
Martin Maroši je principal software engineer v Red Hatu v Brně, kde pracuje na Hybrid Cloud Console, platformě pro správu cloudových služeb Red Hat. Většinu kariéry strávil ve frontendu. React, webpack, design systémy a postupně se propracoval k infrastruktuře a developer toolingu. K AI se dostal ne jako researcher nebo data scientist, ale jako vývojář, který hledal způsob, jak automatizovat práci, kterou nikdo nechce dělat. Výsledkem je Řehoř, autonomní dev bot, který denně pracuje s produkčním kódem. Člověk ho neřídí, ale má poslední slovo.
12:30 – 13:30
Jak nasadit AI agenty a nestřelit se při tom do nohy
Tato přednáška vám ukáže, že autonomní agenti nemusí být bezpečnostní hrozbou, pokud k jejich návrhu od začátku přistoupíme s principy nulové důvěry (Zero Trust). Odnesete si konkrétní koncepty, které vám umožní pustit AI agenty do reálné produkce s čistým svědomím.
Typologie použití jako základ bezpečnosti – Jak styl fungování agenta a potenciální business dopad přímo definují technické požadavky na zabezpečení a míru lidského dohledu.
Paradox zranitelnosti – Proč jsou LLM agenti náchylnější na manipulaci než lidé a jak se proti tomu bránit na úrovni systémového designu.
Koncept delegované identity – Jak vyřešit to, aby agent jednal pouze v rámci striktně vymezeného průniku svých oprávnění a práv přihlášeného uživatele.
Lidský dohled za běhu (JIT Consent) – Jak navrhnout mechanismus, který pozastaví běžící autonomní workflow při rizikové operaci a vyžádá si autorizované schválení uživatelem.
Observability bez úniku dat – Jak efektivně trasovat a logovat rozhodovací procesy agentů pro potřeby auditu a jak vyřešit maskování citlivých údajů v promptech
Rozebereme si, jak koncepčně vyřešit autorizaci a propagaci identit, aby měl agent k dispozici vždy jen bezpečný průnik práv přihlášeného uživatele, své vlastní role a politik cílového systému. Probereme návrh mechanismů pro Just-In-Time schvalování rizikových operací a ukážeme si, jak trasovat a logovat „myšlenkové pochody“ agentů napříč infrastrukturou, aniž bychom v logách ukládali citlivá data.
Tomáš Barczi
AI Methodology Lead
Tomáš kombinuje rozsáhlé zkušenosti z vědeckého výzkumu s praktickou aplikací umělé inteligence. Během své akademické kariéry působil na prestižních institucích v České republice i v zahraničí, včetně Norska, Francie, Rakouska a Spojených států, kde se věnoval matematickému modelování, například katalytických reaktorů nebo chaotických systémů. Dnes zastává pozici AI Methodology Lead, v níž strategicky řídí a zajišťuje optimální technická řešení napříč všemi interními AI projekty.
14:00 – 15:00
Od coding asistenta k autonomní software factory
Cílem je bezpečná software factory — prostředí, kde agent nedělá náhodné změny podle promptu, ale pracuje jako řízená vývojová jednotka: pochopí úkol, připraví plán, upraví kód, spustí validace, opraví chyby a doloží, proč je změna připravená k review.
Zadání a kontext aplikace — agent potřebuje specku, acceptance criteria, architektonický kontext, ADR, dokumentaci, PR historii a známé výjimky. Bez toho neví, proč systém vypadá tak, jak vypadá, a snadno opraví symptom místo skutečného problému.
Připravené vývojové prostředí — agent musí mít vlastní branch, sandbox, omezený shell, ephemerální credentials a způsob, jak aplikaci spustit. Potřebuje lokální služby, testovací data, mocky nebo ephemeral environment. Bez běžícího prostředí jen hádá nad kódem.
Testy a validace jako součást práce — agent musí mít přístup k unit, integration, contract, E2E i security testům podle typu změny. Nestačí vygenerovat diff. Musí prokázat, že změna funguje, nerozbila regresi a pokrývá rizika ze zadání.
Feedback loop pro iteraci — největší hodnota agenta není první návrh kódu, ale schopnost iterovat: spustit testy, přečíst chybu, pochopit příčinu, opravit řešení a validaci zopakovat. Bez rychlé zpětné vazby je agent jen generátor změn, ne vývojářská jednotka.
Autonomie řízená dopadem — malé změny s nízkým rizikem může agent dokončit sám. Změny business logiky, API nebo větší diff jdou přes QA či senior review. Migrace, auth, permissions, CI/CD, infrastruktura a produkční data vyžadují architekta, security nebo vlastníka systému.
Budoucnost vývoje s AI nebude o tom, že agent napíše kus kódu. Bude o tom, kdo mu dokáže připravit prostředí, ve kterém může bezpečně stavět, testovat, učit se ze zpětné vazby a dodávat změny s důkazy kvality.
David Bečvařík
CTO
David Bečvařík je CTO ve společnosti Etnetera, kde se věnuje tomu, jak z AI udělat produkční infrastrukturu s reálným byznysovým dopadem. Pohybuje se na pomezí architektury, backendových systémů a agentních workflow a řeší, jak řídit riziko, náklady i míru autonomie tak, aby technologie dávala ekonomický smysl.
AI pro něj není experiment ani marketingová vrstva nad starými procesy. Vnímá ji jako nástroj ke zrychlení delivery, zvýšení produktivity týmů a lepšímu škálování firmy. Zaměřuje se na to, jak propojit technickou robustnost s tlakem na P&L a dlouhodobou konkurenceschopnost.
15:30 – 16:30
Shadow AI discovery, detekce a incident response
Zaměstnanci dnes nasazují AI nástroje bez vědomí IT a security týmů — coding agenty, IDE pluginy, MCP servery, SaaS integrace s LLM nebo browser extensions s přístupem k firemnímu kódu a datům. Shadow AI se stává novým shadow IT, jen s rychlejší adopcí a závažnějšími dopady na bezpečnost firemních dat.
V přednášce ukážu praktické přístupy k discovery, detekci a response na AI-related incidenty. Nejprve jak pomocí EDR telemetrie, síťových logů a OAuth app review zjistit, co ve vašem prostředí běží a jaká data mají tyto nástroje k dispozici. Pak jak vystavět detekční logiku pro konkrétní scénáře — exfiltrace firemního kódu do externího LLM, MCP server nebo plugin s širšími oprávněními než je nutné, zneužití AI agenta s přístupem k produkčním systémům, nebo prompt injection útok přes nedůvěryhodný kontext.
Třetí část pokryje incident response specifika pro AI incidenty: jak dohledat, co agent skutečně vykonal, jak rekonstruovat jeho akce z dostupných logů, kde jsou slepá místa v auditovatelnosti dnešních AI nástrojů, a jak tyto incidenty triage-ovat a eskalovat.
Jakub Pavlík
Head of Engineering
Jakub Pavlík je spoluzakladatel a Head of Engineering ve společnosti Exaforce. Dříve spoluzaložil TCP Cloud (akvizice Mirantis) a působil jako Director of Engineering ve Volterra (akvizice F5), kde vedl globální týmy DevOps, SRE a Security Operations pro platformu F5 Distributed Cloud. Má více než 15 let zkušeností s budováním cloudových platforem, provozem kritické infrastruktury a kybernetickou bezpečností.
Storno podmínky
Registrace na konferenci je závazná a její storno je možné "bezplatně" pouze písemnou formou prostřednictvím e-mailu a to nejpozději 14 kalendářních dní před zahájením konference.
Odstoupí-li/stornuje-li účastník konference registraci v termínu kratším než 14 kalendářních dní před zahájením konference, vyhrazuje si organizátor vůči účastníkovi právo na zaplacení storno poplatku v plné výši hodnoty vstupenky.
Děkujeme za pochopení
Registrací na tuto akci udělujete souhlas společnosti DataScript s.r.o., sídlem Karolinská 661/4, 186 00 Praha 8, IČO 46577459 (dále jen „společnost“), a to pro pořizování audiovizuálních záznamů za účelem prezentace činnosti společnosti na webových stránkách a sociálních sítích společnosti. Souhlas je udělen na dobu 3 let. Svůj souhlas máte právo kdykoli odvolat, a to písemně na emailové adrese info@datascript.cz či jiným vhodným způsobem. Další informace o zpracování osobních údajů naleznete na webu https://www.moore-czech.cz/ochrana-osobnich-udaju/