Tvorba aplikací využívajících GenAI (LLM) v Pythonu

​Morning Talk DataScriptu Bezplatné hodinové online setkání s odborníkem z praxe. Nabídne soustředěný pohled na jedno aktuální téma a prostor pro dotazy.

​Na co se můžete těšit:

​Na tomto talku se seznámíme se základními koncepty, které je možné využít pro tvorbu nástrojů a aplikací, které využívají generativní AI (GenAI). Popíšeme si význam vektorizace textu, embedded modelů i RAG databází. V praktické části si ukážeme, jakým způsobem lze propojit LLM (velký jazykový model) s RAG databází k vytvoření "chatu" s potřebnými znalostmi. Pro implementaci bude použit jazyk Python a framework Langchain.

• ​Vlastnosti LLM

• ​OpenAI a další standardizovaná API

• ​použití frameworku Langchain pro tvorbu aplikací využívajících GenAI

• ​Framework Llama Stack

• ​RAG (Retrieval-augmented generation)

• ​Tokenizace textu, tvorba embedded modelů (vektorizace)

• ​Vyhledávání založené na podobnosti vektorů (vector similarity seach)

• ​PgVector

• ​FAISS

• ​Evaluace GenAI aplikací

​Prezentující: Pavel Tišnovský (Principal SW Engineer and tech lead at RedHat)

​Pavel vystudoval VUT FIT a v současné době pracuje ve společnosti Red Hat, kde vyvíjí nástroje a mikroslužby pro OpenShift. V současnosti používá převážně programovací jazyky Go a Python v odůvodněných případech i Javu, Python, BASH či ANSI C. Pro soukromé projekty preferuje Clojure nebo z druhé strany spektra assembler.