Czech Tech Talks je podcast zaměřený na technologie a byznys: sledujte nás na sítích a buďte v obraze!
Pod pokličkou #3: Hardwarové prostředky pro lokální AI dema
V tomto díle Pod pokličkou se společně s naším CTO Markem Rostem podíváme pod kapotu lokálního běhu velkých jazykových modelů a umělé inteligence bez připojení k internetu. Představíme si speciální notebook s grafikou NVIDIA RTX 5080 a 16 GB VRAM, který nám slouží jako přenosné demo prostředí. Kdy má smysl provozovat AI modely lokálně a kdy se naopak vyplatí sáhnout po cloudu? Porovnáme dvě cesty k lokální AI: Apple Silicon (Mac) s unifikovanou pamětí, která umí díky sdílené RAM načíst velké jazykové modely, ale za cenu nižší rychlosti a náš herní notebook s dedikovanou grafikou, který má jen 16 GB videopaměti, ale díky 4× až 10× vyššímu výkonu zvládne menší modely a reálné zpracování audia a videa na místě, bez kabelů a periferií. Projdeme si také dva hlavní use casey: jednak lokálního AI asistenta, který běží přímo na notebooku a pracuje s vektorovými databázemi, druhak zpracování audio a video záznamů v reálném čase. Představíme, jak zrychlíme zpracování z poměru 1:3 na plynulý reálný čas s možností 50–100 násobného výkonu oproti běžným kancelářským notebookům. Dozvíte se také, proč jsme vybrali výrobce Dream Machine, jakou roli hraje velikost videopaměti vs. operační paměti a šířka sběrnice, a nakonec i to, jak takové lokální řešení škálovat do celopodnikové infrastruktury s pomocí partnerů.
Pod pokličkou #2: n8n – Efektivní automatizace obsahu
V druhém díle Pod pokličkou se zaměřujeme na n8n – nástroj pro automatizaci procesů, konkrétně na efektivní automatizaci tvorby obsahu. Ukazujeme si, jak si vytvořit virtuálního asistenta, který přes WhatsApp přijímá hlasové i textové pokyny a sám automaticky generuje kompletní blogové články včetně příspěvků na sociální sítě. Odhalíme celý proces od zadání úkolu, přes tvorbu textu s kontrolou jeho kvality, až po přípravu příspěvků na LinkedIn, Instagram a Facebook včetně návrhů grafiky a hashtagů. Naučíte se, jak pomocí n8n propojit LLM s vašimi úložišti jako Nextcloud nebo Google Drive a vytvořit si tak vlastní AI marketingový tým, který pracuje 24/7.
Pod pokličkou #1: Chaterimo – Nejsnazší cesta k chatbotu
V prvním díle Pod pokličkou, naší nové rubriky, kde odkrýváme zákulisí technologických řešení a ukazujeme, jak čelit současným výzvám v IT, se dnes podíváme na nástroj Chaterimo – nejjednodušší způsob, jak na web nebo e-shop integrovat plnohodnotného AI chatbota. Ukazujeme si, jak se tento již hotový asistent dokáže sám bavit se zákazníky o celém sortimentu e-shopu, odpovídat na jejich dotazy a pomáhat s výběrem, a to vše na základě dat z produktových feedů, blogů nebo manuálů. Společně procházíme celý proces od výběru správného AI modelu a nastavení jeho chování až po přizpůsobení vzhledu a jednoklikovou integraci do vašeho e-shopového systému, jako je Shoptet, nebo na Facebook.