AI modely přímo pro zaměstnance univerzity? Projekt vedený Miloslavem Konopíkem z Fakulty aplikovaných věd usiluje o vytvoření rozhraní, které umožní přístup ke generativním jazykovým modelům zaměstnancům univerzity – jednoduše, bezpečně a bez závislosti na externích službách.
Cílem projektu je vybudovat platformu, která zaměstnancům ZČU umožní snadné využívání pokročilých AI modelů pro každodenní práci – od návrhů textů po sumarizace nebo přepisování odborných podkladů. Vývojový tým nastavil prostředí založené na kontejnerech (Docker a Docker Compose), čímž vytvořil plně přenositelné a udržovatelné řešení. Klíčovými komponentami systému jsou knihovny RouteLLM a MoA, které zajišťují směrování dotazů a správu vícero AI modelů podle typu požadavku. Chatovací rozhraní Chat UI bylo připraveno k propojení s backendem a brzy projde testováním s reálnými uživatelskými dotazy.
— Ing. Miloslav Konopík, Ph.D.
Projekt v následujících týdnech projde laděním parametrů a evaluací kvality odpovědí. Výhodou navrženého řešení je jeho modularita – umožňuje snadno měnit používané AI modely nebo upravit způsob směrování dotazů podle potřeb konkrétního uživatele či oddělení. Finální verze bude představena v průběhu roku 2025 a otevře cestu k širšímu využití generativní AI přímo v rámci infrastruktury ZČU.
