Rozjíždíme AI lokálně.

Komerční AI modely jsou jako letadla.
Někdy je ale lepší jet vlakem.

Přidej se na Discord O projektu →
ollama 
$ ollama run llama3.2
pulling manifest  done
pulling 966de95ca8a6  87% ████████░░
verifying sha256  ok
>>> Běžíš u mě na stroji?
vllm 
$ vllm serve mistral-7b
INFO Running vLLM engine
INFO Loaded parameters  4.2s
INFO Route /v1/chat ready
INFO Listening at :8000
transformers.py 
from transformers import pipeline

pipe = pipeline(
    "text-generation",
    model="gemma-4-E4B-it",
    device="cuda"
)
llama.cpp 
$ ./llama-cli -m qwen3-8b.gguf
   -p "Vysvětli, co je RAG"
model_loader  GGUF v3
load_tensors  done 2.45s
> RAG přidává externí zdroje…

AI modely, to není jen ChatGPT, Claude nebo Gemini.

Otevřených AI modelů je už pěkná řádka. Jsou zdarma, jsou čím dál schopnější a jde je provozovat "na vlastním železe" – klidně i osobním počítači.

Platforma lokální.ai vznikla, aby přiblížila svět otevřených AI modelů českým firmám i veřejnosti.

Firemní AI aplikace postavené na otevřených jazykových modelech jsou dlouhodobě udržitelné. Zaručují soukromí zpracovaných dat a umožňují snížit finanční náklady.

  • Zajímá vás, jak zprovoznit AI lokálně ve vaší firmě? Pojďme si spolu promluvit!

Studentům, učitelům i veřejnosti umožňují lokální modely proniknout do světa AI a vyzkoušet si principy této technologie na vlastní kůži.

  • Rádi byste se naučili pracovat s lokálními AI modely? Sledujte kalendář akcí.

Chcete se zapojit do diskuze nebo zatím jen zůstat v obraze? Přidejte se na Discord a sledujte newsletter!

Pojďme dát českému kutilství prostor i v době AI!

Z blogu

Názory, novinky, a pokusy s lokální AI. Psáno člověkem™

~/blog/úvod

Proč vůbec běhat model lokálně?

Cloud je pohodlný, dokud nezačnete počítat, kam tečou vaše data a kolik stojí každý token. Tři důvody, proč si někteří z nás stáhli modely k sobě domů.

6 min čtení
Všechny články →

Kalendář akcí

Veřejná setkání nad lokálními AI modely – přednášky, meetupy, workshopy.

TERMÍN AKCE TYP

Momentálně nejsou vypsané žádné akce.

Sleduj termíny na Discordu

Zůstaňme v kontaktu

Ať už se chcete naučit rozběhat AI lokálně nebo jen nezávazně zkonzultovat případnou spolupráci – ozvěte se! Cení se i pomoc s propagací nebo organizací akcí.

Napsat můžete přímo na info@lokalni.ai nebo vyplnit následující formulář.

Kdo za tím stojí

— Zdeněk Kasner

Jazykovými "AI" modely jsem se zabýval na MFF UK ještě před tím, než začlo být běžné za jejich používání platit velkým korporacím.

Projekt lokální.ai jsem založil, protože chci ukazovat, že to jde i jinak. Skrz blog, workshopy a konzultace učím lidi prakticky využívat lokální AI modely.

Ve výzkumu jsem s AI modely nasbíral zkušenosti, které se snažím předávat dál i mimo univerzitní prostředí. Sám se skrz tento projekt nadále učím.

Víc se o mně se dozvíte na mém osobním webu.

Jsem fyzická osoba podnikající dle živnostenského zákona. IČO: 06845762.

Kontaktuj mě →