AI jen pro svůj počítač
Zdravím vás u dalšího newsletteru. V dnešním vydání naleznete:
- AI pro každý počítač zdarma
- Skvělá Duna 2
- Špatně nastavená mezigenerační diskuze
AI pomocník zdarma (alternativa k ChatGPT)
ChatGPT se stal mocným pomocníkem v každodenní práci. Je ale i způsob, jak něco podobného provozovat zdarma a lokálně na svém počítači. Velkou výhodou může být bezpečnost, protože neposíláte svá data a informace třetí straně. Navíc experimentováním můžete zjistit, že existuje více modelů než jen ChatGPT od OpenAI. Zdarma si můžete vyzkoušet třeba i Mistral evropského původu.
Jak na to: Doporučuji navštívit stránku https://ollama.com/. Instalace na Windows, Linux i Mac je doslova primitivní, protože stačí zkopírovat kus kódu do konzole. Pak můžete jít do knihovny jazykových modelů https://ollama.com/library?sort=popular a tam si je seřadit podle popularity.
Mezi nejpopulárnější modely patří Llama 2, za jejímž vývojem stojí Meta (Facebook, Instagram). Bohužel je tenhle model velmi náročný na RAM počítače. 16 GB je naprosté minimum.
Pak můžete vybraný model dle instrukcí stáhnout a spustit. U Llama 2 se postupuje v Linuxu následovně: Do konzole zadáte ollama run llama2 a máte hotovo. Vše se stáhne a automaticky nastaví. Pak už jen stačí podobně jako u ChatGPT napsat prompt.
Tady je ukázka jazykového modelu LLama2:
In 500 characters, explain to me what climate change is.
Climate change refers to the long-term warming of the planet due to an increase in greenhouse gases in the atmosphere, primarily caused by human activities such as burning fossil fuels and deforestation. This leads to a trapping of heat and a rise in global temperatures, causing changes in weather patterns, sea level rise, and more frequent extreme weather events.
Mezi populárními modely je i Mistral od francouzských vývojářů. Ten má výhodu v tom, že funguje velmi svižně i na pomalejších počítačích. Výsledek v tomto modelu vypadá takto:
In 500 characters, explain to me what climate change is.
Climate change refers to long-term alterations in temperatures and weather patterns, primarily driven by human activities. This includes burning fossil fuels, deforestation, and industrial processes that release greenhouse gases into the atmosphere. These gases trap heat and lead to rising global temperatures, causing changes such as extreme weather events, sea level rise, and ecosystem shifts. Human actions are the main drivers of current climate change.
Stejně jako u ChatGPT můžete žádat i o kusy kódu či složitější výpočty. Mistral sice není tak daleko jako ChatGPT, ale dokáže vám dát i poměrně podrobné návody. Zkusil jsem se ho zeptat, jak naprogramovat Minecraft v herním enginu Unity, a výsledky se od ChatGPT moc nelišily.
Pokud rádi zkoušíte hranice AI, tak na Ollama najdete i jazykové modely „bez cenzury“, takže si můžete vygenerovat například velké množství sprostých a rasistických vtipů.
Zážitek z AI můžete ještě vylepšit různým softwarem, který vás osvobodí od zadávání příkazů v textové konzoli. Doporučuji například Chatbox, který si prostě nainstalujete a pak přepnete na požadovaný jazykový model zprostředkovaný Ollamou.
Nejenže teď nemusíte příkazy psát ručně, ale ještě si můžete vytvářet vlastní asistenty. Třeba já jsem u jednoho napsal, ať píše pouze česky, což je někdy taková hatmatilka, že jsem chatu přiřadil ikonku Andreje Babiše. Můžete si ale vlákna specializovat třeba na prompty pro Midjourney či programování v určitém jazyce. Tahle kombinace Ollama + Chatboxu se ukazuje jako velmi efektivní, pokud potřebujete mít na pozadí neustále zapnutou AI na drobné doptávání.
Podobných grafických klientů je více a existuje i řada pluginů. To nejdůležitější je popsané tady:
ollama