DotNet&More #175: Смотрим на локальные LLM и не только - podcast episode cover

DotNet&More #175: Смотрим на локальные LLM и не только

May 15, 20263 hr 7 minSeason 5Ep. 175
--:--
--:--
Download Metacast podcast app
Listen to this episode in Metacast mobile app
Don't just listen to podcasts. Learn from them with transcripts, summaries, and chapters for every episode. Skim, search, and bookmark insights. Learn more

Episode description

Лучше один раз посмотреть на локальные LLM чем один раз поговорить о них.


Спасибо всем, кто нас слушает. Ждем Ваши комментарии.


Музыка из выпуска: 

- https://artists.landr.com/056870627229

- https://t.me/angry_programmer_screams


Весь плейлист курса "Kubernetes для DotNet разработчиков": https://www.youtube.com/playlist?list=PLbxr_aGL4q3SrrmOzzdBBsdeQ0YVR3Fc7

Бесплатный открытый курс "Rust для DotNet разработчиков": https://www.youtube.com/playlist?list=PLbxr_aGL4q3S2iE00WFPNTzKAARURZW1Z


Shownotes: 

00:00:00 Вступление

00:02:00 Требования к железу

00:12:00 Как работать с Ollama

00:21:00 Запускаем маленькую модель: lfm

00:31:50 Подключаем агент к локальной модели

00:37:50 Задача №1: Refactoring

00:46:00 Запускаем Qwen 3.5

01:01:00 Как размер контекста влияет на обьем памяти

01:06:00 Пытаемся вытянуть lfm

01:17:00 Запускаем IBM Granite

01:27:00 Запускаем Qwen 3.6 (не влезает)

01:34:30 Задача №2: Leetcode

01:46:00 Провал lfm

01:47:30 Триумф lfm

01:57:00 Давид (lfm) против Голиафа (qwen 3.6)

02:09:30 Задача №3: Html

02:10:00 Запускаем gemma


Ссылки:

- https://ollama.com/ : Ollama

- https://www.3blue1brown.com/lessons/mini-llm/ : Как работает LLM 

- https://www.youtube.com/watch?v=eMlx5fFNoYc : Внимание в LLM 

- https://github.com/upstash/context7 : context7


Видео: https://youtube.com/live/-cTJA9rFcsQ

Слушайте все выпуски: https://dotnetmore.mave.digital

YouTube: https://www.youtube.com/playlist?list=PLbxr_aGL4q3R6kfpa7Q8biS11T56cNMf5

Twitch: https://www.twitch.tv/dotnetmore


Обсуждайте:

- Telegram: https://t.me/dotnetmore_chat


Следите за новостями:

– Twitter: https://twitter.com/dotnetmore

– Telegram channel: https://t.me/dotnetmore


Copyright: https://creativecommons.org/licenses/by-sa/4.0/

For the best experience, listen in Metacast app for iOS or Android