LFM3 на видеокарте за 2000 рублей!?
Мое закрытое сообщество https://amorev.ru/promo Мой ИИ-провайдер https://ai.wormsoft.ru. Мой Telegram-канал https://t.me/gmoreva LFM3 локально на дешёвых видеокартах P104-100 и CMP 30HX. Тестирую небольшие локальные LLM, сравниваю скорость генерации и чтения контекста, проверяю работу AI-агентов, программирование, Vision и OCR. Можно ли за пару тысяч рублей собрать железо для запуска собственной локальной нейросети? И насколько полезными могут быть современные языковые модели на видеокартах, которые уже давно считаются устаревшими? Что проверяем: — Скорость чтения контекста и генерации токенов — Сравнение P104-100 и CMP 30HX — Работа LFM3 в агентских сценариях — Попытка создать полноценный ToDo List с SQLite и Vue — Насколько хорошо модель справляется с программированием — Тестирование Vision и распознавания документов (OCR) — Извлечение информации из счетов и накладных — Работа с MCP и поиск информации в интернете — Создание отчётов и взаимодействие с локальной инфраструктурой — Реальные возможности небольших локальных LLM Главный вывод: LFM3 не подходит для серьёзной разработки сложных приложений, но вполне достойно показывает себя в простых агентских сценариях, поиске информации и работе с текстом. А самое интересное — всё это можно запускать на видеокартах стоимостью всего несколько тысяч рублей. Таймкоды: 00:00 На чем запущена модель? 00:43 Замеряем скорость 03:58 Сколько стоят видеокарты под эту модель? 05:22 Что приготовил к тестам сегодня 06:04 Создаем туду-лист 16:06 Тестируем OCR 20:39 Просим сделать отчет 22:16 Пытаемся настроить nginx (неуспешно) 23:47 Смотрим отчет от LFM3 25:55 Реклама моей компании 27:47 Смотрим результаты поиска от LFM3
Название:
LFM3 на видеокарте за 2000 рублей!?
Категория:
Технологии и интернет