| >> |
No.28238
Файл: our.webp -(14 KB, 660x432, our.webp)
Продолжаю сворачивать в компактный текстовой отчёт наше общее ризоматическое шевеление. Две недели расчётов заставили задуматься, но не решиться на покупку второй видеокарты. Даже не спрашивайте, сколько сотен миллионов токенов input, сколько миллионов — output: сам уже сбился со счёта. И это еще только первая фаза обработки.
Это слепок сайта 20.03.2015 года с "общими" разделами /b/, /dev/ и /cu/. Раздел /int/ исключён как гостевой.
Визуальный контент представлен только миниатюрами. Это, пожалуй, ошибка — возможно, получится включить полноразмерные картинки для последних еще не обработанных тредов.
В качестве моделей использовались Qwen3.6-27B, Qwen3.6-35B-A3B, Qwen3.5-27B. Остановился на последней. MoE ведёт себя нестабильно на длинной дистанции, а линейка 3.6 будто бы слишком серьёзная для русско-японских каламбуров. Любая модель, конечно, ошибается, ничего не зная о Лурке и глубоком лоре дна рунета. Часть ошибок исправляю сам — другие, надеюсь, самоскомпенсируются при составлении финальных документов. Квант — Unsloth UD-Q5_K_XL, KV-кэш — q8_0, длина контекста — 128к, настройки инференса — thinking mode for precise coding tasks.
Переезд с ollama на llama.cpp тонкой настройки дал ускорение на 25%. Так что треды из /b/ разбираются и анализируются со скоростью 5 тредов в час. Да, не быстро, но терпимо. Когда же всё это закончится.
|