https://it.ikt.su/tags/llm/Recent content in Llm on IT / AIHugoruThu, 27 Aug 2026 12:00:00 +0300https://it.ikt.su/posts/2026-08-27-lokalnye-llm-s-chego-nachat/Thu, 27 Aug 2026 12:00:00 +0300https://it.ikt.su/posts/2026-08-27-lokalnye-llm-s-chego-nachat/<p>Запуск языковой модели на своём компьютере — приватность, офлайн-режим и никаких лимитов запросов. Разбираем минимальный старт.</p> <h2 id="что-понадобится">Что понадобится</h2> <ul> <li><strong>8 ГБ RAM</strong> — модели 3–7B в квантованном виде (Q4);</li> <li><strong>16 ГБ RAM</strong> — комфортная работа с моделями 7–13B;</li> <li>видеокарта ускоряет генерацию, но не обязательна.</li> </ul> <h2 id="самый-простой-путь-ollama">Самый простой путь: Ollama</h2> <p>Ollama ставится одной командой и тянет модели по аналогии с docker pull:</p> <div class="highlight"><pre tabindex="0" style="color:#f8f8f2;background-color:#282a36;-moz-tab-size:4;-o-tab-size:4;tab-size:4;-webkit-text-size-adjust:none;"><code class="language-bash" data-lang="bash"><span style="display:flex;"><span><span style="color:#6272a4"># установка (Linux)</span> </span></span><span style="display:flex;"><span>curl -fsSL https://ollama.com/install.sh | sh </span></span><span style="display:flex;"><span> </span></span><span style="display:flex;"><span><span style="color:#6272a4"># загрузить и запустить модель</span> </span></span><span style="display:flex;"><span>ollama run llama3.1:8b </span></span><span style="display:flex;"><span> </span></span><span style="display:flex;"><span><span style="color:#6272a4"># список локальных моделей</span> </span></span><span style="display:flex;"><span>ollama list </span></span></code></pre></div><p>После запуска модель доступна и через API на <code>http://localhost:11434</code> — её можно подключать к своим скриптам и редакторам.</p>