·
Added a discussion

Привет, товарищи. В этом обсуждении поговорим о том, какая видеокарта минимально нужна для запуска и работы нейросетей локально на своём ПК.

Я протестировал свою конфигурацию на таких моделях, как Qwen 3 Coder 30B, GPT-OSS 20B, Granite 4 H Tiny, Gemma 3 27B и некоторых других моделях с меньшими параметрами. Все эти нейросети отлично запускаются на моей системе, а также на других компьютерах, которые участвовали в тестах.

Свой ПК я взял за основу как самую минимальную конфигурацию для локального запуска нейросетей. Главная особенность в том, что у меня видеокарта не от NVIDIA, а RX 6600 XT, что никак не помешало нормальной работе ИИ.

Добавлю, что если вы хотите собрать бюджетную машину под ИИ, то я всё же рекомендовал бы начать с видеокарты RTX 3060, а не RX 6600 XT, поскольку в RX 6600 XT нет ядер CUDA, а их наличие желательно. Помимо видеокарты, важен и процессор, особенно если вы планируете сэкономить и взять RX 6600 XT вместо RTX 3060.

Оперативной памяти желательно иметь 32 ГБ и более. Я тестировал и на 16 ГБ - некоторые модели запускаются и работают стабильно, а некоторые - нет, поэтому 32 ГБ - предпочтительный минимум.

Итоговая минимальная конфигурация под ИИ, которую я могу рекомендовать:

  • Видеокарта RX 6600 XT (лучше RTX 3060).
  • Процессор Intel i5-11600.
  • 32 ГБ оперативной памяти.
  • SSD NVMe 500 ГБ и более.

Именно на такой конфигурации у меня отлично работают все перечисленные модели.

Будут ли они работать на более слабой конфигурации? Да, но в таком случае придётся устанавливать модели с меньшим количеством параметров. Моя конфигурация - ориентир, от которого стоит начинать, чтобы работать с достаточно серьёзными моделями ИИ.

Если у вас возникли вопросы - задавайте, подскажу что и как.

  • 9174
  • 😲 2
Comments
    • Я тоже, когда хотел протестировать ИИ локально, в поиске прочитал, что, мол, Qwen 2.5 Coder 32B требует минимум RTX 3090. Я не стал. Потом всё-таки решил попробовать, и даже Qwen 3 Coder заработал нормально с видеокартой RTX 4060.

      • Да, в последнее время поисковики работают непонятно как, выдают страницы в поиске по неясным критериям, поэтому и получается, что народ ничего не знает. Оказывается, можно обойтись и более слабым железом для развертывания нейросети локально. Я написал самую правдивую конфигурацию, от которой стоит отталкиваться, это и есть минимум, а не какие-то RTX 3090 😁. Вот, например, Qwen 3 Coder 30B пишет мне браузерную игру, нагрузку на железо смотри ниже, на скрине.

      Login or Join to comment.
      New Discussions