Собрал SmolVLM, допилил, что бы запускалась на старых картах, не только на 30й и 40й серии, на GTX1070 кушает 6.8GB VRAM. Возможно можно  оптимизировать, но я не смотрел, если честно...

  Ну и воткнул перевод с русского на английский для промпта ( перевод работает, только при наличии интернета). Если перевод не нужен, просто удалите файл google_translate.py

  Установка: запускаем SmolVLM-CaveMan.part01.exe  - это rar архив (кому надо, можете сами winrar'ом распаковать не запуская exe).

  Распаковываем в папку как можно ближе к корню диска, русские символы в пути не допустимы. Запускаем run.bat, вкладка в браузере откроется сама.

P.S.: Пока заливал портативку с мобильного интернета, трафик на оном у меня закончился, так что сборки в ближайшее время не ждём, стационарный интернет у меня в дауне (оборвало оптику в прошлый четверг от снегопада, а ростелекому пофиг на мою деревню).