LLM Farm

Привет! Меня зовут Артём. Я разработчик приложения LLM Farm.

Однажды я решил изучить Swift и создать своё первое приложение для iOS.

Я вдохновился приложением Draw Things, в котором можно генерировать контент без интернета с помощью моделей stable diffusion. Я подумал, что если Stable Diffusion работает на iOS, почему бы не запустить языковые модели, вроде LLaMA? Так появилась мысль адаптировать популярный проект LLaMA.cpp для работы на iOS. Я поставил перед собой задачу обеспечить запуск моделей объемом до 7B на iPhone с приемлемой скоростью. 

Из этой задумки родилось приложение LLM Farm.

Тут я буду делиться своими мыслями о доработке приложения, а также кейсами его использования.