EN
creator cover LLM Farm

LLM Farm

Новости и идеи по использованию LLM на мобилках
LLM Farm
1
subscriber

About the creator

Привет! Меня зовут Артём. Я разработчик приложения LLM Farm.
Однажды я решил изучить Swift и создать своё первое приложение для iOS.
Я вдохновился приложением Draw Things, в котором можно генерировать контент без интернета с помощью моделей stable diffusion. Я подумал, что если Stable Diffusion работает на iOS, почему бы не запустить языковые модели, вроде LLaMA? Так появилась мысль адаптировать популярный проект LLaMA.cpp для работы на iOS. Я поставил перед собой задачу обеспечить запуск моделей объемом до 7B на iPhone с приемлемой скоростью. 
Из этой задумки родилось приложение LLM Farm.
Тут я буду делиться своими мыслями о доработке приложения, а также кейсами его использования.

Subscription levels

No subscription levels
Go up