Як запустити нейромережу Ornith-1.5 на Android та iPhone: покроковий гайд із локального ШІ без інтернету
·
20.08.2026 18:53
·
2 хвилини читання
Відкриту мовну модель Ornith-1.5-9B можна використовувати повністю автономно безпосередньо на смартфоні без надсилання даних на сторонні сервери. Раніше ми детально розбирали характеристики та результати тестів відкритої лінійки моделей Ornith-1.5, а цей гайд описує процес її локального розгортання на Android та iOS.
Для запуску використовується безкоштовний мобільний застосунок PocketPal AI, що працює на базі рушія llama.cpp і підтримує моделі в квантованому форматі GGUF.
Вимоги до оперативної пам’яті смартфона
Для комфортної роботи 9B-моделі на телефоні враховуйте обсяг доступної RAM:
- 8 ГБ RAM: мінімальний поріг. Знадобиться агресивне 3-бітне квантування та обмеження контексту до 2048–4096 токенів;
- 12 ГБ RAM: стабільна робота з 4-бітним квантуванням (Q4) при контексті 4096–8192 токенів;
- 16 ГБ RAM і більше: оптимальний варіант для швидкої генерації без ризику закриття фонових процесів системи.
Покрокова інструкція зі встановлення
- Установіть клієнт PocketPal AI з App Store або Google Play (вихідний код доступний на GitHub проєкту);
- Відкрийте вкладку Models і виберіть пошук моделей безпосередньо з Hugging Face;
- Введіть назву репозиторію: ornith-ai/Ornith-1.5-9B-GGUF;
- Виберіть квантовану версію Q4_K_M (файл займає близько 5–6 ГБ);
- У налаштуваннях сесії встановіть початковий контекст на 4096 токенів;
- Натисніть кнопку завантаження, зачекайте на ініціалізацію ваг у пам’яті та перейдіть у чат. Після завантаження інтернет на смартфоні можна повністю вимкнути.
Рекомендовані параметри генерації та запуск на ПК
Для загальнорозмовних сценаріїв розробники радять виставляти параметри temperature 1.0, top_p 0.95 і top_k 20. У завданнях генерації програмного коду температуру рекомендується знизити до temperature 0.6.
Якщо вам потрібно запустити модель на комп’ютері під керуванням Windows, macOS або Linux, найпростіше скористатися утилітою Ollama, виконавши в терміналі команду:
ollama run ornith-1.5:9b
Компактна версія 9B займає на диску близько 6,6 ГБ, підтримуючи інтеграцію зі сторонніми редакторами коду та середовищами розробки через локальний API.
