Для Ornith-1.5-9B выпустили «uncensored»-версию — 9B-модель можно запускать локально без облака

Для компактной мультимодальной нейросети Ornith-1.5-9B появилась неофициальная модификация со снятыми системными ограничениями. Сборка под названием Ornith-1.5-9B-uncensored избавлена от встроенных отказов при обработке чувствительных запросов и адаптирована под форматы GGUF и MLX для полностью автономного запуска на потребительских ПК через llama.cpp.

Техника аблитерации и сохранение мультимодальности

Базовую модель Ornith-1.5-9B разработала команда Ornith AI на основе архитектуры Qwen3.5. Модель получила нативное контекстное окно объемом 262 144 токена (256k), способность распознавать изображения и сильные показатели в написании кода: в бенчмарке SWE-bench Verified она набрала 70,6% решенных задач.

Версию без цензуры выпустил независимый разработчик junafinity с применением метода аблитерации (abliteration). С помощью утилиты ZeroFuse автор вырезал из матрицы весов направления, активирующие защитные фильтры при получении спорных инструкций. Во внутренних стресс-тестах на 64 вредоносных запроса базовая модель отклонила 9 команд, тогда как сборка Ornith-1.5-9B-uncensored выполнила все задачи без отказов.

Модель сохранила зрение: в библиотеке GGUF-квантов от mradermacher визуальный модуль распространяется отдельным файлом весом около 1 ГБ. Сама языковая модель занимает от 3,9 ГБ в ультралегком профиле Q2_K до 5,7 ГБ в рекомендованном квантовании Q4_K_M (9,6 ГБ в 8-битном Q8_0).

Реальные требования к памяти и миф о смартфонах

В профильных пабликах новость встретили вирусным утверждением о том, что нейросеть без труда разворачивается на любом телефоне с 8 ГБ ОЗУ. В действительности размер файла в гигабайтах не отражает реальное потребление памяти.

Для загрузки 9-миллиардной модели вместе с графическим адаптером и служебными буферами требуется от 8 до 12 ГБ доступной VRAM. Попытка загрузить длинный контекст в 256 тысяч токенов приведет к лавинообразному разрастанию KV-кэша, требующему еще десятки гигабайт оперативной памяти, что недостижимо для мобильных гаджетов.

Проект создавался в исследовательских целях для тестирования уязвимостей (red teaming) и работы с кодом без ложных срабатываний систем безопасности. Выпуск квантованных файлов делает модель отличным инструментом для локального ПК, однако отмена встроенных фильтров перекладывает ответственность за безопасность ответов исключительно на владельца устройства.