Нд, 22 Лис
Для Cyberpunk 2077 створюють мод із розумними NPC — з ними можна розмовляти, подорожувати й давати доручення Ігри 10.10.2026 22:26
Платформу для порівняння нейромереж Arena оцінили в $3,1 млрд — за дев’ять місяців її вартість зросла на 82% IT-бізнесНейромережі 10.10.2026 22:20
Повний злив GTA VI чи криптошахрайство: хакер погрожує викласти сюжетну кампанію до релізу ІгриКрипто 10.10.2026 22:15
Вийшов трейлер фінального сезону «Ходячі мерці: Деріл Діксон» — прем’єра відбудеться в лютому 2027 року Кіно/Серіали 10.10.2026 22:12
Audi запатентувала шалену імітацію ДВЗ для електрокарів: вібрації, затримка газу та справжні іскри Автомобілі 10.10.2026 22:10
У Deadlock додали шахіста Соломона — онлайн гри вперше перевищив 262 тисячі людей Ігри 10.10.2026 20:42
Діабет від голоду, а не від цукру: чому вчені визнали діабет 5-го типу і чим він небезпечний Наука 10.10.2026 20:39
Акумулятор на 9000 мА·год та екран 185 Гц: OnePlus розсекретила флагман 16, але західні ринки його не побачать Гаджети 10.10.2026 20:35
За мотивами «Сутінків» випустили офіційну «Монополію» з Едвардом, Джейкобом і знайомими місцями саги Без категорії 10.10.2026 20:32
Безплатна заміна Photoshop просто в браузері: редактор ImageFlow навчився змінювати світло на готових фото Софт 10.10.2026 20:28
Передзамовлення Metro 2039 відкриються наступного тижня: колекційне видання отримає справжній шолом спартанця Ігри 10.10.2026 20:24

На Hugging Face виклали «нецензуровану» GLM-5.3 на 753 млрд параметрів – навіть квантовану версію тестували на восьми A100

Max Ivanov · 02.10.2026 20:55 · 3 хвилини читання

На Hugging Face з’явилася неофіційна «нецензурована» версія GLM-5.3 від Z.ai, у якій автори спробували суттєво зменшити кількість відмов на чутливі запити. Модель містить 753 млрд параметрів, а навіть її сильно стиснута версія займає близько 273 ГіБ, тож для звичайного домашнього комп’ютера вона практично недоступна.

Йдеться про GLM-5.3-UNCENSORED-EXL3-3.0bpw, яку створив користувач Infatoshi. Це сторонній проєкт, не пов’язаний із Z.ai.

Основою стала офіційна GLM-5.3 – Mixture-of-Experts-модель із 753 млрд параметрів, 256 маршрутизованими експертами та вісьмома активними експертами на токен. Z.ai орієнтує її насамперед на програмування, тривалі агентні задачі та кібербезпеку.

Обмеження змінювали прямо у вагах моделі

«Uncensored»-версія з’явилася без традиційного додаткового навчання.

Спочатку автор іншого проєкту, dealignai, відредагував FP8-ваги GLM-5.3, щоб змінити поведінку моделі та зменшити ймовірність відмов. Потім Infatoshi додатково квантував цю версію у формат EXL3 приблизно до 3,04 біта на вагу.

Тож слово «uncensored» тут варто сприймати як назву та заявлену мету модифікації, а не як гарантію повної відсутності обмежень. Поведінка моделі після редагування ваг і агресивного квантування може відрізнятися від вихідної GLM-5.3.

Сам автор провів невелике порівняння з оригінальною FP8-версією. На двох агентних тестах квантована модель показала дещо нижчі результати, однак за використаного розміру вибірки різниця не досягла статистичної значущості.

273 ГіБ – і це вже сильно стиснута версія

Головна проблема для локального запуску – розміри.

EXL3-квантування займає близько 273 ГіБ. Автор тестував його через TabbyAPI на системі з вісьмома NVIDIA A100 по 40 ГБ, тобто із сумарними 320 ГБ відеопам’яті.

Це добре показує масштаб моделі: навіть після зниження точності приблизно до трьох бітів вона залишається далеко за межами можливостей звичайної ігрової відеокарти та більшості робочих станцій.

Повноцінна FP8-версія потребує ще значно більше пам’яті. Теоретично частину моделі можна вивантажувати в оперативну пам’ять або використовувати інші схеми розподіленого запуску, але це серйозно ускладнює конфігурацію і зазвичай знижує швидкість генерації.

Водночас ваги можна завантажити безкоштовно. Репозиторій конкретної EXL3-модифікації позначено ліцензією MIT, однак безкоштовні ваги не означають безкоштовної експлуатації – для комфортного запуску знадобиться дороге серверне обладнання або оренда кількох GPU.

На момент публікації ця версія також не під’єднана до жодного вбудованого inference-провайдера Hugging Face, тож запустити її безпосередньо зі сторінки моделі однією кнопкою не можна.

Вийшла досить показова ілюстрація сучасного open-weight ШІ: модель справді можна завантажити й розгорнути самостійно, але її 753 млрд параметрів перетворюють «локальний запуск» радше на задачу для GPU-сервера, ніж для домашнього ПК.

Подобається ВсеЗависло?

Додайте нас до улюблених джерел Google, щоб частіше бачити наші новини.

Додай нас у свій Google

Поділитися

Залишити коментар