Блог

Статьи и заметки о том, как устроены понятные цифровые вещи.

ИИ в практикеСтатья · Эксперимент

Как я ускорил Qwen 27B на Mac с M4 Max

355,48 токена в секунду на длинном входе, работа с кэшем и ограничения качества. Подробный эксперимент с Kapitsa, замерами и набором для воспроизведения.