ИИ в практике

Где автоматизация помогает, а где требует внимательной проверки. Конкретные способы работы с инструментами.

Весь блог

ИИ в практикеСтатья · Эксперимент

Как я ускорил Qwen 27B на Mac с M4 Max

355,48 токена в секунду на длинном входе, работа с кэшем и ограничения качества. Подробный эксперимент с Kapitsa, замерами и набором для воспроизведения.