Как проверить скорость генерации (токены в секунду) в Ollama
Чтобы проверить скорость генерации (токены в секунду) в Ollama, можно использовать встроенные средства или внешние бенчмарки. 1. Самый простой способ: Команда /set verbose Если вы используете Ollama через терминал, вы можете включить…