Ollama tek istek gecikme ve kullanım günlüğü [Deleted]

Ne işe yarar?​

Tek bir Ollama /api/chat isteğinin istemci bekleme süresini ve sunucunun döndürdüğü token/süre sayaçlarını yeni JSONL günlüğüne yazar. Model sıralaması veya genel benchmark üretmez; yanıt metnini çalıştırmaz.

Kullanım​

Kod:

ollama pull qwen3:0.6b
python arac.py ornek-prompt.txt --model qwen3:0.6b --output olcum.jsonl

Paket ve gereksinimler​

Python 3.10+, güncel Ollama ve hazır model gerekir; Python tarafı...

Genişletmek için tıkla ...