fn_registry/python/functions/infra/ollama_chat.md

name, kind, lang, domain, version, purity, signature, description, tags, uses_functions, uses_types, returns, returns_optional, error_type, imports, params, output, tested, tests, test_file_path, file_path

name	kind	lang	domain	version	purity	signature	description	tags	uses_functions	uses_types	returns	returns_optional	error_type	imports	params	output	tested	tests	test_file_path	file_path
ollama_chat	function	py	infra	1.0.0	impure	def ollama_chat(messages: list[dict], model: str = 'llama3.1:8b', base_url: str = 'http://localhost:11434', temperature: float = 0.7, max_tokens: int = 1024) -> dict	Envía una solicitud de chat completion a Ollama (API local compatible con OpenAI). Retorna el contenido generado junto a métricas de duración y tokens.	ollama llm chat inference local-ai http				false	error_go_core	json urllib.request urllib.error	name desc messages Lista de mensajes de la conversación. Cada mensaje es un dict con 'role' (system|user|assistant) y 'content' (texto del mensaje). name desc model Nombre del modelo Ollama a usar (ej: llama3.1:8b, mistral:7b, codellama:13b). name desc base_url URL base de la instancia Ollama local. Por defecto http://localhost:11434. name desc temperature Temperatura de generación entre 0.0 (determinista) y 1.0 (creativo). Por defecto 0.7. name desc max_tokens Número máximo de tokens a generar en la respuesta. Por defecto 1024.	Dict con 'content' (texto generado), 'model' (modelo usado), 'total_duration_ms' (duración total en milisegundos) y 'eval_count' (tokens generados).	false			python/functions/infra/ollama_chat.py

Ejemplo

resp = ollama_chat([
    {"role": "system", "content": "Eres un guía turístico experto."},
    {"role": "user", "content": "¿Qué puedo ver cerca del Museo del Prado?"}
], model="llama3.1:8b")
# {"content": "Cerca del Museo del Prado encontrarás...", "model": "llama3.1:8b", "total_duration_ms": 3200, "eval_count": 150}

Notas

Función impura: hace una solicitud HTTP POST a la API de Ollama. Solo usa stdlib Python (urllib.request, json) — sin dependencias externas.

La generación de LLMs puede ser lenta; el timeout está fijo en 60 segundos. Para modelos grandes o respuestas largas, ajustar max_tokens o considerar streaming.

Manejo de errores:

• Connection refused → RuntimeError("Ollama no está corriendo en {base_url}")
• HTTP error → RuntimeError("Ollama retornó HTTP {code}: {reason}")
• Otros errores de red → RuntimeError("Error de conexión con Ollama: {reason}")

El campo total_duration que retorna Ollama está en nanosegundos; se convierte a milisegundos para mayor legibilidad. El campo eval_count puede no estar presente en todas las versiones de Ollama (default 0).