--- name: ollama_chat kind: function lang: py domain: infra version: "1.0.0" purity: impure signature: "def ollama_chat(messages: list[dict], model: str = 'llama3.1:8b', base_url: str = 'http://localhost:11434', temperature: float = 0.7, max_tokens: int = 1024) -> dict" description: "Envía una solicitud de chat completion a Ollama (API local compatible con OpenAI). Retorna el contenido generado junto a métricas de duración y tokens." tags: [ollama, llm, chat, inference, local-ai, http] uses_functions: [] uses_types: [] returns: [] returns_optional: false error_type: "error_go_core" imports: [json, urllib.request, urllib.error] params: - name: messages desc: "Lista de mensajes de la conversación. Cada mensaje es un dict con 'role' (system|user|assistant) y 'content' (texto del mensaje)." - name: model desc: "Nombre del modelo Ollama a usar (ej: llama3.1:8b, mistral:7b, codellama:13b)." - name: base_url desc: "URL base de la instancia Ollama local. Por defecto http://localhost:11434." - name: temperature desc: "Temperatura de generación entre 0.0 (determinista) y 1.0 (creativo). Por defecto 0.7." - name: max_tokens desc: "Número máximo de tokens a generar en la respuesta. Por defecto 1024." output: "Dict con 'content' (texto generado), 'model' (modelo usado), 'total_duration_ms' (duración total en milisegundos) y 'eval_count' (tokens generados)." tested: false tests: [] test_file_path: "" file_path: "python/functions/infra/ollama_chat.py" --- ## Ejemplo ```python resp = ollama_chat([ {"role": "system", "content": "Eres un guía turístico experto."}, {"role": "user", "content": "¿Qué puedo ver cerca del Museo del Prado?"} ], model="llama3.1:8b") # {"content": "Cerca del Museo del Prado encontrarás...", "model": "llama3.1:8b", "total_duration_ms": 3200, "eval_count": 150} ``` ## Notas Función impura: hace una solicitud HTTP POST a la API de Ollama. Solo usa stdlib Python (urllib.request, json) — sin dependencias externas. La generación de LLMs puede ser lenta; el timeout está fijo en 60 segundos. Para modelos grandes o respuestas largas, ajustar `max_tokens` o considerar streaming. Manejo de errores: - Connection refused → `RuntimeError("Ollama no está corriendo en {base_url}")` - HTTP error → `RuntimeError("Ollama retornó HTTP {code}: {reason}")` - Otros errores de red → `RuntimeError("Error de conexión con Ollama: {reason}")` El campo `total_duration` que retorna Ollama está en nanosegundos; se convierte a milisegundos para mayor legibilidad. El campo `eval_count` puede no estar presente en todas las versiones de Ollama (default 0).