egutierrez
dede5e00af
Nuevas funciones Python: build_guide_prompt, generate_pwa_manifest, generate_service_worker, match_pois_to_interests (core), nominatim_reverse_geocode, ollama_chat, overpass_nearby_pois (infra). Incluye tests unitarios. Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
57 lines
2.6 KiB
Markdown
57 lines
2.6 KiB
Markdown
---
|
|
name: ollama_chat
|
|
kind: function
|
|
lang: py
|
|
domain: infra
|
|
version: "1.0.0"
|
|
purity: impure
|
|
signature: "def ollama_chat(messages: list[dict], model: str = 'llama3.1:8b', base_url: str = 'http://localhost:11434', temperature: float = 0.7, max_tokens: int = 1024) -> dict"
|
|
description: "Envía una solicitud de chat completion a Ollama (API local compatible con OpenAI). Retorna el contenido generado junto a métricas de duración y tokens."
|
|
tags: [ollama, llm, chat, inference, local-ai, http]
|
|
uses_functions: []
|
|
uses_types: []
|
|
returns: []
|
|
returns_optional: false
|
|
error_type: "error_go_core"
|
|
imports: [json, urllib.request, urllib.error]
|
|
params:
|
|
- name: messages
|
|
desc: "Lista de mensajes de la conversación. Cada mensaje es un dict con 'role' (system|user|assistant) y 'content' (texto del mensaje)."
|
|
- name: model
|
|
desc: "Nombre del modelo Ollama a usar (ej: llama3.1:8b, mistral:7b, codellama:13b)."
|
|
- name: base_url
|
|
desc: "URL base de la instancia Ollama local. Por defecto http://localhost:11434."
|
|
- name: temperature
|
|
desc: "Temperatura de generación entre 0.0 (determinista) y 1.0 (creativo). Por defecto 0.7."
|
|
- name: max_tokens
|
|
desc: "Número máximo de tokens a generar en la respuesta. Por defecto 1024."
|
|
output: "Dict con 'content' (texto generado), 'model' (modelo usado), 'total_duration_ms' (duración total en milisegundos) y 'eval_count' (tokens generados)."
|
|
tested: false
|
|
tests: []
|
|
test_file_path: ""
|
|
file_path: "python/functions/infra/ollama_chat.py"
|
|
---
|
|
|
|
## Ejemplo
|
|
|
|
```python
|
|
resp = ollama_chat([
|
|
{"role": "system", "content": "Eres un guía turístico experto."},
|
|
{"role": "user", "content": "¿Qué puedo ver cerca del Museo del Prado?"}
|
|
], model="llama3.1:8b")
|
|
# {"content": "Cerca del Museo del Prado encontrarás...", "model": "llama3.1:8b", "total_duration_ms": 3200, "eval_count": 150}
|
|
```
|
|
|
|
## Notas
|
|
|
|
Función impura: hace una solicitud HTTP POST a la API de Ollama. Solo usa stdlib Python (urllib.request, json) — sin dependencias externas.
|
|
|
|
La generación de LLMs puede ser lenta; el timeout está fijo en 60 segundos. Para modelos grandes o respuestas largas, ajustar `max_tokens` o considerar streaming.
|
|
|
|
Manejo de errores:
|
|
- Connection refused → `RuntimeError("Ollama no está corriendo en {base_url}")`
|
|
- HTTP error → `RuntimeError("Ollama retornó HTTP {code}: {reason}")`
|
|
- Otros errores de red → `RuntimeError("Error de conexión con Ollama: {reason}")`
|
|
|
|
El campo `total_duration` que retorna Ollama está en nanosegundos; se convierte a milisegundos para mayor legibilidad. El campo `eval_count` puede no estar presente en todas las versiones de Ollama (default 0).
|