Files
egutierrez dabc945eda feat: extraccion masiva footprint_aurgi (41 funcs + 4 types + stack Docker geo)
Extrae al registry funciones del proyecto interno footprint_aurgi:
- core (6): slugify_ascii, normalize_for_join, cp_provincia_es, infer_provincia_from_cp, safe_read_csv_fallback, csv_to_parquet_duckdb
- geo puras (7): haversine_km, point_in_ring, point_in_polygon, point_in_polygons_bbox, polygon_bbox, extent_with_padding, distance_bucket
- geo I/O (4): load_geojson_polygons, load_boundary_gdf, add_basemap_osm, add_basemap_with_timeout
- valhalla client (4): valhalla_route, valhalla_isochrone, valhalla_isochrones_async, valhalla_matrix_1_to_n
- datascience stats (7): trimmed_mean, geometric_mean, detect_distribution_type, best_central_tendency, summary_stats, kde_density_levels, alpha_shape_concave_hull
- datascience fuzzy (3): fuzzy_merge_adaptive (rapidfuzz), words_to_dataset, remove_words_from_column
- datascience viz (2): plot_kde_2d, plot_heatmap_log
- infra (4): compress_pdf_ghostscript, render_table_page_pdfpages, add_header_logo, osm2pgsql_ingest
- pipelines (4): setup_geo_stack_docker, compute_centers_reachability, generate_isochrones_by_zone, count_points_per_zone
- types geo (4): LonLat, BBox, IsochroneRequest, Centro

Incluye:
- apps/footprint_geo_stack/ (PostGIS + Martin + Valhalla via docker-compose)
- 131/132 tests pasan (1 skip esperado: osm2pgsql en PATH)
- Issue tracker dev/issues/0052-footprint-aurgi-extraction.md
- Atribucion uniforme: source_repo internal:footprint_aurgi, source_license internal-aurgi
- Build con 9 agentes en paralelo (8 wave 1 + 1 wave 2 pipelines)

Tambien commitea trabajo previo no commiteado: aggregate_extraction_results, chunk_with_overlap, clean_pdf_text, merge_entity_aliases, extract_graph_gliner2, extract_relations_mrebel, extract_triples_spacy_es, gliner2/mrebel/marianmt/rebel/spacy_es load_model, parse_rebel_output, translate_es_to_en, issue 0050/0051.

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
2026-05-04 23:35:22 +02:00

3.0 KiB

name, kind, lang, domain, version, purity, signature, description, tags, uses_functions, uses_types, returns, returns_optional, error_type, imports, params, output, tested, tests, test_file_path, file_path, notes
name kind lang domain version purity signature description tags uses_functions uses_types returns returns_optional error_type imports params output tested tests test_file_path file_path notes
mrebel_load_model function py datascience 1.0.0 impure def mrebel_load_model(model_name: str = 'Babelscape/mrebel-large', src_lang: str = 'es_XX', tgt_lang: str = 'tp_XX') -> tuple[Any, Any] Carga (y cachea) el tokenizer y modelo mREBEL (mBART-based, ~600M params, ~2.4 GB). Multilingue 30+ idiomas. Cache por (model_name, src_lang). Primera llamada descarga de HuggingFace. LICENCIA CC BY-NC-SA 4.0 — solo uso no comercial.
mrebel
relation-extraction
nlp
model
huggingface
multilingual
seq2seq
datascience
python
false error_go_core
transformers
name desc
model_name ID del modelo en HuggingFace Hub (defecto: Babelscape/mrebel-large, 600M params)
name desc
src_lang codigo de idioma fuente para el tokenizer mBART: 'es_XX' (ES), 'en_XX' (EN), 'fr_XX' (FR), etc.
name desc
tgt_lang token de idioma destino del decoder — siempre 'tp_XX' para el formato triplet de mREBEL
tupla (tokenizer, model) listos para inferencia. Cacheados por (model_name, src_lang). false
python/functions/datascience/mrebel_load_model.py LICENCIA: Babelscape/mrebel-large esta bajo CC BY-NC-SA 4.0 (Creative Commons Non-Commercial Share-Alike). Solo uso no comercial. NO usar en productos comerciales sin sustituir por un modelo con licencia comercial. impure: descarga red/disco la primera vez, mantiene estado en _MODEL_CACHE. No necesita el patch HF kwargs de glirel — AutoModelForSeq2SeqLM es path estandar. Cache es por (model_name, src_lang): dos idiomas distintos crean dos instancias porque el tokenizer tiene src_lang hardcodeado.

Ejemplo

from python.functions.datascience.mrebel_load_model import mrebel_load_model
from python.functions.datascience.parse_rebel_output import parse_rebel_output

tokenizer, model = mrebel_load_model(src_lang="es_XX")

text = "Pablo Isla es el presidente de Inditex."
inputs = tokenizer(text, return_tensors="pt", max_length=512, truncation=True)
generated = model.generate(**inputs, num_beams=4, length_penalty=1.0, max_length=256)
decoded = tokenizer.decode(generated[0], skip_special_tokens=False)
triplets = parse_rebel_output(decoded)

Tamanio y latencia

  • Babelscape/mrebel-large: ~2.4 GB en disco (modelo + tokenizer).
  • Primera carga: 30-90 s en CPU, depende de red y disco.
  • Inferencia CPU: 5-15 s por frase (mBART es mas lento que REBEL/BART).
  • Inferencia GPU (CUDA T4): 0.5-2 s por frase.

Idiomas soportados

mREBEL soporta los idiomas de mBART-50. Ejemplos:

  • es_XX — Espanol
  • en_XX — Ingles
  • fr_XX — Frances
  • de_DE — Aleman
  • pt_XX — Portugues
  • it_IT — Italiano

Notas

  • Para ingles y usos comerciales, usar rebel_load_model (Apache 2.0).
  • Para benchmarks rapidos, usar mrebel_base_load_model (250M params, misma licencia).
  • model.eval() se llama al cargar para desactivar dropout en inferencia.