egutierrez
7a94160fd2
Bloque de cambios revisados y validados con el usuario en sesiones previas que no habian aterrizado en commits propios. Lista por tema: * enrichers: web_search ahora usa lite.duckduckgo.com como endpoint primario (mas tolerante con bot detection desde IP residencial), con fallback al endpoint html. Detecta pagina captcha y emite error claro si ambos fallan. Anyade _DDGLiteParser para el formato lite + auto-pick de parser por contenido. * enrichers: tipo Webpage unificado en Url (campos de cuerpo cacheado viven en metadata del Url). Manifests actualizados (applies_to: [Url]). fetch_webpage ya no convierte Url->Webpage. * enrichers/manifest: campo `params` parseado a EnricherSpec.params (name, type, default_value, description). UI puede renderizar dialog de configuracion. * jobs: fix de path conversion para Python embebido nativo Windows (no convertir a /mnt/c/... cuando el subproceso es Windows-native; solo cuando es bash o python via WSL). * main.cpp: ventana ImGui (no modal) "Run enricher" con layout 2-col (label izq, input der). Inserta job con JSON tipado. Layout clustering apretado: hijos del mismo anchor en un solo anillo alrededor del padre, sin desperdigar por anillos crecientes. * views: inspector con layout 2-col via BeginTable (Identity, Schema fields, Extras). Description full-width debajo de su label. * tests: portable conftest (auto-detecta REGISTRY_ROOT, PYTHON_BIN, ENRICHERS_DIR para WSL y Windows portable). _runner.py trampoline inyecta stub via sys.path porque embedded Python ignora PYTHONPATH. Tests bash-only (vendor_script, freeze, dispatcher bash, resolver Linux-binary) skipean en Windows. Tests existentes adaptados a Webpage->Url. Resultado actual: 32 passed WSL, 21 passed + 11 skipped Windows.
60 lines
2.1 KiB
Python
60 lines
2.1 KiB
Python
"""Tests del enricher extract_text_entities — regex IoCs sobre markdown."""
|
|
from __future__ import annotations
|
|
|
|
from pathlib import Path
|
|
|
|
from conftest import (
|
|
base_ctx, list_entities, list_relations, make_node, run_enricher,
|
|
)
|
|
|
|
|
|
# Texto con varios IoCs detectables por extract_iocs (regex puro).
|
|
SAMPLE_MD = """# Reporte
|
|
|
|
Indicators:
|
|
- Email: bad@evil.example y otra@victim.example
|
|
- IP: 192.0.2.55
|
|
- CVE: CVE-2024-12345
|
|
- Hash: 44d88612fea8a8f36de82e1278abb02f
|
|
"""
|
|
|
|
|
|
def test_extract_iocs_creates_typed_entities(ops_db, app_dir, registry_root):
|
|
md_dir = Path(app_dir) / "cache" / "cd"
|
|
md_dir.mkdir(parents=True, exist_ok=True)
|
|
md_path = md_dir / "ddd.md"
|
|
md_path.write_text(SAMPLE_MD, encoding="utf-8")
|
|
rel = md_path.relative_to(app_dir)
|
|
|
|
make_node(ops_db, node_id="w1", name="report",
|
|
type_ref="Url", metadata={"markdown_path": str(rel)})
|
|
ctx = base_ctx(ops_db=ops_db, app_dir=app_dir, registry_root=registry_root,
|
|
node_id="w1", node_name="report", node_type="Url",
|
|
metadata={"markdown_path": str(rel)})
|
|
|
|
rc, out, err = run_enricher("extract_text_entities", ctx)
|
|
assert rc == 0, err
|
|
assert out is not None
|
|
assert out["entities_added"] >= 3, out
|
|
|
|
types = {e["type_ref"] for e in list_entities(ops_db)
|
|
if e["type_ref"] != "Url"}
|
|
# No exigimos todos los tipos — depende de que extract_iocs cubra cada
|
|
# patron — pero al menos Email y CVE deberian estar.
|
|
assert "Email" in types, types
|
|
assert "CVE" in types, types
|
|
|
|
rels = list_relations(ops_db, name="EXTRACTED_FROM")
|
|
assert len(rels) >= 3
|
|
assert all(r["to_entity"] == "w1" for r in rels)
|
|
|
|
|
|
def test_extract_iocs_without_markdown_errors(ops_db, app_dir, registry_root):
|
|
make_node(ops_db, node_id="w1", name="empty",
|
|
type_ref="Url", metadata={})
|
|
ctx = base_ctx(ops_db=ops_db, app_dir=app_dir, registry_root=registry_root,
|
|
node_id="w1", node_name="empty", node_type="Url")
|
|
rc, out, err = run_enricher("extract_text_entities", ctx)
|
|
assert rc != 0
|
|
assert out and "missing markdown_path" in (out.get("error") or "")
|