chore: sync from fn-registry agent

This commit is contained in:
fn-registry agent
2026-06-05 17:27:18 +02:00
commit 263547a497
6 changed files with 444 additions and 0 deletions
+17
View File
@@ -0,0 +1,17 @@
# Sub-repos Gitea independientes: cada app y cada analysis tiene su propio .git
# y se versiona en su propio repo dataforge/<name>. El repo del project solo versiona
# las docs de nivel-project (project.md, CONVENTIONS.md, etc.), no el contenido de los hijos.
apps/*/
analysis/*/
# Vaults: datos fuera del repo (symlinks a rutas absolutas), nunca se versionan.
vaults/*
!vaults/.gitkeep
# Entornos, temporales y estado local
.venv/
__pycache__/
*.pyc
node_modules/
*.log
.DS_Store
+208
View File
@@ -0,0 +1,208 @@
# Chromium en este equipo: dónde se toca y cómo
Mapa de referencia de TODOS los puntos donde la configuración de Chromium se manipula en esta
máquina (Linux nativo, Ubuntu 24.04, Chromium 148 del paquete `.deb` de xtradeb — **no snap**).
Objetivo: no volver a redescubrir a ciegas de dónde sale cada comportamiento (extensiones, CDP,
proxy). Reconstruido el 2026-06-05 desde el sistema en vivo + transcripts de sesiones anteriores.
## El wrapper que une todo
`/usr/bin/chromium` es un **shell script** (no el binario). En cada arranque hace, en orden:
1. Sourcea **todos** los archivos de `/etc/chromium.d/*` (cada uno exporta/añade a `CHROMIUM_FLAGS`).
2. Lee las **managed policies** de `/etc/chromium/policies/managed/*.json`.
3. Aplica `master_preferences` (`/etc/chromium/master_preferences`) al crear un perfil nuevo.
4. Lanza el binario real `/usr/lib/chromium/chromium $CHROMIUM_FLAGS "$@"`.
Por eso cualquier cosa en `/etc/chromium.d/` o en el policy aplica a **TODO** chromium que se
lance, con cualquier perfil. Editar requiere `sudo` (`pass show claude/sudo | sudo -S ...`).
## Inventario de puntos de configuración
| Path | Qué controla | Quién/cuándo lo creó | Cómo editar |
|---|---|---|---|
| `/etc/chromium/policies/managed/extensions.json` | **Extensiones force-instaladas en cualquier perfil** (`ExtensionInstallForcelist`). Hoy: solo uBlock Origin Lite. | Proyecto "Code", migración de PC (2026-05-31), 4 extensiones. Reducido a uBlock 2026-06-04. | `fn run apply_chromium_extension_policy --keep <id>...` (idempotente, backup auto) o `sudo` editar el JSON. Backup: `extensions.json.bak.20260605` (las 4 originales). |
| `/etc/chromium.d/cdp` | **CDP global**: `--remote-debugging-port=9222 --remote-allow-origins=*` (bind loopback). | Proyecto web_scraping (2026-06-05), regla 8. | `fn run apply_chromium_cdp_flag [--remove]` o `sudo` editar/borrar el fragmento. |
| `/etc/chromium.d/web_proxy_ext` | Carga la **extensión de captura del proxy** (`--load-extension=~/.web_proxy/extension`). | Proyecto web_proxy (2026-06-02). | Función `install_chromium_proxy_extension_bash_browser` lo reescribe; `--uninstall` lo borra. |
| `/etc/chromium.d/extensions` | Pre-existente del `.deb`: `--enable-remote-extensions` + carga unpacked de `/usr/share/chromium/extensions/*` (vacío). | Paquete Debian (Jan 2025). | No tocar salvo necesidad. |
| `/etc/chromium.d/default-flags` | Flags base del `.deb`: `--show-component-extension-options`, `--enable-gpu-rasterization`, `--no-default-browser-check`, `--disable-pings`, `--media-router=0`. | Paquete Debian. | No tocar. |
| `/etc/chromium.d/dev-shm` | Añade `--disable-dev-shm-usage` si `/dev/shm` < 3.8 GB. | Paquete Debian. | No tocar. |
| `/etc/chromium.d/apikeys` | `GOOGLE_API_KEY` de Debian (pública, para sync/gmail). | Paquete Debian. | No tocar (no es secreto). |
| `/etc/chromium/master_preferences` | Estado inicial de perfiles nuevos (homepage, DuckDuckGo, signin off). **Sin extensiones.** | Distro. | No tocar para extensiones (no es el sitio). |
| `~/.web_proxy/extension/` | Código de la extensión toggle del proxy (MV3, `chrome.proxy`). | App web_proxy. | Vía `install_chromium_proxy_extension`. |
| `~/.mitmproxy/mitmproxy-ca-cert.pem` | CA de mitmproxy para HTTPS sin warnings. | mitmproxy. | `./web_proxy ca` para instrucciones. |
**No existe** (verificado): external-extensions dir (`/usr/share/chromium/extensions` está vacío;
`/opt/chromium.org/...` no existe), cron ni systemd-timer que regenere config de chromium, ni
política `recommended/`. La forcelist es un archivo **estático sin regenerador automático del
sistema**; se aplica de forma reproducible con `fn run apply_chromium_extension_policy` (idempotente,
backup automático) o editándola a mano con sudo (también persistente).
## Extensiones: el mecanismo (LO QUE MÁS CONFUNDE)
Las extensiones de la Chrome Web Store (uBlock, Dark Reader, NoScript, OneTab) se instalan en
**cualquier perfil** vía `ExtensionInstallForcelist` en el policy managed. Chrome las descarga de
`clients2.google.com/service/update2/crx` al arrancar cualquier perfil (incluido temporal/nuevo) y
quedan "managed" (no removibles por la UI). Para cambiarlas se edita el JSON (sudo).
- uBlock se usa en la variante **Lite** (`ddkjiahejlhfcafbddmgiahcphecmpfh`, MV3) porque el uBO
clásico (MV2) no carga en Chromium 148.
- IDs: uBlock Lite `ddkjiahejlhfcafbddmgiahcphecmpfh` · Dark Reader `eimadpbcbfnmbkopoojfekhnkhdbieeh`
· NoScript `doojmbjmlfjjnbmnoijecmcbfeoakpjm` · OneTab `chphlpgkkbolifaimnlloiipkdnihall`.
### Anomalía resuelta (2026-06-05): backups dentro de `managed/` reinyectan extensiones
Tras reducir la forcelist a solo uBlock **en disco**, los perfiles nuevos seguían instalando las 4
(incluso un `--user-data-dir` recién creado las recibía como `location=7` external_policy_download,
activas). Causa raíz: **Chromium lee TODOS los archivos del directorio `policies/managed/` sin filtrar
por extensión de nombre.** El backup `extensions.json.bak.20260605` (con las 4 originales) vivía dentro
de `managed/` y Chromium lo mergeaba con `extensions.json`, así que el forcelist efectivo seguía
teniendo las 4 — ganando incluso sobre un `ExtensionInstallBlocklist`. Mover el `.bak` fuera de
`managed/` (a `policies/policy-backups/`) dejó el forcelist efectivo en solo uBlock y los perfiles
nuevos pasaron a instalar únicamente uBlock.
> Regla dura: en `policies/managed/` (y `recommended/`) **solo** archivos `.json` de política activa.
> Cualquier `.bak`, `.old`, `.orig` ahí se carga como política. La función del registry
> `apply_chromium_extension_policy_bash_browser` ya guarda sus backups fuera de `managed/`.
El secundario (caché en memoria) también existe: aun con el disco correcto, hay que cerrar TODOS los
Chromium (`pkill -9 chromium`) o pulsar `chrome://policy → Reload policies` para que el cambio surta
efecto en runtime.
**Para diagnosticar la forcelist EFECTIVA (no la del archivo):** abrir `chrome://policy` en el
navegador y mirar `ExtensionInstallForcelist` (su columna *Source* y *Value*). No es scriptable por
CDP (`chrome.send` no accesible vía `Runtime.evaluate`); hay que verlo en la UI y pulsar
**"Reload policies"**.
**Para que un cambio en la forcelist surta efecto de verdad:** cerrar **todos** los procesos
chromium a la vez (`pkill -9 chromium`) y relanzar uno; o usar `chrome://policy → Reload policies`.
Mientras quede un chromium vivo con la política vieja, los perfiles nuevos pueden heredarla.
### Perfil limpio para scraping
Dos caminos (regla 9 de `CONVENTIONS.md`):
1. **Perfil nuevo desde cero** + forcelist=solo uBlock → nace solo con uBlock (una vez refrescada
la política). Es lo más limpio; no arrastra nada.
2. **`prepare_chrome_profile`** (clona el perfil real conservando solo uBlock): útil cuando se
necesitan las cookies/sesión del usuario. Borra carpetas de extensiones no-whitelist y purga sus
refs de `Preferences`/`Secure Preferences` (si no, Chrome las re-descarga del Web Store).
## CDP: mapa de puertos
| Puerto | Quién | Cómo se activa |
|---|---|---|
| 9222 | Chromium **diario** del usuario | Fragmento `/etc/chromium.d/cdp` (global, loopback). Todo chromium nuevo nace con él. |
| 9333 (o el que se pida) | Navegador de **automatización** dedicado | `script-navegador launch --port 9333` o `systemd-run ... chromium --remote-debugging-port=9333`. Se pasa `--port` para no chocar con el 9222 global. |
Dos procesos chromium **no** pueden compartir el mismo `--remote-debugging-port`. El `--port` en
cmdline sobreescribe al del fragmento global.
## Proxy / captura mitm (web_proxy)
- App: `projects/web_scraping/apps/web_proxy` (sub-repo Gitea `dataforge/web_proxy`). Compone
funciones del registry: `start_mitm_capture`, `query_mitm_flows`, `rotate_capture_flows`,
`launch_chromium_proxy`, `install_chromium_proxy_extension`.
- Servicio `web_proxy.service` (systemd --user, `Restart=always`): mitmdump/mitmweb.
- Puertos: **proxy de captura `127.0.0.1:8889`**, UI mitmweb `http://127.0.0.1:8081`.
- Capturas: `~/captures/traffic-*.mitm`, rotación configurable (`--rotate-min`), retención 2048 MB
/ 7 días. El addon hace `flush()` por flujo (sobrevive a kill -9).
- **Enrutar el navegador al proxy — dos vías:**
1. Extensión toggle `~/.web_proxy/extension`: popup ON → `chrome.proxy` a `127.0.0.1:8889`; OFF →
directo. **Desde 2026-06-05 se instala vía managed policy, no con `--load-extension`** (Chromium
137+ desactiva `--load-extension` en cuanto hay una managed policy activa: "Loading of unpacked
extensions is disabled by the administrator"). La extensión se empaquetó como `.crx`
(`chromium --pack-extension`, clave en `~/.web_proxy/extension.pem` — NO perder, fija el id
`nanldmckabfghgdebblpfbdbhphhbnde`), con un `~/.web_proxy/update.xml` (`file://`), y se fuerza con
`apply_chromium_extension_policy --keep "<id>=file://$HOME/.web_proxy/update.xml"`. Si se edita la
extensión: re-empaquetar con la MISMA `.pem`, subir `version` en `manifest.json` y `update.xml`.
`/etc/chromium.d/web_proxy_ext` ya NO usa `--load-extension`.
2. Perfil dedicado: `chromium --proxy-server=127.0.0.1:8889` (+ CA mitmproxy o
`--ignore-certificate-errors` para HTTPS).
- Consultar: `./web_proxy query "~d dominio.com" --last`, `./web_proxy har salida.har`,
`./web_proxy inspect`.
## "Si quiero X, toco Y" (resumen accionable)
| Quiero… | Toco… |
|---|---|
| Cambiar qué extensiones tiene cualquier perfil | `fn run apply_chromium_extension_policy --keep <id>...` (o editar el JSON con sudo) + cerrar TODO chromium + relanzar |
| Activar/quitar CDP global | `fn run apply_chromium_cdp_flag [--remove]` (o editar `/etc/chromium.d/cdp` con sudo) |
| Controlar un chromium con CDP | puerto 9222 (diario) o `script-navegador launch --port N` (dedicado) |
| Capturar tráfico HTTP/HTTPS | `web_proxy` (proxy 8889, UI 8081); navegador con `--proxy-server=127.0.0.1:8889` o extensión toggle ON |
| Perfil de scraping limpio | perfil nuevo desde cero (política da solo uBlock) o `prepare_chrome_profile --src ~/.config/chromium --dst <perfil>` |
| Ver la política EFECTIVA | `chrome://policy` en la UI (no por CDP) → "Reload policies" |
## Selector de perfil — SIEMPRE pasar `--profile-directory`
Este equipo tiene **varios perfiles** de chromium en `~/.config/chromium`: `Default`, `Personal`,
`Profile 1`, `Automation` (+ `System Profile`). Si se lanza chromium **sin**
`--profile-directory=<perfil>`, Chrome se queda en el **selector de perfil** y NO carga ninguno.
Consecuencias observadas:
- CDP responde (`/json/version` OK) pero **no hay perfil activo** → los comandos operan sobre una
ventana vacía.
- Las extensiones **no se procesan**: las force-removed de la política no se desinstalan (fue la
causa real de que las 3 extensiones "no se quitaran" — el diario estaba atascado en el picker).
- La sesión (`--restore-last-session`) no se restaura.
**Regla: SIEMPRE lanzar con `--profile-directory="<perfil>"`.**
- Navegador diario del usuario: `--profile-directory="Default"` (o el que use a diario).
- Navegador de automatización/scraping: `--profile-directory="Automation"` (perfil dedicado), o un
`--user-data-dir` nuevo (que tiene un solo perfil y por tanto no muestra picker).
```bash
# Diario (visible, con su perfil y CDP global)
systemd-run --user --unit=chromium-daily --collect --setenv=DISPLAY=:0.0 \
chromium --profile-directory="Default" --restore-last-session
# Automatización (perfil dedicado, proxy mitm, CDP en puerto propio)
systemd-run --user --unit=ws-explore --collect --setenv=DISPLAY=:0.0 \
chromium --profile-directory="Automation" --remote-debugging-port=9333 \
'--remote-allow-origins=*' --proxy-server=127.0.0.1:8889 --ignore-certificate-errors \
--window-size=1366,768 about:blank
```
> Nota: `script-navegador launch` con `--user-data-dir` propio evita el picker (perfil único). Para
> apuntar al perfil real multi-perfil del usuario, añadir `--profile-directory`.
## Gotchas aprendidos (para no repetir)
- **`.bak`/`.old`/`.orig` en directorios "source-todo" se activan**: tanto
`/etc/chromium/policies/managed/` como `/etc/chromium.d/` se cargan ENTEROS (todos los archivos, sin
filtrar por extensión de nombre). Un `extensions.json.bak` en `managed/` se mergea como política (y
reinyecta sus extensiones); un `cdp.bak` en `chromium.d/` se sourcea como shell. Guardar SIEMPRE los
backups FUERA de esos directorios (este equipo usa `policies/policy-backups/` y
`chromium/chromiumd-backups/`).
- **Perfil diario real = `~/.config/chromium-cdp`** (lo fuerza `/etc/chromium.d/cdp`), NO
`~/.config/chromium`. Limpiar/inspeccionar el perfil del usuario = operar sobre `chromium-cdp`.
- **Selector de perfil**: con varios perfiles, sin `--profile-directory` Chrome se atasca en el
picker y no carga nada (ver sección arriba). SIEMPRE especificarlo.
- **El archivo de policy en disco ≠ política efectiva**: Chrome cachea; verifica siempre en
`chrome://policy`, no solo con `cat`. Para aplicar cambios, cierra todos los chromium.
- **Lanzar chromium desde el Bash tool de Claude da exit-144** (el harness mata el cgroup). Usa
`systemd-run --user --unit=<x> --collect chromium ...` aislado. Ver memoria
`harness-exit-144-chromium`. (No afecta a binarios Go ni al uso real del usuario.)
- **`--remote-allow-origins=*` debe ir entre comillas en zsh** (el `*` se expande como glob).
- **Dark Reader no toca páginas `chrome://`**: una captura de `chrome://version` sale clara aunque
Dark Reader esté activo; usa una web normal para verificar si está oscureciendo.
- **`prepare_chrome_profile` clonando**: borra carpetas Y purga `Preferences`, pero pueden quedar
refs benignas en `commands`/pins; lo que causa re-descarga es `extensions.settings` (ya se purga).
- **Lock por user-data-dir**: dos procesos chromium NO pueden compartir el mismo `--user-data-dir`
(aunque sea con `--profile-directory` distinto). Si el diario tiene `~/.config/chromium` abierto,
un segundo chromium sobre ese mismo user-data-dir muere/delegará al existente y su
`--remote-debugging-port` no escucha. Para automatización en paralelo: usar un `--user-data-dir`
dedicado (p.ej. `~/.local/share/web_scraping/scrape-fresh`).
- **Ventana visible (headless=false) desde systemd-run**: hay que pasar el entorno gráfico:
`--setenv=DISPLAY=:0 --setenv=XAUTHORITY=$HOME/.Xauthority`. Sin ellos chromium no conecta al X
server y muere. (`DISPLAY` es `:0`, no `:0.0`.)
- **Mover la ventana sin xdotool/wmctrl** (no instalados): usar CDP nativo —
`Browser.getWindowForTarget` (sobre el ws browser-level de `/json/version`) → `windowId`, luego
`Browser.setWindowBounds {left,top,width,height}`. Funciona en modo visible; `windowState:normal`
confirma ventana real.
- **Proxy mitm (8889) ralentiza/cuelga sitios externos**: con `--proxy-server=127.0.0.1:8889`, la
navegación a sitios externos (p.ej. TED) puede tardar mucho o dejar el renderer atascado, y eso
bloquea `open`/`eval`/`shot` sobre esa tab. Para scraping con captura: subir timeouts, o revisar
la salud del upstream del proxy. Sin proxy, en este equipo la salida directa a internet puede dar
`ERR_CONNECTION_RESET` (la red parece pasar por la infra de captura). A revisar.
+170
View File
@@ -0,0 +1,170 @@
# Convenciones del proyecto web_scraping
Reglas operativas para todo control de navegador y extracción web del proyecto. Aplican a la app
`script_navegador`, a los scripts YAML y a cualquier función del dominio `browser` que se use desde
aquí. Construido 100% sobre Linux nativo (sin WSL/Windows).
> Nota: estas son **convenciones** (cómo se trabaja), no datos. Los datos extraídos (pliegos,
> RFPs, listados) van en `vaults/` cuando empecemos a capturar.
## 1. Tamaño de ventana fijo
Todo navegador se lanza con un tamaño de ventana explícito y estable. Por defecto `1366x768`
(resolución de portátil muy común → menos sospechosa que un viewport raro).
- Motivo: reproducibilidad de selectores/screenshots y menor superficie de fingerprinting (un
viewport común y consistente es menos señalable que uno aleatorio por sesión).
- Implementación: `script-navegador launch --width 1366 --height 768` (flags `--window-size` a
Chrome). Nunca lanzar sin tamaño definido.
## 2. Carpeta de usuario dedicada del proyecto
Siempre se define un `user-data-dir` propio del proyecto, nunca el perfil real del usuario por
defecto (evita locks y contaminación de la sesión personal).
- Ruta por defecto: `~/.local/share/web_scraping/chrome-profile`.
- Implementación: `script-navegador launch --profile <dir>` (default ya apunta ahí).
- El perfil es persistente entre ejecuciones (cookies, login, estado de extensiones).
## 3. Flujo headless: primero visible, luego headless
Se empieza desarrollando **con ventana visible** (`headless=false`) para ver lo que pasa y depurar
selectores junto al humano. Solo cuando un flujo está estandarizado y probado se pasa a
`headless=true` para correrlo desatendido/en lote.
- Default de `launch`: `headless=false`.
- Promoción a headless: pasar `--headless` una vez el script YAML del flujo es estable.
## 4. Esperas inteligentes + pequeños sleeps aleatorios
Nunca `sleep` ciegos fijos como mecanismo de sincronización. Se espera a **condiciones reales**:
- `readyState=complete` (`cdp_wait_load`).
- **Red en reposo** (`cdp_wait_idle`): nº de peticiones HTTP/WS en vuelo == 0 durante N ms
(señal "network idle"). Es inmune a extensiones que mutan el DOM y a animaciones JS. Timeout
corto (8s) porque páginas con polling/websockets persistentes pueden no llegar nunca a 0.
- Selector presente (`cdp_wait_element`).
Sobre esas esperas se añaden **micro-pausas aleatorias < 500 ms** (`jitter`) entre acciones, para
imitar el ritmo humano (anti-detección). El random es complemento, no sustituto, de la espera real.
> Histórico: `cdp_wait_idle` usó al principio la longitud de `innerHTML` como señal de quietud,
> pero con extensiones como Dark Reader (que reinyecta estilos sin parar) el DOM nunca se
> estabilizaba y la espera agotaba siempre el timeout. Por eso se migró a network-idle.
## 5. Captura de datos vía extensión mitm (web_proxy)
El tráfico se puede capturar con la infraestructura `web_proxy` (mitmproxy + extensión de toggle
ya presente en `/etc/chromium.d/`). Por eso los navegadores se lanzan con `--keep-extensions`
(no `--disable-extensions`): la extensión de captura debe seguir cargada.
- mitmweb corre en `127.0.0.1:8081`; el proxy de captura en `:8889`.
- Las capturas rotan a `~/captures` (ver `rotate_capture_flows.py`).
- El toggle del proxy es per-perfil; activarlo en el perfil del proyecto cuando se quiera capturar.
## 6. Movimientos de ratón + clics realistas
Las interacciones (click, drag) deben simular trayectorias humanas (curvas, aceleración, micro-
desvíos), no saltos instantáneos a coordenadas. **Stack decidido: Go puro** — curvas Bézier sobre
`Input.dispatchMouseEvent` como funciones del registry (`cdp_move_mouse_human`, `cdp_click_human`),
sin dependencias externas. **Integrado y por defecto** (script_navegador v0.2.0): el comando `click` y
la acción `click` del runner YAML usan Bézier sin pedir nada. Opt-out con `--instant` (CLI) o
`instant: true` (paso YAML) cuando el elemento no tiene bounding box visible y conviene el click directo.
## 7. Proxys rotativos (Decodo) — futuro
Más adelante se integrarán proxys residenciales rotativos con **Decodo** (antes Smartproxy) para
distribuir las peticiones y evitar bloqueos por IP. Pendiente de implementar (ver
`## Pendientes`).
## 8. CDP siempre activo en el navegador del usuario — futuro / decisión de seguridad
Objetivo: poder usar las capacidades de automatización sobre el **chromium que el usuario usa a
diario** mientras navega, modificando el launcher (`/etc/chromium.d/`) para que todo chromium
nazca con CDP activado.
**APLICADO** (2026-06-05): fragmento `/etc/chromium.d/cdp` con
`--remote-debugging-port=9222 --remote-allow-origins=*`, **sin** `--remote-debugging-address=0.0.0.0`
→ el puerto bindea solo en loopback (127.0.0.1), no accesible desde la red. Todo chromium que el
usuario abra a partir de ahora nace con CDP. (El chromium ya abierto antes del cambio no tiene CDP
hasta reiniciarlo.)
Reproducible entre PCs con la función del registry `apply_chromium_cdp_flag_bash_browser` (no
editar el fragmento a mano):
```bash
fn run apply_chromium_cdp_flag # escribe /etc/chromium.d/cdp (loopback 9222, idempotente)
fn run apply_chromium_cdp_flag --dry-run # previsualiza sin tocar nada
fn run apply_chromium_cdp_flag --remove # desactiva CDP global
# --network añade --remote-debugging-address=0.0.0.0 (expone a la red: riesgo, ver Gotchas)
```
> Coordinación de puertos: el chromium diario ocupa el 9222 global. Para sesiones de automatización
> con perfil dedicado, lanzar en OTRO puerto: `script-navegador launch --port 9333`. Dos procesos
> chromium no pueden compartir el mismo `--remote-debugging-port`.
> ⚠️ Implicación de seguridad: con CDP abierto, **cualquier proceso local del usuario** puede
> controlar el navegador y leer cookies/sesiones autenticadas. El bind solo-local evita acceso
> desde la red, pero NO protege de procesos locales. Aceptado conscientemente para este equipo
> de un solo usuario. No replicar en máquinas compartidas/multiusuario.
## 9. Perfiles nuevos: solo uBlock Origin Lite
Al **preparar un perfil de usuario nuevo** para automatización (clonando del perfil real del
usuario), se conserva **únicamente uBlock Origin Lite** (`ddkjiahejlhfcafbddmgiahcphecmpfh`) y se
eliminan el resto de extensiones del usuario.
- Motivo: uBlock reduce ruido (anuncios, trackers) → páginas más limpias y rápidas de scrapear.
Las demás estorban la automatización:
- **Dark Reader**: reinyecta estilos sin parar → rompe esperas por DOM y oscurece screenshots.
- **NoScript**: bloquea JavaScript → rompe SPAs y scraping de contenido dinámico.
- **OneTab**: interfiere con la gestión de pestañas.
- La extensión de captura `web_proxy` es **aparte**: se carga globalmente vía `/etc/chromium.d/`
(no es una extensión del perfil), por lo que esta regla no la toca. uBlock + web_proxy conviven.
### Dos mecanismos (sistema + clonado)
1. **Política de sistema (primario)**`/etc/chromium/policies/managed/extensions.json` con
`ExtensionInstallForcelist` fuerza la instalación de extensiones en **cualquier perfil** de
chromium del equipo. Reducido el 2026-06-05 a **solo uBlock Origin Lite**
(`ddkjiahejlhfcafbddmgiahcphecmpfh`). Antes forzaba 4 (uBlock + Dark Reader + NoScript +
OneTab). Esto garantiza que todo perfil nuevo —lo cree quien lo cree— nazca solo con uBlock,
sin pasos extra. Backup del original en `extensions.json.bak.20260605`.
- ⚠️ Afecta también el perfil diario del usuario: al reiniciar chromium, las extensiones que
ya no están en la forcelist se desinstalan.
- Editar requiere `sudo` (`pass claude/sudo`).
- Reproducible entre PCs con la función del registry `apply_chromium_extension_policy_bash_browser`
(no editar el JSON a mano): escribe la forcelist de forma idempotente con backup automático.
```bash
# Forzar solo uBlock Origin Lite en todos los perfiles
fn run apply_chromium_extension_policy --keep ddkjiahejlhfcafbddmgiahcphecmpfh
fn run apply_chromium_extension_policy --keep ddkjiahejlhfcafbddmgiahcphecmpfh --dry-run
```
2. **Clonado con filtro (secundario)** — `prepare_chrome_profile --src ~/.config/chromium
--dst <perfil_proyecto>` clona un perfil existente (cookies, sesiones) conservando solo la
whitelist de extensiones (`--keep <id>`, default uBlock). Útil cuando se quiere arrancar de
una copia del perfil real; la base de extensiones ya la garantiza la política de sistema.
---
## Pendientes (decisiones abiertas)
| # | Tema | Estado |
|---|---|---|
| 7 | Proxys rotativos con Decodo | Futuro, sin empezar |
## Estado de implementación
| Regla | Estado | Dónde |
|---|---|---|
| 1. Tamaño de ventana fijo | ✅ | `script-navegador launch --width/--height` (default 1366x768) |
| 2. Carpeta de usuario del proyecto | ✅ | `--profile` (default `~/.local/share/web_scraping/chrome-profile`) |
| 3. Flujo headless visible→true | ✅ convención | `launch` default `headless=false` |
| 4. Esperas inteligentes + jitter | ✅ | `cdp_wait_load`+`cdp_wait_idle` (network-idle)+`jitter()` |
| 5. Captura mitm | ✅ infra | `--keep-extensions` + `web_proxy` |
| 6. Ratón/clics realistas | ✅ | `cdp_move_mouse_human` + `cdp_click_human`; default en `script-navegador click` y runner YAML (opt-out `--instant` / `instant: true`) |
| 7. Proxys rotativos Decodo | ⏳ | futuro |
| 8. CDP global en chromium usuario | ✅ | `/etc/chromium.d/cdp` aplicado (loopback 9222) |
| 9. Perfiles nuevos solo uBlock | ✅ | `prepare_chrome_profile --src ~/.config/chromium --dst <perfil>` |
View File
+49
View File
@@ -0,0 +1,49 @@
---
name: web_scraping
description: "Plataforma de control de navegador y automatización web sobre Chrome via CDP en Linux nativo. Base reutilizable para scraping, automatización de tareas web, descubrimiento de endpoints/APIs para pentesting y captura de tráfico."
tags: [scraping, browser, cdp, automation, pentesting, linux]
repo_url: ""
---
## Notas
Proyecto paraguas, de uso continuo, para todo lo relacionado con control de navegador y trabajo
sobre la web. No está atado a ningún dominio concreto: cualquier tarea de scraping, automatización
o reconocimiento web se hace y se capitaliza aquí. Construido 100% sobre Linux nativo (sin
dependencia de WSL/Windows). El control del navegador se hace con Chrome DevTools Protocol (CDP)
crudo a través de las funciones del dominio `browser` del registry, no con Playwright/Selenium.
### Para qué sirve
- **Web scraping**: extracción de datos de páginas y APIs, con o sin login, incluyendo SPAs.
- **Automatización web**: rellenar formularios, flujos multi-paso, tareas repetitivas en webapps.
- **Descubrimiento de endpoints (pentesting / recon)**: capturar el tráfico HTTP/WS que genera una
página (`cdp_har_record` + extensión mitm de `web_proxy`) para mapear las APIs reales que usa,
detectar endpoints ocultos y analizar peticiones.
- **Captura de tráfico**: interceptación y registro de flujos vía mitmproxy para análisis posterior.
- **Monitoreo / testing**: vigilar cambios en páginas, validar comportamiento, smoke de webs.
### Componentes
| Componente | Tipo | Estado | Qué hace |
|---|---|---|---|
| `script_navegador` | app (Go) | activo | Controlador de navegador: modo CLI rápido (comandos sueltos: open/click/type/eval/shot/tabs) + runner de scripts YAML. Compone funciones `cdp_*` del registry. |
| `web_proxy` | app (bash) | externo | Proxy de interceptación HTTP/HTTPS (mitmproxy). Vive en `apps/web_proxy`; provee la captura de tráfico que consume este proyecto. |
| vaults | datos | reservado | Datos extraídos por cada campaña (scrapes, HARs, listados, capturas). |
| analysis | exploración | reservado | Notebooks sobre los datos extraídos / capturados. |
### Filosofía
- **Registry-first**: toda capacidad reutilizable de navegador (lanzar Chrome, navegar, click,
type, screenshot, esperas inteligentes, captura HAR) vive en `functions/browser/` del registry.
La app solo orquesta: parsea comandos y compone funciones. Lo que sirva para una campaña sirve
para todas.
- **Esperas inteligentes siempre**: los scripts y comandos esperan condiciones reales del DOM
(readyState, selector presente, DOM estabilizado) en lugar de `sleep` ciegos. Ver
`CONVENTIONS.md`.
- **Linux nativo**: lanzamiento directo de `chromium`/`google-chrome` con `os/exec`, sin
`wslpath`, sin `chrome.exe`, sin proxies WSL↔Windows.
Las reglas operativas (tamaño de ventana, perfil del proyecto, headless, jitter, captura,
movimientos realistas, proxys rotativos, CDP en el navegador del usuario) están en
`CONVENTIONS.md`.
View File