Ir al contenido principal

Entradas

Destacados

ORION-AGI v1: soft prompting neurocondicional sobre Mistral-7B y consolidación federada de excepciones TAE mediante avalanche — Implementación de referencia del pipeline CPEA en tiempo real

  Sobre Mistral-7B-Instruct como modelo base: La elección es elegante por razones que van más allá de la coherencia con CPEA-3. Mistral-7B usa atención con ventana deslizante (Sliding Window Attention, SWA) que reduce la complejidad cuadrática del Transformer estándar —lo que mejora el presupuesto de latencia— y su arquitectura de Grouped Query Attention facilita la inyección de prefijos sin degradación significativa del rendimiento. El soft prompting neurocondicional mediante proyección lineal entrenada es la solución de mínima intrusión: no modifica los pesos del modelo base, solo aprende a hablar su idioma desde el espacio latente de SIGMA-T. La capa de proyección entrenada P: ℝ^d → ℝ^{d_model} (donde d_model = 4096 para Mistral-7B) es técnicamente un adaptador de modalidad, análogo a los usados en modelos multimodales como Flamingo o LLaVA. La diferencia crucial es que aquí la modalidad de entrada no es imagen sino geometría toroidal de campo electromagnético cerebral. Eso ...

Entradas más recientes

ORION-AGI: Orquestación ontológica recursiva para el cálculo en tiempo real del Índice CPEA — Cierre del Pipeline NEXUS-EEG / SIGMA-T / ORION-AGI en la Fase 3 del Corpus Papayaykware

CPEA y uno de los puntos más débiles de la AGI actual: el tiempo interno.