Qué importa de verdad al elegir un LLM para investigación científica
Un modelo capaz de redactar un buen resumen bibliográfico puede fallar justo donde un investigador invierte más horas: comprobar una derivación matemática, comparar barras de error entre dos figuras suplementarias o revisar la metodología de veinte PDFs a la vez. Cuatro criterios marcan la diferencia:
- Razonamiento científico y matemático auditable. Conviene que el modelo exponga sus pasos intermedios para comprobar supuestos, unidades y álgebra en lugar de dar una respuesta cerrada.
- Visión nativa sobre figuras y páginas de PDF. Extraer solo texto plano destruye escalas de ejes, leyendas, fórmulas estructurales, espectros y notación matemática. Hace falta un modelo visual-lingüístico que lea las páginas y gráficas directamente.
- Contexto largo real sin truncado silencioso. Contrastar un borrador con tablas suplementarias, protocolos y artículos previos supera fácilmente los 100.000–500.000 tokens. Muchas interfaces descartan texto antiguo en silencio al acercarse a su límite interno.
- Soberanía de datos y cero entrenamiento con trabajo inédito. Preprints en revisión, propuestas de financiación, cohortes clínicas y resultados experimentales propios no deberían salir de la Unión Europea ni alimentar futuros entrenamientos.
| Opción | Gráficas multipanel y PDFs | Contexto real de 1M | Alojamiento UE y cero retención API | Modelo de precio |
|---|---|---|---|---|
| Chatbots de consumo de EE. UU. | Sí | Limitado o según plan | No (procesado en EE. UU.; exclusión de entrenamiento variable) | Suscripción por usuario con topes de mensajes |
| SaaS académicos de citas (Scite, Paperpal, etc.) | Enfocados sobre todo a texto y citas | Ventanas cortas por paper | Habitualmente SaaS alojado en EE. UU. | Suscripción por usuario |
| Nubes enterprise de EE. UU. en región UE | Según modelo | Según modelo | Sí, con contrato DPA enterprise | Pago por token |
Vora Compute (Nemotron 3.5 Super VL) | Visión nativa (hasta 8 imágenes / petición) | Verificado hasta 1.000.000 de tokens | UE, API sin retención, chats cifrados borrables | 19 €/mes o 192 €/año (16 €/mes) el primer año hasta el 1 de diciembre de 2026 (después, 29 €/mes o 288 €/año, sin IVA); uso razonable: 2 peticiones a la vez |
Por dentro de NVIDIA Nemotron 3.5 Super VL (120B / 12B activos)
NVIDIA Nemotron 3.5 Super VL (licencia OpenMDW-1.1, dentro del ecosistema NVIDIA Nemotron) emplea una arquitectura híbrida Mamba-2 + Mixture-of-Experts (MoE) + Attention junto al codificador visual C-RADIO de NVIDIA. Aunque cuenta con 120.000 millones de parámetros totales, el enrutamiento MoE activa solo 12.000 millones por token, y las capas Mamba-2 escalan de forma lineal con la longitud de la secuencia en lugar de desplomarse cuadráticamente como un Transformer clásico.
En las evaluaciones publicadas por NVIDIA para el checkpoint BF16 y para el checkpoint cuantizado NVFP4 (el que sirve Vora):
| Benchmark | Qué evalúa | Puntuación BF16 | Puntuación NVFP4 |
|---|---|---|---|
| GPQA Diamond | Preguntas de nivel posgrado en física, química y biología (sin herramientas) | 89,52% | 89,90% |
| CharXiv Reasoning | Interpretación y razonamiento sobre gráficas científicas multipanel | 80,82% | 79,88% |
| MathVision | Razonamiento matemático multimodal con diagramas, gráficas y ecuaciones | 78,16% | 77,79% |
La cercanía entre NVFP4 y BF16 es notable en los tres benchmarks científicos —a menos de 0,4 puntos porcentuales en MathVision, menos de 1,0 punto en CharXiv Reasoning y ligeramente superior en GPQA Diamond— liberando suficiente memoria de GPU para mantener todo el KV cache de 1M en precisión BF16.
Rendimiento real a 1M de contexto: qué hemos medido en producción
Muchos proveedores anuncian «1M de contexto» en su catálogo sin comprobar si el modelo recupera datos cerca del límite ni a qué velocidad decodifica cuando hay cientos de miles de tokens cargados. Antes de abrir nemotron-3.5-super-vl-120b en Vora Compute, nuestro equipo ejecutó una batería sintética de aceptación sobre nuestro entorno de producción NVFP4 (con KV cache completo en BF16 —sin cuantización agresiva del KV— y decodificación especulativa multipunto activada):
| Prueba (medición interna sintética, noviembre 2026) | Resultado medido | Por qué importa en investigación |
|---|---|---|
| Recuperación distribuida a 999.486 tokens de entrada (4 registros + suma) | Respuesta exacta; prefill ~3.900 tokens/s (~255–259 s) | Demuestra que el millón de tokens recupera datos reales sin truncado silencioso |
| Decodificación en prosa cerca del límite (~996.000 tokens de entrada) | 81,5 tokens/s | Las capas Mamba-2 mantienen una generación fluida incluso cerca de 1M |
| Decodificación en prosa en prompt corto (2.048 tokens) | 190,4 tokens/s | Respuesta ágil en preguntas concretas y comprobación de ecuaciones |
| Reutilización de caché de prefijo sobre 131.072 tokens (misma cuenta) | 10,0 s en frío → 0,26 s en caliente (131.056 tokens cacheados) | Las preguntas de seguimiento sobre un dossier largo responden casi al instante |
| Aislamiento de caché entre cuentas (mismo prompt de 131.072 tokens) | 10,1 s (0 tokens reutilizados en una segunda cuenta) | Verifica que dos cuentas nunca comparten estado KV en caché |
Nota metodológica: Estas cifras proceden de pruebas internas de aceptación con prompts sintéticos y reflejan el comportamiento medido del hardware, no un SLA de latencia bajo carga compartida. Vora calcula con exactitud la entrada renderizada más la salida reservada y rechaza cualquier petición excedida en lugar de recortarla.
Cómo trabajar con figuras científicas, gráficas multipanel y PDFs
Puedes usar Nemotron 3.5 Super VL en Vora de dos formas, según prefieras trabajar desde el navegador o automatizar análisis en Python.
En el navegador (sin programar)
Abre Chat, elige Nemotron 3.5 Super VL y selecciona el nivel de razonamiento Medium o High:
- Adjunta PDFs o figuras exportadas (PNG, JPEG o WebP). Chat envía las páginas del PDF como imágenes para que el modelo lea gráficas, leyendas y ecuaciones formateadas directamente en lugar de depender solo de texto extraído.
- Activa Chat temporal cuando revises manuscritos sensibles para no guardar nada, o conserva chats cifrados en la UE que puedes borrar de inmediato en cualquier momento.
- Consejo importante de privacidad: La búsqueda web viene activada por defecto en Chat (mediante Linkup, proveedor con sede en Francia que puede procesar consultas de búsqueda fuera de la UE). Desactiva la búsqueda web en el cuadro de mensaje siempre que trabajes con datos confidenciales no publicados para que ninguna consulta salga de los servidores de Vora.
Desde Python y cuadernos Jupyter
Para extracción por lotes, comprobaciones automáticas o cuadernos Jupyter, apunta el SDK oficial de OpenAI a https://api.voracompute.com/v1. Envía las figuras como URLs base64 (image_url) y separa el razonamiento (reasoning_content) de la respuesta final:
import base64
import os
import sys
from pathlib import Path
from openai import OpenAI
client = OpenAI(
base_url="https://api.voracompute.com/v1",
api_key=os.environ["VORA_API_KEY"],
timeout=3660.0, # Necesario solo si envías contextos muy largos (>256K)
)
img_b64 = base64.b64encode(Path("figure_3.png").read_bytes()).decode("ascii")
stream = client.chat.completions.create(
model="nemotron-3.5-super-vl-120b",
reasoning_effort="high",
max_tokens=4096,
stream=True,
stream_options={"include_usage": True},
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": (
"Inspecciona los paneles A y B. Extrae las unidades de los ejes, "
"compara el cambio de pendiente por encima de 300 K y señala "
"cualquier posible inconsistencia con el pie de figura."
),
},
{
"type": "image_url",
"image_url": {"url": f"data:image/png;base64,{img_b64}"},
},
],
}
],
)
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
thinking = getattr(delta, "reasoning_content", None)
if thinking:
print(thinking, end="", file=sys.stderr, flush=True)
print(delta.content or "", end="", flush=True)
Ten en cuenta los límites de imagen: hasta 8 imágenes y 10 MiB de datos decodificados en toda la petición (incluido el historial). Nemotron reescala automáticamente las imágenes por encima de unos 3,4 megapíxeles (~258 a 3.300 tokens por imagen) y nunca descarga URLs remotas. Cuando la conversación incluye imágenes, la temperatura por defecto pasa a 0.6 si no la especificas.
Privacidad, RGPD y sostenibilidad para equipos de investigación europeos
Para universidades, hospitales y grupos de I+D sujetos al RGPD o a acuerdos de propiedad intelectual, dónde corre la inferencia importa tanto como el benchmark:
- Alojamiento en la Unión Europea:
nemotron-3.5-super-vl-120bse ejecuta en GPU situadas en la UE, operadas por un proveedor europeo. - Cero retención en la API: Prompts, imágenes, trazas de razonamiento, llamadas a herramientas y respuestas pasan solo por memoria volátil y nunca se escriben en disco. Los logs de contenido del motor, la caché persistente de prompts y la caché del procesador de imágenes están desactivados. Solo guardamos métricas técnicas de cada petición (hora, modelo, recuento de tokens, latencia, estado y clave).
- Chats cifrados y borrables: Las conversaciones guardadas en el navegador se cifran antes de almacenarse en la UE, nunca se usan para entrenar modelos y se eliminan de inmediato cuando las borras. Los chats temporales nunca se guardan. Puedes leer la especificación completa en Privacidad de Vora.
- Recuperación de calor: Junto a nuestro partner de infraestructura Hotta, el calor residual de los servidores de nuestra huella europea se aprovecha para calentar agua en edificios en lugar de desperdiciarse —un criterio cada vez más valorado en políticas universitarias de sostenibilidad.
Hábitos de verificación y límites reales
Incluso un modelo con 89,9% en GPQA Diamond comete errores. Las buenas prácticas científicas siguen siendo imprescindibles:
- Verifica la aritmética y el álgebra con código. Usa Nemotron para plantear o revisar una derivación y valida los pasos numéricos en Python o SymPy en lugar de fiarte a ciegas del cálculo token a token.
- Recorta paneles densos antes de subirlos. Si una figura multipanel tiene tipografía muy pequeña, recórtala en paneles individuales (puedes enviar hasta 8 imágenes por petición) para que el reescalado sobre 3,4 MP no difumine exponentes ni barras de error.
- Comprueba las citas sobre el texto original. No confíes en referencias generadas de memoria; introduce los PDFs fuente en la ventana de 1M y pide al modelo que cite exactamente la página y la tabla.
- Conoce los límites del plan y de petición: Tarifa plana sin cobro por token, 2 peticiones simultáneas por cuenta (como máximo 1 petición larga de más de 262.144 tokens), 32.768 tokens de salida máxima (entre razonamiento y respuesta final), límite JSON de 15 MiB, y niveles
reasoning_effortnone,mediumyhigh. - Cuándo elegir Qwen 3.8 27B en su lugar: Si tu tarea principal es programar o refactorizar software científico dentro de un agente como OpenCode, Cline o Aider, cambia a
qwen3.8-27b— consulta nuestra guía para desarrolladores.
Preguntas frecuentes
- ¿Puedo subir manuscritos inéditos o textos de investigación sujetos al RGPD con seguridad?
- A través de la API los prompts, documentos e imágenes nunca se escriben en disco ni se registran, y la inferencia corre en la Unión Europea. En el Chat del navegador, activa el Chat temporal y desactiva la búsqueda web cuando trabajes con material estrictamente confidencial. Antes de subir datos personales identificables, verifica siempre los requisitos propios de tu institución.
- ¿Necesito saber programar para usar Nemotron 3.5 Super VL en Vora?
- No. Puedes trabajar directamente en Chat subiendo PDFs e imágenes, o pasar a la API de Python compatible con OpenAI cuando quieras automatizar lotes reproducibles.
- ¿Reduce la cuantización NVFP4 la precisión matemática o científica?
- En los benchmarks publicados por NVIDIA, NVFP4 obtiene 89,90% frente a 89,52% (BF16) en GPQA Diamond, 79,88% frente a 80,82% en CharXiv Reasoning y 77,79% frente a 78,16% en MathVision, dejando además memoria libre en GPU para mantener todo el KV cache de 1M en precisión BF16.
- ¿Cuánto cuesta el acceso para grupos universitarios y equipos de I+D?
- 29 €/mes o 288 €/año (24 €/mes) por persona, sin IVA — o 19 €/mes (y 192 €/año, 16 €/mes, en una única factura anual) el primer año si te suscribes hasta el 1 de diciembre de 2026. Incluye el Chat del navegador y la API sin contar tokens, con un uso razonable de 2 peticiones simultáneas. Cancela cuando quieras.