← Tornar al blog
Guia tècnica · Per a científics

NVIDIA Nemotron 3.5 Super VL per a científics: articles, gràfiques i matemàtiques amb privacitat europea

La majoria de llistes sobre la «millor IA per a recerca» comparen cercadors de cites o xatbots de consum i passen per alt els quatre punts on fallen els models en un laboratori real: raonament quantitatiu, lectura precisa de gràfiques multipanell, capacitat de carregar molts articles sense truncament silenciós i confidencialitat europea per a manuscrits no publicats. NVIDIA Nemotron 3.5 Super VL (nemotron-3.5-super-vl-120b) és un model multimodal de pesos oberts dissenyat per a ciència, matemàtiques i documents complexos; a Vora Compute corre sobre GPU a la Unió Europea amb 1.000.000 de tokens de context verificats, accessible tant des del navegador com des de Python.

Què importa de debò en triar un LLM per a recerca científica

Un model capaç de redactar un bon resum bibliogràfic pot fallar just on un investigador inverteix més hores: comprovar una derivació matemàtica, comparar barres d’error entre dues figures suplementàries o revisar la metodologia de vint PDFs alhora. Quatre criteris marquen la diferència:

  1. Raonament científic i matemàtic auditable. Convé que el model exposi els passos intermedis per verificar supòsits, unitats i àlgebra en lloc de donar una resposta tancada.
  2. Visió nativa sobre figures i pàgines de PDF. Extreure només text pla destrueix escales d’eixos, llegendes, fórmules estructurals, espectres i notació matemàtica. Cal un model visual-lingüístic que llegeixi les pàgines i gràfiques directament.
  3. Context llarg real sense truncament silenciós. Contrastar un esborrany amb taules suplementàries, protocols i articles previs supera fàcilment els 100.000–500.000 tokens. Moltes interfícies descarten text antic en silenci quan s’acosten al seu límit intern.
  4. Sobirania de dades i zero entrenament amb feina inèdita. Preprints en revisió, propostes de finançament, cohorts clíniques i resultats experimentals propis no haurien de sortir de la Unió Europea ni alimentar futurs entrenaments.
Comparativa d’opcions d’LLM per a recerca científica, figures, 1M de context i privacitat UE
OpcióGràfiques multipanell i PDFsContext real d’1MAllotjament UE i zero retenció APIModel de preu
Xatbots de consum dels EUASíLimitat o segons plaNo (processat als EUA; exclusió d’entrenament variable)Subscripció per usuari amb límits de missatges
SaaS acadèmics de cites (Scite, Paperpal, etc.)Enfocats sobretot a text i citesFinestres curtes per articleHabitualment SaaS allotjat als EUASubscripció per usuari
Núvols enterprise dels EUA en regió UESegons modelSegons modelSí, amb contracte DPA enterprisePagament per token
Vora Compute (Nemotron 3.5 Super VL)Visió nativa (fins a 8 imatges / petició)Verificat fins a 1.000.000 de tokensUE, API sense retenció, xats xifrats esborrables19 €/mes o 192 €/any (16 €/mes) el primer any fins a l’1 de desembre de 2026 (després, 29 €/mes o 288 €/any, sense IVA); ús raonable: 2 peticions alhora

Per dins de NVIDIA Nemotron 3.5 Super VL (120B / 12B actius)

NVIDIA Nemotron 3.5 Super VL (llicència OpenMDW-1.1, dins de l’ecosistema NVIDIA Nemotron) utilitza una arquitectura híbrida Mamba-2 + Mixture-of-Experts (MoE) + Attention juntament amb el codificador visual C-RADIO de NVIDIA. Tot i comptar amb 120.000 milions de paràmetres totals, l’encaminament MoE n’activa només 12.000 milions per token, i les capes Mamba-2 escalen linealment amb la longitud de la seqüència en lloc d’enfonsar-se quadràticament com un Transformer clàssic.

En les avaluacions publicades per NVIDIA per al checkpoint BF16 i per al checkpoint quantitzat NVFP4 (el que serveix Vora):

Benchmarks científics, visuals i matemàtics publicats per NVIDIA per a Nemotron 3.5 Super VL
BenchmarkQuè avaluaPuntuació BF16Puntuació NVFP4
GPQA DiamondPreguntes de nivell postgrau en física, química i biologia (sense eines)89,52%89,90%
CharXiv ReasoningInterpretació i raonament sobre gràfiques científiques multipanell80,82%79,88%
MathVisionRaonament matemàtic multimodal amb diagrames, gràfiques i equacions78,16%77,79%

La proximitat entre NVFP4 i BF16 és notable en tots tres benchmarks científics —a menys de 0,4 punts percentuals a MathVision, menys d’1,0 punt a CharXiv Reasoning i lleugerament superior a GPQA Diamond— i allibera prou memòria de GPU per mantenir tot el KV cache d’1M en precisió BF16.

Rendiment real a 1M de context: què hem mesurat en producció

Molts proveïdors anuncien «1M de context» al seu catàleg sense comprovar si el model recupera dades a prop del límit ni a quina velocitat descodifica quan hi ha centenars de milers de tokens carregats. Abans d’obrir nemotron-3.5-super-vl-120b a Vora Compute, el nostre equip va executar una bateria sintètica d’acceptació sobre el nostre entorn de producció NVFP4 (amb KV cache complet en BF16 —sense quantització agressiva del KV— i descodificació especulativa multipunt activada):

Mesures internes sintètiques de Vora en Nemotron 3.5 Super VL fins a 1M de tokens
Prova (mesura interna sintètica, novembre 2026)Resultat mesuratPer què importa en recerca
Recuperació distribuïda a 999.486 tokens d’entrada (4 registres + suma)Resposta exacta; prefill ~3.900 tokens/s (~255–259 s)Demostra que el milió de tokens recupera dades reals sense truncament silenciós
Descodificació en prosa prop del límit (~996.000 tokens d’entrada)81,5 tokens/sLes capes Mamba-2 mantenen una generació fluida fins i tot prop d’1M
Descodificació en prosa en prompt curt (2.048 tokens)190,4 tokens/sResposta àgil en preguntes concretes i comprovació d’equacions
Reutilització de memòria cau de prefix sobre 131.072 tokens (mateix compte)10,0 s en fred → 0,26 s en calent (131.056 tokens en cau)Les preguntes de seguiment sobre un dossier llarg responen gairebé a l’instant
Aïllament de memòria cau entre comptes (mateix prompt de 131.072 tokens)10,1 s (0 tokens reutilitzats en un segon compte)Verifica que dos comptes mai no comparteixen estat KV en memòria cau

Nota metodològica: Aquestes xifres provenen de proves internes d’acceptació amb prompts sintètics i reflecteixen el comportament mesurat del maquinari, no un SLA de latència sota càrrega compartida. Vora calcula amb exactitud l’entrada renderitzada més la sortida reservada i rebutja qualsevol petició excedida en lloc de retallar-la.

Com treballar amb figures científiques, gràfiques multipanell i PDFs

Pots fer servir Nemotron 3.5 Super VL a Vora de dues maneres, segons si prefereixes treballar des del navegador o automatitzar anàlisis en Python.

Al navegador (sense programar)

Obre Chat, tria Nemotron 3.5 Super VL i selecciona el nivell de raonament Medium o High:

  • Adjunta PDFs o figures exportades (PNG, JPEG o WebP). El Xat envia les pàgines del PDF com a imatges perquè el model llegeixi gràfiques, llegendes i equacions formatades directament en lloc de dependre només de text extret.
  • Activa el Xat temporal quan revisis manuscrits sensibles per no desar res, o conserva xats xifrats a la UE que pots esborrar immediatament en qualsevol moment.
  • Consell important de privacitat: La cerca web ve activada per defecte al Xat (mitjançant Linkup, proveïdor amb seu a França que pot processar consultes de cerca fora de la UE). Desactiva la cerca web al quadre de missatge sempre que treballis amb dades confidencials no publicades perquè cap consulta surti dels servidors de Vora.

Des de Python i quaderns Jupyter

Per a extracció per lots, comprovacions automàtiques o quaderns Jupyter, apunta l’SDK oficial d’OpenAI a https://api.voracompute.com/v1. Envia les figures com a URLs base64 (image_url) i separa el raonament (reasoning_content) de la resposta final:

Python
import base64
import os
import sys
from pathlib import Path
from openai import OpenAI

client = OpenAI(
    base_url="https://api.voracompute.com/v1",
    api_key=os.environ["VORA_API_KEY"],
    timeout=3660.0,  # Necessari només si envies contextos molt llargs (>256K)
)

img_b64 = base64.b64encode(Path("figure_3.png").read_bytes()).decode("ascii")

stream = client.chat.completions.create(
    model="nemotron-3.5-super-vl-120b",
    reasoning_effort="high",
    max_tokens=4096,
    stream=True,
    stream_options={"include_usage": True},
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": (
                        "Inspecciona els panells A i B. Extreu les unitats dels eixos, "
                        "compara el canvi de pendent per sobre de 300 K i assenyala "
                        "qualsevol possible inconsistència amb el peu de figura."
                    ),
                },
                {
                    "type": "image_url",
                    "image_url": {"url": f"data:image/png;base64,{img_b64}"},
                },
            ],
        }
    ],
)

for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    thinking = getattr(delta, "reasoning_content", None)
    if thinking:
        print(thinking, end="", file=sys.stderr, flush=True)
    print(delta.content or "", end="", flush=True)

Tingues presents els límits d’imatge: fins a 8 imatges i 10 MiB de dades descodificades en tota la petició (inclòs l’historial). Nemotron reescala automàticament les imatges per sobre d’uns 3,4 megapíxels (~258 a 3.300 tokens per imatge) i mai no descarrega URLs remotes. Quan la conversa inclou imatges, la temperatura per defecte passa a 0.6 si no l’especifiques.

Privacitat, RGPD i sostenibilitat per a equips de recerca europeus

Per a universitats, hospitals i grups d’R+D subjectes a l’RGPD o a acords de propietat intel·lectual, on corre la inferència importa tant com el benchmark:

  • Allotjament a la Unió Europea: nemotron-3.5-super-vl-120b s’executa en GPU situades a la UE, operades per un proveïdor europeu.
  • Zero retenció a l’API: Prompts, imatges, traces de raonament, crides a eines i respostes passen només per memòria volàtil i mai no s’escriuen a disc. Els registres de contingut del motor, la memòria cau persistent de prompts i la memòria cau del processador d’imatges estan desactivats. Només desem mètriques tècniques de cada petició (hora, model, recompte de tokens, latència, estat i clau).
  • Xats xifrats i esborrables: Les converses desades al navegador es xifren abans d’emmagatzemar-se a la UE, mai no es fan servir per entrenar models i s’eliminen immediatament quan les esborres. Els xats temporals mai no es desen. Pots llegir l’especificació completa a Privacitat de Vora.
  • Recuperació de calor: Amb el nostre partner d’infraestructura Hotta, la calor residual dels servidors de la nostra empremta europea s’aprofita per escalfar aigua en edificis en lloc de perdre’s —un criteri cada cop més valorat en polítiques universitàries de sostenibilitat.

Hàbits de verificació i límits reals

Fins i tot un model amb 89,9% a GPQA Diamond comet errors. Les bones pràctiques científiques continuen sent imprescindibles:

  • Verifica l’aritmètica i l’àlgebra amb codi. Fes servir Nemotron per plantejar o revisar una derivació i valida els passos numèrics amb Python o SymPy en lloc de fiar-te a cegues del càlcul token a token.
  • Retalla panells densos abans de pujar-los. Si una figura multipanell té tipografia molt petita, retalla-la en panells individuals (pots enviar fins a 8 imatges per petició) perquè el reescalat per sobre de 3,4 MP no difumini exponents ni barres d’error.
  • Comprova les cites sobre el text original. No confiïs en referències generades de memòria; introdueix els PDFs font a la finestra d’1M i demana al model que citi exactament la pàgina i la taula.
  • Coneix els límits del pla i de petició: Tarifa plana sense cobrament per token, 2 peticions simultànies per compte (com a màxim 1 petició llarga de més de 262.144 tokens), 32.768 tokens de sortida màxima (entre raonament i resposta final), límit JSON de 15 MiB, i nivells reasoning_effort none, medium i high.
  • Quan triar Qwen 3.8 27B en lloc seu: Si la teva feina principal és programar o refactoritzar programari científic dins d’un agent com OpenCode, Cline o Aider, canvia a qwen3.8-27b — consulta la nostra guia per a desenvolupadors.

Preguntes freqüents

Puc pujar manuscrits inèdits o textos de recerca subjectes a l’RGPD amb seguretat?
A través de l’API els prompts, documents i imatges mai no s’escriuen a disc ni es registren, i la inferència corre a la Unió Europea. Al Xat del navegador, activa el Xat temporal i desactiva la cerca web quan treballis amb material estrictament confidencial. Abans de pujar dades personals identificables, verifica sempre els requisits propis de la teva institució.
Necessito saber programar per fer servir Nemotron 3.5 Super VL a Vora?
No. Pots treballar directament a Chat pujant PDFs i imatges, o passar a l’API de Python compatible amb OpenAI quan vulguis automatitzar lots reproduïbles.
Redueix la quantització NVFP4 la precisió matemàtica o científica?
En els benchmarks publicats per NVIDIA, NVFP4 obté 89,90% enfront de 89,52% (BF16) a GPQA Diamond, 79,88% enfront de 80,82% a CharXiv Reasoning i 77,79% enfront de 78,16% a MathVision, i a més deixa memòria lliure a la GPU per mantenir tot el KV cache d’1M en precisió BF16.
Quant costa l’accés per a grups universitaris i equips d’R+D?
29 €/mes o 288 €/any (24 €/mes) per persona, sense IVA — o 19 €/mes (i 192 €/any, 16 €/mes, en una única factura anual) el primer any si et subscrius fins a l’1 de desembre de 2026. Inclou el Xat del navegador i l’API sense comptar tokens, amb un ús raonable de 2 peticions simultànies. Cancel·la quan vulguis.

Analitza articles i gràfiques amb privacitat europea.

Fes servir NVIDIA Nemotron 3.5 Super VL al Xat del navegador o des de Python sense retenció a l’API: 19 €/mes o 192 €/any (16 €/mes) el primer any fins a l’1 de desembre de 2026 (després, 29 €/mes o 288 €/any, sense IVA; ús raonable: 2 peticions alhora).

WhatsApp