Por qué Qwen 3.8 27B encaja en flujos de agentes de código
Qwen 3.8 27B es un modelo denso multimodal de 27.000 millones de parámetros publicado por el equipo de Qwen bajo licencia Apache-2.0. Su arquitectura de 64 capas combina bloques lineales Gated DeltaNet con capas completas de Gated Attention (16 × (3 × Gated DeltaNet → 1 × Gated Attention)), lo que mantiene viable la inferencia en secuencias largas sin perder capacidad de razonamiento entre varios archivos.
En programación, uso de terminal y lectura de documentación técnica, la ficha oficial de Qwen3.8-27B en Hugging Face publica los siguientes resultados:
| Benchmark | Qué evalúa | Puntuación publicada |
|---|---|---|
| LiveCodeBench v6 | Programación competitiva y algoritmia | 90,3 |
| OmniDocBench 1.5 | Lectura estructurada de documentos técnicos | 91,1 |
| GPQA Diamond | Razonamiento técnico y científico avanzado | 89,2 |
| QwenSWEBench | Tareas completas de ingeniería de software | 79,0 |
| IFBench | Seguimiento estricto de instrucciones | 79,5 |
| Terminal Bench 2.1 (Terminus) | Ejecución de comandos en terminal paso a paso | 73,0 |
| SWE-bench Pro | Corrección de bugs y parches en repositorios reales | 61,7 |
| NL2Repo-Bench | Generación de código a nivel de repositorio | 42,3 |
| DeepSWE 1.1 | Programación agéntica de horizonte largo (256K) | 42,2 |
Estas cifras sitúan a un modelo abierto de 27B en terreno útil para el trabajo diario: refactorizaciones, generación de tests, depuración en terminal, revisión de cambios y lectura de especificaciones largas, especialmente cuando el agente ejecuta herramientas y valida cada cambio contra tu batería de pruebas.
Cómo funciona el contexto de 1M en la práctica
Qwen 3.8 27B tiene una ventana nativa de 262.144 tokens, extendida hasta 1.000.000 de tokens mediante el escalado oficial YaRN factor 4. Conviene tener claro este matiz: 1M es contexto extendido, no longitud nativa de preentrenamiento, y en producción se aprovecha mejor sabiendo cómo gestionarlo.
En Inferencia:
- El techo de 1.000.000 de tokens incluye la entrada exacta renderizada (prompt de sistema, esquemas de herramientas, historial, archivos e imágenes) más los tokens de salida reservados.
- La salida por defecto es de 8.192 tokens, ampliable hasta 32.768 tokens por petición (
max_tokensomax_completion_tokens). - El cuerpo JSON completo no puede superar 15 MiB. Si una petición supera el límite se rechaza explícitamente; nunca se trunca en silencio.
- El caché de prefijo vive únicamente en memoria volátil de GPU y aislado por cuenta (dos cuentas nunca comparten caché y nada se escribe en disco).
En el día a día conviene mantener sesiones compactas para ediciones rutinarias —el prefill es mucho más rápido y la atención está menos dispersa— y reservar los prompts de 256K a 1M para tareas que realmente lo necesiten: auditar dependencias entre muchos módulos, revisar logs extensos de incidentes o cargar una especificación completa de golpe.
En peticiones por encima de 262.144 tokens la preparación inicial antes del primer token lleva más tiempo. Vora permite hasta 30 minutos antes del primer token y 60 minutos en total, por lo que conviene configurar el timeout de tu cliente o agente en al menos 61 minutos (3.660 s) cuando envíes contextos muy largos.
Ajustar reasoning_effort en bucles largos de agentes
Por defecto, Qwen 3.8 27B razona antes de contestar. Eso mejora la precisión en bugs difíciles o cambios de arquitectura, pero alarga innecesariamente ediciones mecánicas. En Vora cada petición acepta reasoning_effort:
none— Respuesta directa sin fase de razonamiento. Ideal para cambios mecánicos, plantilla, extracción JSON y commits rápidos.low(alias:minimal) — Traza corta para correcciones directas y refactorizaciones pequeñas.medium(por defecto) — Equilibrio general para programación con agentes y cambios en varios archivos.high(alias:xhigh,max) — Mayor profundidad de razonamiento para bugs de concurrencia, migraciones y decisiones de arquitectura.
Dos detalles evitan fallos habituales al construir o configurar bucles de agentes:
- Conserva
reasoning_contentseparado en el historial del asistente. Constream: true, el razonamiento llega enchoices[0].delta.reasoning_contenty la respuesta final enchoices[0].delta.content. Devuelvereasoning_contentcomo campo separado en el turno siguiente —nunca lo pegues dentro decontent— para mantener la continuidad y aprovechar el caché de prefijo. - Ten en cuenta que
max_tokenscubre el razonamiento más la respuesta final. Si fijaste unmax_tokenspequeño conreasoning_effort: "high", el modelo puede detenerse confinish_reason: "length"sin llegar a emitir la respuesta final. Subemax_tokens(hasta32.768) o baja el nivel de esfuerzo.
Tienes el detalle completo de parámetros en Models & limits.
Cómo conectar Qwen 3.8 27B a tu agente de código
Inferencia ofrece un endpoint Chat Completions compatible con OpenAI en:
https://api.voracompute.com/v1
Crea una clave en la consola de Vora y expórtala en la sesión de terminal desde la que lances el agente:
export VORA_API_KEY=vora_sk_...
OpenCode
Guarda esta configuración como opencode.json en la raíz del proyecto (o en ~/.config/opencode/opencode.json para todos los proyectos). Declara qwen3.8-27b con el límite real de 1M, el campo de razonamiento y timeouts ampliados (documentación de proveedores de OpenCode):
{
"$schema": "https://opencode.ai/config.json",
"providers": {
"vora": {
"package": "@opencode/ai/providers/openai-compatible",
"name": "Vora Compute",
"env": ["VORA_API_KEY"],
"settings": {
"baseURL": "https://api.voracompute.com/v1",
"headerTimeout": 3660000,
"chunkTimeout": 3660000,
"timeout": 3660000
},
"models": {
"qwen3.8-27b": {
"name": "Qwen3.8 27B",
"limit": { "context": 1000000, "output": 32768 },
"capabilities": {
"tools": true,
"input": ["text"],
"output": ["text"],
"reasoning": {
"supported": true,
"toggle": true,
"effort": ["none", "low", "medium", "high"]
}
},
"compatibility": {
"reasoningField": "reasoning_content",
"maxTokensField": "max_tokens",
"streamUsage": true
}
}
}
}
},
"model": "vora/qwen3.8-27b"
}
Lánzalo con:
opencode --model vora/qwen3.8-27b
Cline (VS Code)
En los ajustes de proveedor de Cline (documentación OpenAI-compatible de Cline), introduce:
- API Provider:
OpenAI Compatible - Base URL:
https://api.voracompute.com/v1 - API Key: tu clave
vora_sk_... - Model ID:
qwen3.8-27b - Context Window:
1000000 - Max Output Tokens:
32768
Continue
Añade VORA_API_KEY=vora_sk_... a ~/.continue/.env y agrega esta entrada a ~/.continue/config.yaml (referencia de Continue). Usa el modo Agent en tu IDE cuando quieras que llame a herramientas:
name: My Config
version: 0.0.1
schema: v1
models:
- name: Qwen3.8 27B (Vora)
provider: openai
model: qwen3.8-27b
apiBase: https://api.voracompute.com/v1
apiKey: ${{ secrets.VORA_API_KEY }}
useResponsesApi: false
roles: [chat, edit, apply]
capabilities: [tool_use]
defaultCompletionOptions:
contextLength: 1000000
maxTokens: 8192
Aider
Guarda .aider.model.settings.yml en tu repositorio para fijar el límite de salida (guía OpenAI-compatible de Aider):
- name: openai/qwen3.8-27b
extra_params:
max_tokens: 8192
Y ejecuta Aider manteniendo el prefijo openai/:
export OPENAI_API_BASE="https://api.voracompute.com/v1"
export OPENAI_API_KEY="$VORA_API_KEY"
aider --model openai/qwen3.8-27b
Delegar desde Claude Code o Codex con Vora CLI
Claude Code requiere un gateway compatible con la API de Anthropic (/v1/messages) y Codex usa la Responses API (/v1/responses), así que ninguno conecta directamente hoy a Chat Completions. Lo que sí puedes hacer es mantener Claude Code o Codex como agente principal y delegar búsquedas en muchos archivos, revisiones de diffs, resúmenes y ediciones mecánicas a Qwen 3.8 27B con Vora CLI (Node.js 22+, sin dependencias):
npm install -g https://inference.voracompute.com/cli/vora-0.1.2.tgz
vora login
# Solo lectura por defecto; imprime únicamente el informe final en stdout
vora run "Where is the session cookie set? Cite file and line."
git diff | vora run "Review this diff for bugs."
Por defecto vora solo puede listar, leer y buscar dentro de la carpeta actual. Con --write puede editar archivos y con --shell ejecutar comandos en sandbox (en macOS, limitados a la carpeta y sin red salvo que añadas --net). Los archivos que suelen contener secretos (.env* salvo ejemplos, claves, .npmrc) se rechazan siempre y las variables de entorno con pinta de credenciales no pasan a los comandos.
Agentes propios y clasificación ligera
La misma URL base https://api.voracompute.com/v1 funciona con los SDK de OpenAI para Python y Node, LangChain (langchain-openai), LlamaIndex (llama-index-llms-openai-like) y Vercel AI SDK (@ai-sdk/openai-compatible). Tienes los ejemplos en Set up your agent.
Si tu pipeline también hace comprobaciones binarias, enrutamiento o puntuación sobre textos (por ejemplo, clasificar tickets o detectar incidencias de facturación) donde un modelo de chat con razonamiento sobra, Vora sirve además GLiDE 9B en el endpoint /v1/systemone, devolviendo probabilidades.
Hardware local frente a una API privada en Europa
Muchos desarrolladores prueban primero Qwen 3.8 27B en local con Ollama o llama.cpp en formato GGUF de 4 bits (~17,8 GB de pesos en una GPU de 24–32 GB). En local funciona bien para editar archivos sueltos sin conexión, pero choca pronto con límites reales al trabajar con agentes: la cuantización a 4 bits reduce precisión en contextos largos, la memoria de KV cache recorta mucho la ventana real por debajo de 1M en una sola GPU de escritorio, y compartir ese entorno en un equipo añade trabajo de operación.
| Factor | Estación local (GGUF 4 bits) | APIs de EE. UU. por token | Vora Compute (Europa) |
|---|---|---|---|
| Cuantización | Habitualmente 4 bits (Q4_K_M) | Depende del proveedor | FP8 con escalas KV calibradas |
| Ventana de contexto útil | Limitada por VRAM local (32K–128K habitual) | Variable (128K–256K habitual) | Hasta 1.000.000 de tokens |
| Ubicación de datos | Tu máquina | A menudo EE. UU. o enrutamiento multirregión | Unión Europea |
| Retención de prompts | Ninguna (local) | Depende del plan y configuración | Cero retención en la API por defecto |
| Modelo de precio | GPU + electricidad + mantenimiento | Pago por token (picos en bucles agénticos) | 19 €/mes o 192 €/año (16 €/mes) el primer año hasta el 1 de diciembre de 2026 (después, 29 €/mes o 288 €/año, sin IVA); uso razonable: 2 peticiones a la vez |
En la API de Vora, los prompts, respuestas, imágenes, trazas de razonamiento y llamadas a herramientas pasan por memoria al modelo y vuelven sin guardarse en disco. Los logs de contenido del motor, la caché persistente de prompts y la caché del procesador de imágenes están desactivados. Los detalles están documentados en Privacidad de Vora.
Límites reales y cuándo elegir otro modelo
Ningún modelo ni despliegue sirve para todo. Antes de integrar Qwen 3.8 27B en Vora, ten presentes estos límites:
- Endpoints y parámetros no soportados:
/v1/responsesy/v1/messagesdevuelven404. Tampoco están soportadoslogprobs,top_logprobs,logit_bias,n > 1, audio ni vídeo. - Uso razonable y concurrencia: Cada cuenta incluye 2 peticiones simultáneas entre todas sus claves API y Chat, con un máximo de 1 petición larga que reserve más de 262.144 tokens. Superar esos límites devuelve
429conRetry-After; las peticiones en espera comparten una cola FIFO (tiempo máximo en cola de 30 s, devolviendo un503reintentable si se llena). - Límites de imagen: Hasta 8 imágenes inline en base64 (JPEG, PNG o WebP) y 10 MiB decodificados por petición en todo el historial. Nunca se descargan URLs remotas.
- Cuándo cambiar de modelo: Para papers científicos densos, matemáticas avanzadas o análisis de gráficas multipanel, conviene usar
nemotron-3.5-super-vl-120b— consulta nuestra guía para científicos.
Preguntas frecuentes
- ¿Es la API de Qwen 3.8 27B en Vora compatible con el SDK de OpenAI y agentes de código?
- Sí. Apunta cualquier cliente OpenAI Chat Completions a
https://api.voracompute.com/v1conmodel: "qwen3.8-27b". Hay guías probadas para OpenCode, Cline, Continue, Aider, Cherry Studio, LangChain, LlamaIndex y Vercel AI SDK. - ¿Qwen 3.8 27B ofrece de verdad 1 millón de tokens en Vora?
- Sí, hasta 1.000.000 de tokens entre entrada, herramientas, historial y salida reservada (extendido desde 262.144 tokens nativos con YaRN factor 4), con un tope de cuerpo JSON de 15 MiB y sin truncado silencioso.
- ¿Guarda o entrena Vora con mi código fuente?
- No. Las peticiones de la API nunca se escriben en disco, no se guardan logs de contenido, el caché de prefijo reside solo en memoria volátil de GPU aislado por cuenta y la inferencia corre en GPU dentro de la Unión Europea.
- ¿Cuánto cuesta en Vora Compute?
- 29 €/mes o 288 €/año (24 €/mes) por persona, sin IVA — o 19 €/mes (y 192 €/año, 16 €/mes) el primer año si te suscribes hasta el 1 de diciembre de 2026. Incluye el Chat y la API sin contar tokens, con un uso razonable de 2 peticiones simultáneas. Cancela cuando quieras.