← Volver al blog
Guía técnica · Para desarrolladores

Qwen 3.8 27B para desarrolladores: contexto de 1M, agentes de código y API privada en Europa

Usar agentes de código en repositorios reales saca a la luz tres fricciones enseguida: la factura por token se dispara en bucles largos con herramientas, el código propietario sale de Europa hacia proveedores con políticas de retención poco claras, y ejecutar modelos en local con cuantización de 4 bits se queda sin memoria mucho antes de cargar una base de código grande. Qwen 3.8 27B (qwen3.8-27b), con licencia Apache-2.0, recorta gran parte de la distancia frente a modelos cerrados mucho mayores, y en Vora Compute lo servimos en FP8 con 1.000.000 de tokens de contexto tras una API compatible con OpenAI alojada en la Unión Europea y sin retención de prompts.

Por qué Qwen 3.8 27B encaja en flujos de agentes de código

Qwen 3.8 27B es un modelo denso multimodal de 27.000 millones de parámetros publicado por el equipo de Qwen bajo licencia Apache-2.0. Su arquitectura de 64 capas combina bloques lineales Gated DeltaNet con capas completas de Gated Attention (16 × (3 × Gated DeltaNet → 1 × Gated Attention)), lo que mantiene viable la inferencia en secuencias largas sin perder capacidad de razonamiento entre varios archivos.

En programación, uso de terminal y lectura de documentación técnica, la ficha oficial de Qwen3.8-27B en Hugging Face publica los siguientes resultados:

Resultados de Qwen 3.8 27B en benchmarks de código, agentes y documentos publicados en Hugging Face
BenchmarkQué evalúaPuntuación publicada
LiveCodeBench v6Programación competitiva y algoritmia90,3
OmniDocBench 1.5Lectura estructurada de documentos técnicos91,1
GPQA DiamondRazonamiento técnico y científico avanzado89,2
QwenSWEBenchTareas completas de ingeniería de software79,0
IFBenchSeguimiento estricto de instrucciones79,5
Terminal Bench 2.1 (Terminus)Ejecución de comandos en terminal paso a paso73,0
SWE-bench ProCorrección de bugs y parches en repositorios reales61,7
NL2Repo-BenchGeneración de código a nivel de repositorio42,3
DeepSWE 1.1Programación agéntica de horizonte largo (256K)42,2

Estas cifras sitúan a un modelo abierto de 27B en terreno útil para el trabajo diario: refactorizaciones, generación de tests, depuración en terminal, revisión de cambios y lectura de especificaciones largas, especialmente cuando el agente ejecuta herramientas y valida cada cambio contra tu batería de pruebas.

Cómo funciona el contexto de 1M en la práctica

Qwen 3.8 27B tiene una ventana nativa de 262.144 tokens, extendida hasta 1.000.000 de tokens mediante el escalado oficial YaRN factor 4. Conviene tener claro este matiz: 1M es contexto extendido, no longitud nativa de preentrenamiento, y en producción se aprovecha mejor sabiendo cómo gestionarlo.

En Inferencia:

  • El techo de 1.000.000 de tokens incluye la entrada exacta renderizada (prompt de sistema, esquemas de herramientas, historial, archivos e imágenes) más los tokens de salida reservados.
  • La salida por defecto es de 8.192 tokens, ampliable hasta 32.768 tokens por petición (max_tokens o max_completion_tokens).
  • El cuerpo JSON completo no puede superar 15 MiB. Si una petición supera el límite se rechaza explícitamente; nunca se trunca en silencio.
  • El caché de prefijo vive únicamente en memoria volátil de GPU y aislado por cuenta (dos cuentas nunca comparten caché y nada se escribe en disco).

En el día a día conviene mantener sesiones compactas para ediciones rutinarias —el prefill es mucho más rápido y la atención está menos dispersa— y reservar los prompts de 256K a 1M para tareas que realmente lo necesiten: auditar dependencias entre muchos módulos, revisar logs extensos de incidentes o cargar una especificación completa de golpe.

En peticiones por encima de 262.144 tokens la preparación inicial antes del primer token lleva más tiempo. Vora permite hasta 30 minutos antes del primer token y 60 minutos en total, por lo que conviene configurar el timeout de tu cliente o agente en al menos 61 minutos (3.660 s) cuando envíes contextos muy largos.

Ajustar reasoning_effort en bucles largos de agentes

Por defecto, Qwen 3.8 27B razona antes de contestar. Eso mejora la precisión en bugs difíciles o cambios de arquitectura, pero alarga innecesariamente ediciones mecánicas. En Vora cada petición acepta reasoning_effort:

  • none — Respuesta directa sin fase de razonamiento. Ideal para cambios mecánicos, plantilla, extracción JSON y commits rápidos.
  • low (alias: minimal) — Traza corta para correcciones directas y refactorizaciones pequeñas.
  • medium (por defecto) — Equilibrio general para programación con agentes y cambios en varios archivos.
  • high (alias: xhigh, max) — Mayor profundidad de razonamiento para bugs de concurrencia, migraciones y decisiones de arquitectura.

Dos detalles evitan fallos habituales al construir o configurar bucles de agentes:

  1. Conserva reasoning_content separado en el historial del asistente. Con stream: true, el razonamiento llega en choices[0].delta.reasoning_content y la respuesta final en choices[0].delta.content. Devuelve reasoning_content como campo separado en el turno siguiente —nunca lo pegues dentro de content— para mantener la continuidad y aprovechar el caché de prefijo.
  2. Ten en cuenta que max_tokens cubre el razonamiento más la respuesta final. Si fijaste un max_tokens pequeño con reasoning_effort: "high", el modelo puede detenerse con finish_reason: "length" sin llegar a emitir la respuesta final. Sube max_tokens (hasta 32.768) o baja el nivel de esfuerzo.

Tienes el detalle completo de parámetros en Models & limits.

Cómo conectar Qwen 3.8 27B a tu agente de código

Inferencia ofrece un endpoint Chat Completions compatible con OpenAI en:

Base URL
https://api.voracompute.com/v1

Crea una clave en la consola de Vora y expórtala en la sesión de terminal desde la que lances el agente:

Terminal
export VORA_API_KEY=vora_sk_...

OpenCode

Guarda esta configuración como opencode.json en la raíz del proyecto (o en ~/.config/opencode/opencode.json para todos los proyectos). Declara qwen3.8-27b con el límite real de 1M, el campo de razonamiento y timeouts ampliados (documentación de proveedores de OpenCode):

opencode.json
{
  "$schema": "https://opencode.ai/config.json",
  "providers": {
    "vora": {
      "package": "@opencode/ai/providers/openai-compatible",
      "name": "Vora Compute",
      "env": ["VORA_API_KEY"],
      "settings": {
        "baseURL": "https://api.voracompute.com/v1",
        "headerTimeout": 3660000,
        "chunkTimeout": 3660000,
        "timeout": 3660000
      },
      "models": {
        "qwen3.8-27b": {
          "name": "Qwen3.8 27B",
          "limit": { "context": 1000000, "output": 32768 },
          "capabilities": {
            "tools": true,
            "input": ["text"],
            "output": ["text"],
            "reasoning": {
              "supported": true,
              "toggle": true,
              "effort": ["none", "low", "medium", "high"]
            }
          },
          "compatibility": {
            "reasoningField": "reasoning_content",
            "maxTokensField": "max_tokens",
            "streamUsage": true
          }
        }
      }
    }
  },
  "model": "vora/qwen3.8-27b"
}

Lánzalo con:

Terminal
opencode --model vora/qwen3.8-27b

Cline (VS Code)

En los ajustes de proveedor de Cline (documentación OpenAI-compatible de Cline), introduce:

  • API Provider: OpenAI Compatible
  • Base URL: https://api.voracompute.com/v1
  • API Key: tu clave vora_sk_...
  • Model ID: qwen3.8-27b
  • Context Window: 1000000
  • Max Output Tokens: 32768

Continue

Añade VORA_API_KEY=vora_sk_... a ~/.continue/.env y agrega esta entrada a ~/.continue/config.yaml (referencia de Continue). Usa el modo Agent en tu IDE cuando quieras que llame a herramientas:

~/.continue/config.yaml
name: My Config
version: 0.0.1
schema: v1
models:
  - name: Qwen3.8 27B (Vora)
    provider: openai
    model: qwen3.8-27b
    apiBase: https://api.voracompute.com/v1
    apiKey: ${{ secrets.VORA_API_KEY }}
    useResponsesApi: false
    roles: [chat, edit, apply]
    capabilities: [tool_use]
    defaultCompletionOptions:
      contextLength: 1000000
      maxTokens: 8192

Aider

Guarda .aider.model.settings.yml en tu repositorio para fijar el límite de salida (guía OpenAI-compatible de Aider):

.aider.model.settings.yml
- name: openai/qwen3.8-27b
  extra_params:
    max_tokens: 8192

Y ejecuta Aider manteniendo el prefijo openai/:

Terminal
export OPENAI_API_BASE="https://api.voracompute.com/v1"
export OPENAI_API_KEY="$VORA_API_KEY"
aider --model openai/qwen3.8-27b

Delegar desde Claude Code o Codex con Vora CLI

Claude Code requiere un gateway compatible con la API de Anthropic (/v1/messages) y Codex usa la Responses API (/v1/responses), así que ninguno conecta directamente hoy a Chat Completions. Lo que sí puedes hacer es mantener Claude Code o Codex como agente principal y delegar búsquedas en muchos archivos, revisiones de diffs, resúmenes y ediciones mecánicas a Qwen 3.8 27B con Vora CLI (Node.js 22+, sin dependencias):

Terminal
npm install -g https://inference.voracompute.com/cli/vora-0.1.2.tgz
vora login

# Solo lectura por defecto; imprime únicamente el informe final en stdout
vora run "Where is the session cookie set? Cite file and line."
git diff | vora run "Review this diff for bugs."

Por defecto vora solo puede listar, leer y buscar dentro de la carpeta actual. Con --write puede editar archivos y con --shell ejecutar comandos en sandbox (en macOS, limitados a la carpeta y sin red salvo que añadas --net). Los archivos que suelen contener secretos (.env* salvo ejemplos, claves, .npmrc) se rechazan siempre y las variables de entorno con pinta de credenciales no pasan a los comandos.

Agentes propios y clasificación ligera

La misma URL base https://api.voracompute.com/v1 funciona con los SDK de OpenAI para Python y Node, LangChain (langchain-openai), LlamaIndex (llama-index-llms-openai-like) y Vercel AI SDK (@ai-sdk/openai-compatible). Tienes los ejemplos en Set up your agent.

Si tu pipeline también hace comprobaciones binarias, enrutamiento o puntuación sobre textos (por ejemplo, clasificar tickets o detectar incidencias de facturación) donde un modelo de chat con razonamiento sobra, Vora sirve además GLiDE 9B en el endpoint /v1/systemone, devolviendo probabilidades.

Hardware local frente a una API privada en Europa

Muchos desarrolladores prueban primero Qwen 3.8 27B en local con Ollama o llama.cpp en formato GGUF de 4 bits (~17,8 GB de pesos en una GPU de 24–32 GB). En local funciona bien para editar archivos sueltos sin conexión, pero choca pronto con límites reales al trabajar con agentes: la cuantización a 4 bits reduce precisión en contextos largos, la memoria de KV cache recorta mucho la ventana real por debajo de 1M en una sola GPU de escritorio, y compartir ese entorno en un equipo añade trabajo de operación.

Comparativa entre estación local GGUF 4 bits, APIs de EE. UU. por token y Vora Compute en Europa
FactorEstación local (GGUF 4 bits)APIs de EE. UU. por tokenVora Compute (Europa)
CuantizaciónHabitualmente 4 bits (Q4_K_M)Depende del proveedorFP8 con escalas KV calibradas
Ventana de contexto útilLimitada por VRAM local (32K–128K habitual)Variable (128K–256K habitual)Hasta 1.000.000 de tokens
Ubicación de datosTu máquinaA menudo EE. UU. o enrutamiento multirregiónUnión Europea
Retención de promptsNinguna (local)Depende del plan y configuraciónCero retención en la API por defecto
Modelo de precioGPU + electricidad + mantenimientoPago por token (picos en bucles agénticos)19 €/mes o 192 €/año (16 €/mes) el primer año hasta el 1 de diciembre de 2026 (después, 29 €/mes o 288 €/año, sin IVA); uso razonable: 2 peticiones a la vez

En la API de Vora, los prompts, respuestas, imágenes, trazas de razonamiento y llamadas a herramientas pasan por memoria al modelo y vuelven sin guardarse en disco. Los logs de contenido del motor, la caché persistente de prompts y la caché del procesador de imágenes están desactivados. Los detalles están documentados en Privacidad de Vora.

Límites reales y cuándo elegir otro modelo

Ningún modelo ni despliegue sirve para todo. Antes de integrar Qwen 3.8 27B en Vora, ten presentes estos límites:

  • Endpoints y parámetros no soportados: /v1/responses y /v1/messages devuelven 404. Tampoco están soportados logprobs, top_logprobs, logit_bias, n > 1, audio ni vídeo.
  • Uso razonable y concurrencia: Cada cuenta incluye 2 peticiones simultáneas entre todas sus claves API y Chat, con un máximo de 1 petición larga que reserve más de 262.144 tokens. Superar esos límites devuelve 429 con Retry-After; las peticiones en espera comparten una cola FIFO (tiempo máximo en cola de 30 s, devolviendo un 503 reintentable si se llena).
  • Límites de imagen: Hasta 8 imágenes inline en base64 (JPEG, PNG o WebP) y 10 MiB decodificados por petición en todo el historial. Nunca se descargan URLs remotas.
  • Cuándo cambiar de modelo: Para papers científicos densos, matemáticas avanzadas o análisis de gráficas multipanel, conviene usar nemotron-3.5-super-vl-120b — consulta nuestra guía para científicos.

Preguntas frecuentes

¿Es la API de Qwen 3.8 27B en Vora compatible con el SDK de OpenAI y agentes de código?
Sí. Apunta cualquier cliente OpenAI Chat Completions a https://api.voracompute.com/v1 con model: "qwen3.8-27b". Hay guías probadas para OpenCode, Cline, Continue, Aider, Cherry Studio, LangChain, LlamaIndex y Vercel AI SDK.
¿Qwen 3.8 27B ofrece de verdad 1 millón de tokens en Vora?
Sí, hasta 1.000.000 de tokens entre entrada, herramientas, historial y salida reservada (extendido desde 262.144 tokens nativos con YaRN factor 4), con un tope de cuerpo JSON de 15 MiB y sin truncado silencioso.
¿Guarda o entrena Vora con mi código fuente?
No. Las peticiones de la API nunca se escriben en disco, no se guardan logs de contenido, el caché de prefijo reside solo en memoria volátil de GPU aislado por cuenta y la inferencia corre en GPU dentro de la Unión Europea.
¿Cuánto cuesta en Vora Compute?
29 €/mes o 288 €/año (24 €/mes) por persona, sin IVA — o 19 €/mes (y 192 €/año, 16 €/mes) el primer año si te suscribes hasta el 1 de diciembre de 2026. Incluye el Chat y la API sin contar tokens, con un uso razonable de 2 peticiones simultáneas. Cancela cuando quieras.

Prueba Qwen 3.8 27B en tu agente de código.

Tarifa plana en GPU europeas y sin retención en la API: 19 €/mes o 192 €/año (16 €/mes) el primer año hasta el 1 de diciembre de 2026 (después, 29 €/mes o 288 €/año, sin IVA). Uso razonable: 2 peticiones a la vez.

WhatsApp