OpenAI lanza la Decisions API: decisiones acotadas más rápidas y baratas para apps y agentes

OpenAI ha anunciado la disponibilidad general de la Decisions API, un endpoint dedicado construido con GPT-6 Luna. Está pensado para las pequeñas decisiones que aplicaciones y agentes toman constantemente dentro de un flujo de trabajo: clasificar una entrada, decidir adónde enrutar una solicitud o elegir la siguiente acción. Cada una de ellas es sencilla, pero a escala su latencia y su coste se acumulan. La propuesta de OpenAI es concentrar la inteligencia de Luna en preguntas con respuestas acotadas y obtener decisiones casi en tiempo real a partir de texto, imágenes y entradas estructuradas.

Según la compañía, la API es hasta 10 veces más rápida que usar GPT-6 Luna a través de la Responses API. Desde la beta pública se han añadido varias novedades: una integración nativa con GPT-Live, caché de prompts para contexto reutilizado y residencia de inferencia en EE. UU. y la UE. Los desarrolladores pueden además pasar entradas JSON nativas, incluir imágenes en las instrucciones de las preguntas y plantear hasta 400 preguntas por solicitud, el doble del límite anterior. OpenAI también indica que ha seguido mejorando la latencia, con capacidad adicional en varias regiones de Asia.

Cómo funciona: el desarrollador define una pregunta y sus respuestas permitidas, y aporta el contexto como texto, imágenes o JSON nativo. La API devuelve uno de tres tipos de respuesta. El primero es 'predicate', una probabilidad de 0 a 1 de que se cumpla una condición, por ejemplo si un producto tiene daños visibles. El segundo es 'choice', que selecciona una de las opciones predefinidas, como continuar, reintentar o pedir aclaración. Además de la opción elegida, devuelve probabilidades y un valor de confianza. El tercero es 'score', que puntúa una entrada frente a niveles ordenados de una rúbrica, por ejemplo la gravedad de un daño. El resultado es la media ponderada por probabilidad de los índices de los niveles.

Usos internos en OpenAI: el equipo de dots lo emplea para reducir tiempos de respuesta y mejorar la interactividad. El equipo de Finanzas Personales categoriza descripciones de transacciones. El equipo de Comunicación clasifica la cobertura de prensa por temas y puntúa si refuerza o cuestiona narrativas clave, para identificar qué merece una revisión más detenida.

Testimonios de clientes, todos citados por OpenAI y basados en las propias evaluaciones de cada empresa:

• Box: en una evaluación con 30 casos de certificados de seguro, la selección de ruta fue unas 5 veces más rápida que con la Responses API, con la misma precisión. Los casos de menor confianza se envían a revisores.

• Datadog: lo utiliza para puntuar el riesgo de comandos rshell generados por agentes antes de ejecutarlos y remediar incidencias de forma autónoma. Afirma un p95 40 veces más rápido que con modelos frontera disponibles, con precisión comparable, lo que permite colocar las decisiones en la ruta crítica de una acción de remediación.

• Ramp: atribuir costes de IA al trabajo real resulta 4 veces más rápido y un 30 % más barato que con GPT-6 Luna, sin perder precisión.

• Sierra: lo usa para elegir la siguiente acción en conversaciones de clientes en vivo. Funciona por debajo de 280 ms en p95, unas 3 veces más rápido y con un 90 % menos de coste por llamada que su enfoque anterior, sin caída en los resultados de cliente.

• Speak: con la integración en GPT-Live, el tiempo hasta la siguiente acción bajó más de un 90 %, de 1,4 s a 0,13 s, para una experiencia de aprendizaje de idiomas más interactiva.

Integración con voz: la Decisions API se integra de forma nativa con GPT-Live, que aporta conversación natural y expresiva a las aplicaciones de voz, con manejo fluido de interrupciones. Un agente de atención al cliente podría decidir si hace una pregunta aclaratoria, enruta la solicitud o escala una incidencia. Un avatar podría ajustar su expresión facial mientras el usuario habla. El ejemplo de OpenAI añade un disparador de tipo 'decisions' en session.triggers de una sesión GPT-Live, ligado al evento session.input_transcript.delta. Define una pregunta de tipo 'choice' con las reacciones neutral, happy, sad y concerned. GPT-Live emite un evento decision.event y la aplicación lee la reacción elegida para animar al personaje. La página incluye también una demo interactiva con límite de tiempo.

Precio y disponibilidad: la API está disponible hoy con GPT-6 Luna a través del endpoint dedicado Decisions. Cuesta 0,10 dólares por millón de tokens de entrada, y 0,01 dólares por millón para entrada en caché. Solo se pagan los tokens de entrada: no hay cargo por tokens de salida. Hay procesamiento regional en EE. UU. y la UE, y Zero Data Retention para clientes elegibles. Los precios de las escrituras en caché de 30 minutos y 12 horas se detallan en la guía de precios de OpenAI.

Cómo empezar: OpenAI recomienda partir de una decisión recurrente que la aplicación tome a menudo. Hay que definir la pregunta, las respuestas posibles y el contexto necesario para distinguirlas. Después conviene probarla con ejemplos reales, en el Decisions Playground con texto o imágenes propios, o siguiendo la guía para desarrolladores.

Conclusión: las cifras de rendimiento proceden de OpenAI y de sus clientes, y no de evaluaciones independientes. Las comparaciones usan líneas base distintas: Responses API, GPT-6 Luna, modelos frontera o el enfoque previo de cada empresa. Aun así, el mensaje es claro. Para decisiones acotadas en la ruta crítica de agentes y conversaciones en vivo, OpenAI ofrece una alternativa especializada con menor latencia y precio muy bajo, centrada en la entrada y sin cargo por salida.