Inteligencia artificial — Diogo Almeida, coautor del trabajo original de RLHF y autor del paper InstructGPT que ayudó a sentar las bases de ChatGPT, ha lanzado un nuevo tipo de modelo de IA. Su empresa, TypeSafe AI, ha pasado los últimos dos años en modo sigiloso desarrollando Jev, el primer modelo de lo que denomina "System One Models".
¿Qué es un "System One Model"?
Muchas tareas de IA pueden manejarse sin generar texto. Si un agente necesita clasificar una solicitud, evaluar riesgos, seleccionar una acción o enrutar una tarea, un LLM tradicional genera tokens y luego tiene que analizar la respuesta. Jev elimina todo ese proceso.
En lugar de generar texto, Jev devuelve directamente un resultado estructurado junto con probabilidades para cada opción posible. Esto lo hace dramáticamente más rápido para tareas estrechas: TypeSafe afirma que Jev puede responder en aproximadamente 70-500 ms, siendo 20-200 veces más rápido que los LLM típicos.
Precios revolucionarios
El modelo de precios también es inusual: $0.042 por cada millón de tokens de entrada, con tokens de salida gratuitos. Esta estructura dramatically reduce el costo de implementación para empresas que necesitan procesar grandes volúmenes de clasificaciones, evaluaciones de riesgo y enrutamiento de tareas.
Implicaciones para la industria
Jev podría redefinir cómo las empresas abordan las tareas de procesamiento de IA de alto volumen. Al eliminar la necesidad de generar y parsear texto para tareas simples de decisión, abre la puerta a aplicaciones que antes eran prohibitivamente lentas o costosas con LLM tradicionales.
Fuentes y créditos: