Astra consume una cantidad ridícula de tokens por tarea.
No es la capacidad lo que intriga de este modelo.Lo que me genera curiosidad es si OpenAI ha dado con una tecla que suponga otro cambio de paradigma.
Como sucedió con GPT-4o, que abrió la veda para que la multimodalidad se convirtiese en la norma.
Y esto es solo una primera sensación, después de los últimos bluff de OpenAI puede ser puro marketing, pero a los que vivimos entre benchmarks y noticias de novedades vemos muy rápido que este modelo rompe un patrón y un patrón muy importante: el de inteligencia por token.
Además parece alcanzar muy rápido un techo a partir del cual el modelo no ofrece mejores resultados aunque razone más, lo que significa, quizá, haber dado con una aproximación distinta a la habitual para hacer los modelos más inteligentes y útiles que no pase por darles un buffet libre de tokens.