A las 3 p.m. en Nueva York, un ingeniero llamado Mike en una startup estadounidense recibió una nueva tarea. Se volvió hacia un asistente de IA impulsado por un modelo gigante chino. Después de ingresar algunos requisitos clave, un plan de proyecto bien estructurado apareció en su pantalla en pocos segundos. Con la ayuda de este “asistente inteligente”, una tarea que antes tomaba medio día se completó en menos de 30 minutos.

En los mercados globales, un número creciente de usuarios está recurriendo a los modelos de IA gigantes chinos para aumentar la productividad. Cada interacción consume unidades digitales conocidas como “tokens”, los bloques básicos que los sistemas de IA usan para procesar el lenguaje. En general, un carácter chino corresponde a un token, mientras que una palabra en inglés abarca de uno a dos tokens, incluyendo la puntuación.

Dado que los grandes modelos procesan texto limitado por sesión, la mayoría de los servicios de IA cobran en función del uso de tokens: un mayor consumo significa mayores costos. En marzo de este año, el uso diario de tokens en China superó los 140 billones, un aumento de mil veces en dos años.

Los datos de la industria muestran que los grandes modelos de IA chinos ahora se encuentran entre los líderes mundiales en consumo total de tokens. Yan Yijun, vicepresidente de la empresa de modelos de base de IA con sede en Shanghai MiniMax, explicó: “Los usuarios aplican criterios claros: primero, el modelo debe ser inteligente, fácil de usar y receptivo, y capaz de resolver problemas complejos; segundo, los precios deben ser razonables y comercialmente sostenibles.”

El consumo de tokens refleja el uso en el mundo real, indicando qué tan profundamente, con qué frecuencia y de manera tan extensa los grandes modelos de IA se integran en las aplicaciones. (Cubadebate)

Leave a Reply

Your email address will not be published. Required fields are marked *