La carrera de IA intercambia modelos gigantes por sistemas inteligentes y baratos

La carrera por modelos de inteligencia artificial cada vez mayores está dando lugar a una nueva estrategia: sistemas inteligentes que eligen el modelo más adecuado y barato para cada tarea. El director ejecutivo de Perplexity, Aravind Srinivas, afirmó en una entrevista a la CNBC que "el verdadero producto es el sistema que decide qué modelo usar", mientras que el inversor Peter Fenton, de Benchmark, prevé que modelos de peso abierto pronto atenderán a la mayoría de los usos empresariales. Este cambio presiona a la economía de los mayores proveedores y abre espacio para soluciones más accesibles.

¿Por qué la carrera de IA migra a sistemas inteligentes y baratos?

Construir modelos gigantes como GPT-4 o Gemini Ultra cuesta cientos de millones de dólares y consume energía equivalente a una pequeña ciudad. La estrategia de usar un único modelo para todo también es ineficiente: tareas simples como resumir un correo electrónico no necesitan todo el poder computacional de un modelo de frontera. Perplexity, por ejemplo, opera un sistema de enrutamiento que selecciona dinámicamente entre modelos internos, APIs externas y modelos de peso abierto, combinando rendimiento y costo. Srinivas compara esto a un "orquestrador de modelos" — la inteligencia está en el router, no en el motor.

¿Cómo modelos de peso abierto crean sistemas inteligentes y baratos?

Modelos como Llama 3 (Meta), Mistral (francés) y los lanzamientos de la comunidad open-weight ya compiten de cerca con soluciones propietarias en benchmarks de lenguaje, razonamiento y codificación. Fenton cree que, en breve, la apertura y el costo reducido de estos modelos los harán la elección estándar para la mayoría de los casos de uso. Cómo CEO de Hugging Frente ya había apuntado, empresas están intercambiando API caras por código abierto, reduciendo en hasta un 80% los costos operativos.

¿Qué sistemas inteligentes y baratos significan para Brasil?

Para startups y medianas empresas en Brasil, la tendencia es una lufada de aire fresco. En lugar de depender de APIs caras en dólar, es posible rotar modelos locales en portugués con hardware modesto, gracias a técnicas como cuantificación y fine-tuning eficiente. La soberanía de datos también gana importancia: con modelos abiertos, las empresas pueden entrenar con datos sensibles sin enviarlos a servidores en Estados Unidos. La competencia deja de ser "quien tiene el mejor modelo" y pasa a ser "quien construye el mejor sistema de orquestación" — una arena más justa para equipos enxutos.

¿La economía de proveedores de IA con sistemas inteligentes y baratos?

El cambio de paradigma mueve directamente con el modelo de negocios de empresas como OpenAI y Anthropic. Ellas lucieron con tokens vendidos (cobranza por uso). Si los sistemas de enrutamiento pasan a preferir modelos de peso abierto cuando sea posible, los ingresos por consulta despenca. La respuesta ha sido la creación de capas de firma premium (como ChatGPT Plus) y contratos enterprise con garantías de precio fijo. Pero la presión por ruido ya es visible: en el último año, el costo por token de modelos como el GPT-4 cayó cerca de 60%, según datos de la propia CNBC.

Preguntas frecuentes sobre sistemas inteligentes y baratos de IA

¿Qué es un sistema de enrutamiento de modelos?

Es un software que analiza la pregunta del usuario y decide qué modelo de IA, entre varios disponibles, debe necesitarla, equilibrando calidad, velocidad y costo.

¿Los modelos de peso abierto son tan buenos como los propietarios?

En muchos benchmarks, modelos como Llama 3 70B y Mistral Large ya igualan o superan versiones anteriores del GPT, especialmente en tareas de razonamiento y código. La diferencia para los mayores modelos propietarios está disminuyendo rápidamente.

¿Cómo este cambio afecta a quién ya usa APIs pagadas?

La tendencia es que los proveedores reduzcan precios para competir con modelos abiertos, y que surjan servicios híbridos que combinan APIs con modelos locales. Para empresas, es el momento de evaluar costos y explorar fine-tuning de modelos abiertos como alternativa.

> Fuente: CNBC – The AI race is shifting from bigger models to cheaper, smarter systems