Las empresas se decantarán más por modelos de IA pequeños que por LLM

Gartner predice que, para 2027, las organizaciones implementarán modelos de IA pequeños y para tareas específicas, con un volumen de uso al menos tres veces mayor que el de los modelos de lenguaje grandes (LLM) de propósito general.

Si bien los LLM de propósito general proporcionan capacidades lingüísticas sólidas, su precisión de respuesta disminuye para las tareas que requieren un contexto de dominio empresarial específico.

"La variedad de tareas en los flujos de trabajo empresariales y la necesidad de una mayor precisión están impulsando el cambio hacia modelos especializados ajustados en funciones específicas o datos de dominio", explica Sumit Agarwal, vicepresidente analista de Gartner. "Estos modelos más pequeños y específicos proporcionan respuestas más rápidas y utilizan menos potencia computacional, lo que reduce los costes operativos y de mantenimiento".

Las empresas pueden personalizar los LLM para tareas específicas mediante el empleo de técnicas de generación aumentada de recuperación (RAG) o de ajuste para crear modelos especializados. En este proceso, los datos empresariales se convierten en un diferenciador clave, lo que requiere la preparación de datos, los controles de calidad, el control de versiones y la gestión general para garantizar que los datos relevantes estén estructurados para cumplir con los requisitos de ajuste.

 

Implementación de modelos de IA específicos para tareas pequeñas

Las empresas que deseen implementar modelos de IA pequeños y para tareas específicas deben tener en cuenta las siguientes recomendaciones:

-     Modelos piloto contextualizados: Implemente modelos pequeños y contextualizados en áreas donde el contexto empresarial es crucial o donde los LLM no han cumplido con las expectativas de calidad o velocidad de respuesta.

-     Adopte enfoques compuestos: Identifique los casos de uso en los que la orquestación de un solo modelo se queda corta y, en su lugar, emplee un enfoque compuesto que implique varios modelos y pasos de flujo de trabajo.

-     Fortalezca los datos y las habilidades: Priorice los esfuerzos de preparación de datos para recopilar, seleccionar y organizar los datos necesarios para ajustar los modelos de lenguaje. Al mismo tiempo, invierta en la mejora de las habilidades del personal en todos los grupos técnicos y funcionales, como los arquitectos de IA y datos, los científicos de datos, los ingenieros de IA y datos, los equipos de riesgo y cumplimiento, los equipos de adquisiciones y los expertos en la materia empresarial, para impulsar eficazmente estas iniciativas.