Glosario

Modelo de lenguaje (LLM): qué es y para qué sirve en una empresa

Por , fundador de Arume · · lectura de 5 min

Definición

Un modelo de lenguaje (LLM) es un modelo de aprendizaje automático entrenado con enormes cantidades de texto para generar, resumir, traducir y analizar lenguaje. Funciona prediciendo la siguiente palabra y está basado en la arquitectura transformer. En una empresa sirve para interpretar preguntas y redactar respuestas; los cálculos de previsión y los datos de stock deben venir de sistemas específicos, no del propio modelo.

Un modelo de lenguaje es el motor detrás de los asistentes que entienden una pregunta escrita y contestan con texto. Sabe leer, resumir y redactar con soltura. Lo que no sabe hacer por sí solo es prever ventas ni acertar una cuenta de stock, y entender esa frontera es lo que decide si sirve o estorba en tu almacén.

Qué es exactamente

Un modelo de lenguaje de gran tamaño, o LLM, es un modelo de aprendizaje automático, normalmente una red neuronal, entrenado con una cantidad enorme de texto. Según la descripción de Wikipedia, está pensado especialmente para generar lenguaje: puede redactar, resumir, traducir y analizar texto. La mayoría se construyen con la arquitectura transformer, que usa un mecanismo de atención para relacionar entre sí todas las palabras de una frase.

Los modelos tipo GPT se preentrenan para predecir la palabra siguiente y después se ajustan para seguir instrucciones y comportarse como asistentes. Eso explica sus virtudes (escribe con fluidez, entiende preguntas mal formuladas) y sus límites: su trabajo es producir texto plausible, no verificar cifras.

También se le llama

LLM (large language model), gran modelo de lenguaje o modelo de lenguaje grande. En lenguaje de calle se le mezcla con «ChatGPT», que en realidad es un producto construido sobre un modelo de lenguaje. También se habla de IA generativa de texto.

Un ejemplo

Un jefe de compras de una empresa de material eléctrico pregunta: «¿qué referencias de cable de 2,5 mm se están agotando en las delegaciones del sur?». Un modelo de lenguaje, solo, no tiene tus existencias. Si se le pregunta sin más, producirá una respuesta con aspecto convincente sobre cables en general. La cifra no vendrá de tu almacén.

Lo útil ocurre cuando el modelo se usa para lo que sabe hacer: entender la pregunta (cable de 2,5 mm, delegaciones del sur), traducirla a una consulta sobre los datos de tu programa y redactar la respuesta con lo que devuelve. El número de unidades sigue saliendo del programa y de la previsión. El modelo es el intérprete, no la fuente.

Piensa en una persona muy leída que acaba de entrar en tu empresa. Habla bien y entiende rápido, pero si no le das acceso a las cifras, improvisa. Con acceso a los datos, y con la obligación de citar de dónde saca cada cosa, es un buen ayudante.

Ojo con esto

Lo que conviene tener claro antes de poner uno en la empresa:

  • No es una base de datos: no recuerda tus existencias ni tus ventas. Hay que darle los datos en cada consulta.
  • No hace cálculos fiables por intuición: sumar, dividir o proyectar es mejor hacerlo con código y que el modelo solo cuente el resultado.
  • Puede inventar con seguridad: genera lo más probable, no lo verificado. Es lo que se llama alucinación.
  • Depende de lo que se le pregunta: una pregunta ambigua («¿cómo va el stock?») da una respuesta ambigua. Ayuda acotar producto, sitio y fecha.
  • No es un agente por sí mismo: según la descripción de Wikipedia, para actuar necesita un entorno con herramientas y memoria alrededor.
  • Los datos salen del sistema donde se consulta: conviene saber dónde se procesan y si se guardan. En nuestro caso, en la UE.

Dónde aparece en el sistema

El asistente al que se le pregunta en lenguaje normal usa un modelo de lenguaje para entender «¿cuánto stock queda en Sevilla?» o «¿y si mando dos menos?» y para redactar la respuesta. Lo que no hace es inventar la cifra: cada número viene de tu programa o del cálculo de reposición, y el asistente dice de dónde sale. Ese esquema se llama RAG.

La previsión de ventas y el riesgo de rotura los calculan modelos estadísticos y de aprendizaje automático pensados para series temporales, no el modelo de lenguaje. Está explicado en la previsión de demanda, y el trabajo del asistente en el asistente de IA sobre tu ERP.

Términos relacionados

RAG, alucinación de la IA, agente de IA, asistente conversacional y explicabilidad.

Preguntas frecuentes

¿Un modelo de lenguaje puede hacer la previsión de ventas?

No es su herramienta. La previsión de series de ventas se hace mejor con modelos estadísticos y de aprendizaje automático diseñados para eso. El modelo de lenguaje se usa para entender la pregunta y explicar el resultado.

¿Es lo mismo ChatGPT que un LLM?

No. ChatGPT es un producto, una aplicación de conversación construida sobre un modelo de lenguaje. Hay muchos modelos de lenguaje de distintos fabricantes, y una empresa puede usar uno dentro de su propio sistema.

¿Se entrena el modelo con los datos de nuestra empresa?

Para este uso no hace falta. Los datos se consultan en el momento y se le pasan para contestar, sin reentrenar el modelo. Conviene pedir por escrito dónde se procesan y si se conservan.

¿Hay que desconfiar de todo lo que dice?

Hay que pedirle que cite el origen de cada cifra y comprobarlo cuando importe. Un buen sistema lo hace visible, de modo que revisar sea rápido.

Fuentes

  1. Wikipedia: Large language model (definición, transformer, entrenamiento, herramientas y agentes)
  2. Huang et al.: A Survey on Hallucination in Large Language Models (arXiv, 2023)

¿Quieres saber qué pasa con tu stock?

Mándanos un export de ventas y stock y te devolvemos un informe corto: roturas, dinero parado y qué cambiaríamos primero. Sin compromiso.

hello@arume.io

Escríbenos por WhatsApp

Cuéntanos tu proyecto

Te contesta Manuel en menos de 48 horas laborables. Sin compromiso.

O por WhatsApp