LLaMA
Etapa 5 · IA generativa, razonamiento y agentes (2022–2026) › Modelos de frontera
- Linaje
- Neuronas y redes
- Tipo
- Implementación
Quién
Meta
Qué ocurrió
Meta presenta LLaMA, una familia de modelos de lenguaje de 7.000 a 65.000 millones de parámetros entrenados solo con datos públicos, y la cede a investigadores con una licencia no comercial. Una semana después, sus pesos se filtran en internet.
Qué aportó
Arranca el ecosistema de modelos de pesos abiertos: un modelo competitivo puede ejecutarse y ajustarse fuera de los grandes laboratorios.
Desarrollo
A comienzos de 2023, los modelos de lenguaje más capaces se usaban a través de los servicios de sus dueños. El 24 de febrero, Meta presentó LLaMA, una familia de cuatro modelos de 7.000, 13.000, 33.000 y 65.000 millones de parámetros. El artículo, firmado por Hugo Touvron, Guillaume Lample y otros doce investigadores, salió en arXiv tres días después.
La apuesta era la eficiencia. Los modelos se entrenaron solo con datos públicos, y según el artículo el de 13.000 millones de parámetros superaba en la mayoría de las pruebas a GPT-3, que tenía 175.000 millones, mientras que el mayor competía con Chinchilla y PaLM, dos de los mejores modelos de entonces. Meta defendía que los modelos pequeños, al necesitar mucho menos cómputo, abrían la investigación a quienes no tenían grandes infraestructuras.
Meta no publicó los pesos sin más: los cedía caso por caso a investigadores de universidades, administraciones, organizaciones civiles y laboratorios de la industria, con una licencia no comercial. El 3 de marzo, una semana después del anuncio, se difundieron por BitTorrent a través del foro 4chan.
Sobre esos pesos se construyeron modelos derivados, como Alpaca, de la Universidad de Stanford, basado en el LLaMA más pequeño. Con Llama 2, en julio de 2023, Meta ya permitió el uso comercial, y siguió con Llama 3 en abril de 2024 y Llama 4 en abril de 2025.
Malentendidos frecuentes
Se suele decir: Meta publicó LLaMA en abierto para que cualquiera lo usara.
En realidad: Meta cedía los pesos caso por caso a investigadores, con una licencia no comercial. Circularon libremente porque se filtraron una semana después, y el uso comercial no se permitió hasta Llama 2.
Viene de
Chinchilla (29 de marzo de 2022)
Influencia directa documentada
LLaMA parte de las leyes de escala de Hoffmann y otros (2022) y decide entrenar modelos más pequeños con más tokens de los que esas leyes recomiendan, pensando en el coste de usarlos (apartado 1)
Bibliografía
Fuente original
- LLaMA: Open and Efficient Foundation Language Models (arXiv:2302.13971) (se abre en una pestaña nueva). Hugo Touvron y otros, 2023
Estudios y contexto
Cómo citar
«LLaMA». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/llama
Última revisión de esta ficha: 13 de noviembre de 2026.