Toolformer
Etapa 5 · IA generativa, razonamiento y agentes (2022–2026) › Agentes
- Linaje
- Acción en el mundo
- Tipo
- Publicación
Quién
Meta, Universitat Pompeu Fabra
Qué ocurrió
Timo Schick y sus colegas de Meta AI Research y la Universitat Pompeu Fabra presentan Toolformer, un modelo de lenguaje que aprende por sí mismo cuándo llamar a una herramienta externa, como una calculadora, un buscador o un traductor, y cómo usar la respuesta.
Qué aportó
El modelo aprende cuándo llamar a una herramienta, con solo unos pocos ejemplos de cada una. Uno pequeño con herramientas compite con otros mucho más grandes.
Desarrollo
Los modelos de lenguaje grandes resolvían tareas sorprendentes, pero fallaban en cosas sencillas para un programa corriente: la aritmética exacta, los datos actualizados o la fecha de hoy. La solución obvia era darles herramientas, pero enseñarles a usarlas exigía muchos ejemplos anotados por personas.
Toolformer aprendió de forma autosupervisada. Con solo unos pocos ejemplos de cómo llamar a cada interfaz, el modelo insertaba posibles llamadas en textos, las ejecutaba y conservaba solo las que le ayudaban a predecir mejor el texto que venía después. Con esos datos se ajustaba, y así aprendía cuándo merecía la pena llamar a una herramienta, a cuál, con qué datos y cómo incorporar el resultado.
Las herramientas eran una calculadora, un sistema de preguntas y respuestas, dos buscadores, un traductor y un calendario. Toolformer mejoró los resultados en una serie de tareas sin entrenamiento específico, a menudo al nivel de modelos mucho más grandes, sin perder su capacidad general como modelo de lenguaje.
Se presentó en NeurIPS 2023.
Viene de
ReAct (6 de octubre de 2022)
Convergencia independiente
Los dos trabajos dan herramientas externas a un modelo de lenguaje desde líneas distintas, uno con ejemplos en la instrucción y otro con datos autosupervisados
Bibliografía
Fuente original
- Toolformer: Language Models Can Teach Themselves to Use Tools (arXiv:2302.04761) (se abre en una pestaña nueva). Timo Schick, Jane Dwivedi-Yu, Roberto Dessì, Roberta Raileanu, Maria Lomeli, Luke Zettlemoyer, Nicola Cancedda y Thomas Scialom, 2023
Estudios y contexto
Cómo citar
«Toolformer». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/toolformer
Última revisión de esta ficha: 13 de noviembre de 2026.