La historia de la IA

IA constitucional

Etapa 5 · IA generativa, razonamiento y agentes (2022–2026) › Alineamiento y razonamiento

Linaje
Datos y aprendizaje
Tipo
Publicación

Quién

Anthropic

Qué ocurrió

Yuntao Bai y sus colegas de Anthropic presentan la IA constitucional, un método para entrenar un asistente inofensivo sin etiquetas humanas sobre respuestas dañinas: las personas solo escriben una lista de principios, y el modelo critica y corrige sus propias respuestas a partir de ellos.

Qué aportó

El modelo se entrena con un conjunto de principios escritos y con la valoración de otra IA, en lugar de miles de juicios humanos. Responde con sus objeciones en lugar de negarse sin más.

Desarrollo

El aprendizaje con retroalimentación humana necesitaba que personas leyeran y valoraran muchas respuestas, incluidas respuestas dañinas, para enseñar al modelo qué evitar. Exigía muchas etiquetas humanas, y los criterios quedaban implícitos en miles de juicios individuales que nadie había escrito como reglas.

La IA constitucional sustituye esos juicios por una lista explícita de principios, la constitución. En una primera fase supervisada, el modelo genera una respuesta, la critica según los principios, la reescribe, y se ajusta con las versiones corregidas. En una segunda fase de aprendizaje por refuerzo, otro modelo compara pares de respuestas y decide cuál cumple mejor los principios. Esas preferencias de la IA entrenan el modelo de recompensa, y los autores llamaron al conjunto aprendizaje por refuerzo con retroalimentación de IA.

El asistente resultante era inofensivo sin ser evasivo: ante una petición dañina, explicaba sus objeciones en lugar de limitarse a negarse. Los autores señalaron que pedir al modelo que razonara paso a paso al juzgar mejoraba la calidad y la transparencia de sus decisiones, y que el método permitía controlar el comportamiento con muchas menos etiquetas humanas.

Anthropic aplicó este método a sus modelos Claude, publicados a partir de marzo de 2023.

Viene de

  • InstructGPT (4 de marzo de 2022)

    Herencia sin relación directa demostrada

    La IA constitucional conserva el esquema de aprendizaje por refuerzo con un modelo de preferencias y sustituye las etiquetas humanas sobre respuestas dañinas por las de una IA guiada por principios

Bibliografía

Cómo citar

«IA constitucional». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/constitutional-ai

Última revisión de esta ficha: 13 de noviembre de 2026.

Abrir en la cronología interactiva