Cómo hacemos que un modelo razone (y VI): destilado
Para cerrar la serie sobre la obtención de modelos razonadores a partir de modelos de lenguaje, hablamos del destilado (‘distillation’).
Para cerrar la serie sobre la obtención de modelos razonadores a partir de modelos de lenguaje, hablamos del destilado (‘distillation’).
Describimos el aprendizaje por refuerzo con feedback humano (RLHF) como un mecanismo para convertir un modelo de lenguaje en modelo razonador.
Comentamos la estrategia de aprendizaje por refuerzo con recompensas verificables (RLVR) como forma de entrenamiento para modelos razonadores.
Presentamos la técnica de auto-refinamiento, una forma de conseguir que un gran modelo de lenguaje actúe como razonador.
Presentamos dos técnicas de prompting que ayudan a que un modelo razone, aunque supongan mayor coste computacional.
Comentamos las tres estrategias básicas para hacer que hacemos que un modelo razone, pasando de la generación de texto a planes.
Revisamos algunas limitaciones en los modelos razonadores que encontró un equipo de Apple en un estudio de hace unos meses.