Reinforcement learning

 

 

¿Qué es reinforcement learning?

3 cosas que necesita saber

Reinforcement learning es una técnica de machine learning en la que un agente informático aprende a realizar una tarea a través de repetidas interacciones de prueba y error con un entorno dinámico. Este enfoque de aprendizaje permite que el agente tome una serie de decisiones que amplían al máximo una métrica de recompensa por la tarea hecha, sin intervención humana y sin estar programado explícitamente para completar la tarea.

Los programas de inteligencia artificial entrenados con reinforcement learning superan a los humanos en juegos de mesa tales como Go y el ajedrez, así como en videojuegos. Aunque reinforcement learning no es de ninguna manera un concepto nuevo, los recientes avances en cuanto a deep learning y potencia informática han permitido lograr algunos resultados notables en el área de la inteligencia artificial.

Por qué reinforcement learning es importante

Comparación entre reinforcement learning, deep learning y machine learning

Reinforcement learning es una rama de machine learning (figura 1). A diferencia de machine learning supervisado y no supervisado, reinforcement learning no requiere un conjunto de datos estáticos, sino que opera en un entorno dinámico y aprende de las experiencias recopiladas. Los puntos de datos, o experiencias, se recopilan durante el entrenamiento a través de interacciones de prueba y error entre el entorno y un agente de software. Este aspecto de reinforcement learning es importante, ya que, a diferencia del aprendizaje supervisado y no supervisado, se elimina la necesidad de recopilar, preprocesar y etiquetar datos antes del entrenamiento. En la práctica, esto significa que, con el incentivo adecuado, un modelo de reinforcement learning puede comenzar a aprender un comportamiento por sí solo, sin supervisión (humana).

Deep learning abarca los tres tipos de machine learning; reinforcement learning y deep learning no se excluyen mutuamente. Los problemas complejos de reinforcement learning a menudo requieren el uso de redes neuronales profundas, un campo conocido como deep reinforcement learning.

Figura 1. Tres categorías generales de machine learning: aprendizaje no supervisado, aprendizaje supervisado y reinforcement learning

Figura 1. Tres categorías generales de machine learning: aprendizaje no supervisado, aprendizaje supervisado y reinforcement learning.

Ejemplos de aplicaciones de reinforcement learning

Las redes neuronales profundas entrenadas con reinforcement learning pueden codificar comportamientos complejos. Esto representa una alternativa para aplicaciones que, de otro modo, serían imposibles o más difíciles de abordar con métodos más tradicionales. Por ejemplo, en el campo de la conducción autónoma, una red neuronal puede reemplazar al conductor y decidir cómo girar el volante observando simultáneamente varios sensores, tales como fotogramas de cámaras y mediciones de LiDAR. Sin redes neuronales, el problema normalmente se dividiría en partes más pequeñas, tales como extraer características de los fotogramas de cámaras, filtrar las mediciones de LiDAR, fusionar las salidas de los sensores y tomar decisiones sobre “conducción” basadas en las entradas de los sensores.

Aunque el enfoque de reinforcement learning todavía está bajo consideración para los sistemas de producción, algunas aplicaciones industriales son buenas candidatas para esta tecnología.

Sistemas de control avanzados: el control de los sistemas no lineales es un problema difícil que a menudo se aborda mediante la linealización del sistema en diferentes puntos operativos. Se puede aplicar reinforcement learning directamente al sistema no lineal.

Conducción autónoma: la toma de decisiones de conducción basadas en las entradas de cámaras es un área adecuada para reinforcement learning, teniendo en cuenta el éxito de las redes neuronales profundas en aplicaciones relacionadas con imágenes.

Robótica: reinforcement learning puede ayudar en aplicaciones tales como el agarre robótico, por ejemplo, para enseñar a un brazo robótico a manipular diversos objetos para la aplicación del sistema pick-and-place. Otras aplicaciones de robótica incluyen colaboración humano-robot y robot-robot.

Planificación: los problemas de planificación aparecen en muchos escenarios, incluidos los sistemas de control de semáforos y la coordinación de recursos en fábricas para cumplir objetivos. Reinforcement learning es una buena alternativa a los métodos evolutivos para resolver estos problemas de optimización combinatoria.

Calibración: las aplicaciones relacionadas con la calibración manual de parámetros, como, por ejemplo, la calibración de una unidad de control electrónico (ECU), pueden ser buenas candidatas para reinforcement learning.

Cómo funciona reinforcement learning

El mecanismo de entrenamiento que subyace a reinforcement learning refleja muchos escenarios de la vida real. Considere, por ejemplo, el entrenamiento de mascotas con reforzamiento positivo.

Figura 2. Reinforcement learning en el entrenamiento canino.

Figura 2. Reinforcement learning en el entrenamiento canino.

Usando terminología de reinforcement learning (figura 2), el objetivo del aprendizaje en este caso es entrenar al perro (agente) para que realice una tarea dentro de un entorno, que incluye tanto el entorno del perro como del entrenador. En primer lugar, el entrenador emite un comando o indicación que el perro observa (observación). Luego, el perro responde realizando una acción. Si la acción se asemeja al comportamiento deseado, el entrenador proporcionará una recompensa, como una galleta o un juguete; de lo contrario, no proporcionará ninguna recompensa. Al comienzo del entrenamiento, el perro probablemente realizará más acciones aleatorias como dar una vuelta cuando el comando es “siéntate”, ya que está tratando de asociar observaciones específicas con acciones y recompensas. Esta asociación (o mapeo) entre observaciones y acciones se denomina política. Desde la perspectiva del perro, lo ideal sería responder correctamente a todas las indicaciones para recibir todas las recompensas posibles. Por lo tanto, el único objetivo del entrenamiento con reinforcement learning es “ajustar” la política del perro para que aprenda los comportamientos deseados que maximizarán la recompensa. Una vez finalizado el entrenamiento, el perro será capaz de observar a su dueño y realizar las acciones apropiadas, por ejemplo, sentarse cuando se le ordene “siéntate”, utilizando la política interna que ha desarrollado. Para ese entonces, las recompensas serán opcionales, no necesarias.

Teniendo en cuenta el ejemplo de entrenamiento canino, considere la tarea de estacionar un vehículo utilizando un sistema de conducción autónoma (figura 3). El objetivo es enseñar al ordenador del vehículo (agente) a estacionar correctamente en la plaza de estacionamiento marcado mediante reinforcement learning. Al igual que en el caso del entrenamiento canino, se considera el entorno a todo lo que existe fuera del agente, incluyendo la dinámica del vehículo, otros vehículos cercanos, las condiciones meteorológicas, etc. Durante el entrenamiento, el agente utiliza lecturas de sensores tales como cámaras, GPS y LiDAR (observaciones) para generar comandos de dirección, frenado y aceleración (acciones). Para aprender a generar las acciones correctas a partir de las observaciones (ajuste de política), el agente intenta estacionar el vehículo repetidamente mediante un proceso de prueba y error. Se puede proporcionar una señal de recompensa para evaluar la bondad del intento y así guiar el proceso de aprendizaje.

Figura 3. Reinforcement learning en el estacionamiento autónomo.

Figura 3. Reinforcement learning en el estacionamiento autónomo. 

En el ejemplo de entrenamiento canino, el entrenamiento reside en el cerebro del perro. En el ejemplo de estacionamiento autónomo, el entrenamiento lo gestiona un algoritmo de entrenamiento. El algoritmo de entrenamiento se ocupa de ajustar la política del agente en función de las lecturas de sensores, las acciones y las recompensas recopiladas. Una vez finalizado el entrenamiento, el ordenador del vehículo será capaz de estacionar utilizando solo la política ajustada y las lecturas de los sensores.

Debe tener en cuenta que reinforcement learning no resulta eficiente con muestras. Es decir, requiere un gran número de interacciones entre el agente y el entorno para recopilar datos de entrenamiento. Por ejemplo, AlphaGo, el primer programa informático que derrotó a un campeón del mundo en el juego Go, fue entrenado ininterrumpidamente por varios días con millones de partidas, acumulando miles de años de conocimiento humano del juego. Incluso para aplicaciones relativamente simples, el tiempo de entrenamiento puede oscilar desde minutos hasta horas o días. Además, configurar el problema correctamente puede ser un desafío, ya que se deben tomar muchas decisiones de diseño, lo que puede requerir varias iteraciones hasta obtener el resultado correcto. Estas incluyen, por ejemplo, seleccionar la arquitectura adecuada para las redes neuronales, ajustar los hiperparámetros y dar forma a la señal de recompensa.

Flujo de trabajo de reinforcement learning

El flujo de trabajo general para entrenar a un agente con reinforcement learning incluye los siguientes pasos (figura 4):

Figura 4. Flujo de trabajo de reinforcement learning.

Figura 4. Flujo de trabajo de reinforcement learning.

1. Crear el entorno

En primer lugar, debe definir el entorno en el que opera el agente de reinforcement learning, incluida la interfaz entre el agente y el entorno. El entorno puede ser un modelo de simulación o un sistema físico real; los entornos simulados suelen ser un buen primer paso, ya que son más seguros y permiten experimentar.

2. Definir la recompensa

A continuación, especifique la señal de recompensa que el agente utilizará para medir su rendimiento en relación con los objetivos de la tarea y cómo se calcula esta señal desde el entorno. Dar forma a la recompensa puede ser complicado y requerir varias iteraciones hasta obtener el resultado correcto.

3. Crear el agente

A continuación, cree el agente, que consta de la política y el algoritmo de entrenamiento con reinforcement learning. Para ello deberá:

a) Elegir una forma de representar la política (tales como redes neuronales o tablas de búsqueda).

b) Seleccionar el algoritmo de entrenamiento adecuado. Las diferentes formas de representación suelen depender de las categorías específicas de los algoritmos de entrenamiento. Pero, en general, la mayoría de los algoritmos modernos de reinforcement learning dependen de redes neuronales, ya que son buenas candidatas para grandes espacios de estado/acción y problemas complejos.

4. Entrenar y validar el agente

Configure las opciones de entrenamiento (tales como los criterios de detención) y entrene al agente para ajustar la política. Asegúrese de validar la política entrenada cuando finalice el entrenamiento. Si es necesario, revise las opciones de diseño, tales como la señal de recompensa y la arquitectura de política, y vuelva a realizar el entrenamiento. En general, se sabe que reinforcement learning no resulta eficiente con muestras; el tiempo de entrenamiento puede oscilar desde minutos hasta días en función de la aplicación. Para aplicaciones complejas, la paralelización en múltiples CPU, GPU y clusters de ordenadores acelerará el proceso (figura 5).

Figura 5. Entrenamiento de un problema de aprendizaje ineficiente con muestras mediante cálculo paralelo.

Figura 5. Entrenamiento de un problema de aprendizaje ineficiente con muestras mediante cálculo paralelo.

5. Desplegar la política

Despliegue la representación de la política entrenada utilizando, por ejemplo, código C/C+ o CUDA generado. En este punto, la política ya es un sistema de toma de decisiones independiente.

El entrenamiento de un agente con reinforcement learning es un proceso iterativo. Las decisiones y los resultados en etapas posteriores pueden requerir la revisión de una etapa anterior del flujo de trabajo del aprendizaje. Por ejemplo, si el proceso de entrenamiento no converge en una política óptima en un plazo razonable, es posible que tenga que actualizar alguno de estos elementos antes de volver a entrenar al agente:

  • Parámetros del entrenamiento
  • Configuración del algoritmo de reinforcement learning
  • Representación de la política
  • Definición de la señal de recompensa
  • Señales de acción y observación
  • Dinámica del entorno

Reinforcement learning con MATLAB y Simulink

MATLAB® y Reinforcement learning Toolbox™ simplifican las tareas de reinforcement learning. Puede implementar controladores y algoritmos de toma de decisiones para sistemas complejos, tales como robots y sistemas autónomos, a cada paso del flujo de trabajo de reinforcement learning. Concretamente, puede hacer lo siguiente:

1. Crear entornos y funciones de recompensa con MATLAB y Simulink®.

2. Utilizar redes neuronales profundas, polinomios y tablas de búsqueda para definir políticas de reinforcement learning.

Figura 6. Robot bípedo aprende a caminar con Reinforcement learning Toolbox™.

Figura 6. Robot bípedo aprende a caminar con Reinforcement learning Toolbox™.

3. Cambiar, evaluar y comparar algoritmos de reinforcement learning habituales, tales como DQN, DDPG, PPO y SAC, con tan solo algunos cambios menores de código, o crear su propio algoritmo personalizado.

4. Utilizar Parallel Computing Toolbox™ y MATLAB Parallel Server™ para entrenar políticas de reinforcement learning más rápido aprovechando varias GPU, varias CPU, clusters de ordenadores y recursos en la nube.

5. Generar código y desplegar políticas de reinforcement learning en dispositivos embebidos con MATLAB Coder™ y GPU Coder™.

6. Iniciarse en reinforcement learning mediante el uso de ejemplos de referencia.

Aprenda más sobre reinforcement learning