Una capa de regresión calcula la pérdida del error cuadrático medio dividido de las tareas de regresión. En problemas típicos de regresión, la capa de regresión debe ir detrás de la capa totalmente conectada final.
Para una sola observación, el error cuadrático medio se proporciona de esta manera:
donde R es el número de respuestas, ti corresponde a la salida objetivo y yi es la predicción de la red de la respuesta i.
En las redes de regresión de imagen y secuencia a uno, la función de pérdida de la capa de regresión es el error cuadrático medio dividido de las respuestas de la predicción, sin que R aplique la normalización:
En las redes de regresión de imagen a imagen, la función de pérdida de la capa de regresión es el error cuadrático medio dividido de las respuestas de la predicción de cada píxel, sin que R aplique la normalización:
donde H, W y C determinan la altura, anchura y el número de canales de la salida (respectivamente), y p indexa en cada elemento (píxel) de t e y de forma lineal.
En las redes de regresión de secuencia a secuencia, la función de pérdida de la capa de regresión es el error cuadrático medio dividido de las respuestas de la predicción de cada unidad de tiempo, sin que R aplique la normalización:
donde S corresponde a la longitud de la secuencia.
Durante el entrenamiento, el software calcula la pérdida media a lo largo de las observaciones del minilote.