dropoutLayer

Capa de abandono

Descripción

Una capa de abandono establece aleatoriamente elementos de entrada en cero con una probabilidad dada.

Creación

Sintaxis

layer = dropoutLayer

layer = dropoutLayer(probability)

layer = dropoutLayer(___,'Name',Name)

Descripción

layer = dropoutLayer crea una capa de abandono.

layer = dropoutLayer(probability) crea una capa de abandono y establece la propiedad Probability.

layer = dropoutLayer(___,'Name',Name) establece la propiedad opcional Name mediante un par nombre-valor y cualquiera de los argumentos de las sintaxis anteriores. Por ejemplo, dropoutLayer(0.4,'Name','drop1') crea una capa de abandono con una probabilidad de abandono de 0,4 con el nombre 'drop1'. Debe encerrar el nombre de la propiedad entre comillas simples.

Propiedades

Abandono

Probability — Probabilidad de abandonar elementos de entrada

0.5 (predeterminado) | número no negativo menor que 1

Probabilidad de abandonar elementos de entrada, especificada como un número no negativo menor que 1.

En el tiempo de entrenamiento, la capa establece elementos de entrada en cero de forma aleatoria y según la máscara de abandono rand(size(X))<Probability, donde X es la entrada de la capa. Después, escala los elementos restantes en 1/(1-Probability). Esta operación modifica de manera efectiva la arquitectura de red subyacente entre iteraciones y ayuda a prevenir que la red se sobreajuste [1], [2]. Un número mayor tiene como resultado que se abandonen más elementos durante el entrenamiento. En el tiempo de predicción, la salida de la capa es igual a su entrada.

Para la entrada de imágenes, la capa aplica una máscara de abandono diferente en cada canal de cada imagen. Para la entrada de secuencias, la capa aplica una máscara de abandono diferente en cada unidad de tiempo de cada secuencia.

Ejemplo: 0.4

Capa

Name — Nombre de la capa

"" (predeterminado) | vector de caracteres | escalar de cadena

Nombre de la capa, especificado como un vector de caracteres o un escalar de cadena. Para entradas en forma de arreglo Layer, las funciones trainnet y dlnetwork asignan automáticamente nombres a las capas con el nombre "".

El objeto DropoutLayer almacena esta propiedad como un vector de caracteres.

Tipos de datos: char | string

NumInputs — Número de entradas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de entradas a la capa, devuelto como 1. Esta capa solo admite una entrada.

Tipos de datos: double

InputNames — Nombres de las entradas

{'in'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de entrada, devueltos como {'in'}. Esta capa solo admite una entrada.

Tipos de datos: cell

NumOutputs — Número de salidas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de salidas de la capa, devuelto como 1. Esta capa solo tiene una salida.

Tipos de datos: double

OutputNames — Nombres de salida

{'out'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de salida, devueltos como {'out'}. Esta capa solo tiene una salida.

Tipos de datos: cell

Ejemplos

Crear una capa de abandono

Cree una capa de abandono con el nombre 'drop1'.

layer = dropoutLayer('Name','drop1')

layer = 
  DropoutLayer with properties:

           Name: 'drop1'

   Hyperparameters
    Probability: 0.5000

Incluya una capa de abandono en un arreglo Layer.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    dropoutLayer
    fullyConnectedLayer(10)
    softmaxLayer]

layers = 
  6x1 Layer array with layers:

     1   ''   Image Input       28x28x1 images with 'zerocenter' normalization
     2   ''   2-D Convolution   20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU              ReLU
     4   ''   Dropout           50% dropout
     5   ''   Fully Connected   10 fully connected layer
     6   ''   Softmax           softmax

Algoritmos

Capa de abandono

Una capa de abandono establece aleatoriamente elementos de entrada en cero con una probabilidad dada.

En el tiempo de entrenamiento, la capa establece elementos de entrada en cero de forma aleatoria y según la máscara de abandono rand(size(X))<Probability, donde X es la entrada de la capa. Después, escala los elementos restantes en 1/(1-Probability). Esta operación modifica de manera efectiva la arquitectura de red subyacente entre iteraciones y ayuda a prevenir que la red se sobreajuste [1], [2]. Un número mayor tiene como resultado que se abandonen más elementos durante el entrenamiento. En el tiempo de predicción, la salida de la capa es igual a su entrada.

De forma similar a las capas de agrupación máxima o media, en esta capa no se produce ningún aprendizaje.

Para la entrada de imágenes, la capa aplica una máscara de abandono diferente en cada canal de cada imagen. Para la entrada de secuencias, la capa aplica una máscara de abandono diferente en cada unidad de tiempo de cada secuencia.

Formatos de entrada y salida de capa

Las capas en un arreglo de capas o en una gráfica de capas pasan datos a las capas posteriores como objetos dlarray con formato. El formato de un objeto dlarray es una cadena de caracteres, en la que cada carácter describe la dimensión correspondiente de los datos. Los formatos constan de uno o más de estos caracteres:

• "S": espacial

• "C": canal

• "B": lote

• "T": tiempo

• "U": sin especificar

Por ejemplo, los datos de imagen 2D que están representados como arreglo 4D, donde las dos primeras dimensiones corresponden a las dimensiones espaciales de las imágenes, la tercera dimensión corresponde a los canales de las imágenes y la cuarta dimensión corresponde a la dimensión de lote, pueden describirse como datos con formato "SSCB" (espacial, espacial, canal, lote).

Los objetos DropoutLayer aplican una operación por elemento y admiten datos de entrada con cualquier formato. La capa and no añade ni elimina ninguna dimensión, por lo que genera datos con el mismo formato que sus entradas.

Referencias

[1] Srivastava, Nitish, Geoffrey Hinton, Alex Krizhevsky, Ilya Sutskever, and Ruslan Salakhutdinov. "Dropout: A Simple Way to Prevent Neural Networks from Overfitting." The Journal of Machine Learning Research 15, no. 1 (January 1, 2014): 1929–58

[2] Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. "ImageNet Classification with Deep Convolutional Neural Networks." Communications of the ACM 60, no. 6 (May 24, 2017): 84–90. https://doi.org/10.1145/3065386

Capacidades ampliadas

Generación de código C/C++
Genere código C y C++ mediante MATLAB® Coder™.

Generación de código de GPU
Genere código CUDA® para GPU NVIDIA® mediante GPU Coder™.

Historial de versiones

Introducido en R2016a

Consulte también

spatialDropoutLayer | imageInputLayer | reluLayer

Temas

• Crear una red neuronal de deep learning sencilla para clasificación
• Entrenar una red neuronal convolucional para regresión
• Deep learning en MATLAB
• Lista de capas de deep learning