dropoutLayer

Capa de abandono

Descripción

Una capa de abandono establece aleatoriamente elementos de entrada en cero con una probabilidad dada.

Creación

Sintaxis

layer = dropoutLayer

layer = dropoutLayer(probability)

layer = dropoutLayer(___,'Name',Name)

Descripción

layer = dropoutLayer crea una capa de abandono.

layer = dropoutLayer(probability) crea una capa de abandono y establece la propiedad Probability.

layer = dropoutLayer(___,'Name',Name) establece la propiedad opcional Name mediante un par nombre-valor y cualquiera de los argumentos de las sintaxis anteriores. Por ejemplo, dropoutLayer(0.4,'Name','drop1') crea una capa de abandono con una probabilidad de abandono de 0,4 con el nombre 'drop1'. Debe encerrar el nombre de la propiedad entre comillas simples.

Propiedades

Abandono

Probability — Probabilidad de abandonar elementos de entrada

0.5 (predeterminado) | número no negativo menor que 1

Probabilidad de abandonar elementos de entrada, especificada como un número no negativo menor que 1.

En el tiempo de entrenamiento, la capa establece elementos de entrada en cero de forma aleatoria y según la máscara de abandono rand(size(X))<Probability, donde X es la entrada de la capa. Después, escala los elementos restantes en 1/(1-Probability). Esta operación modifica de manera efectiva la arquitectura de red subyacente entre iteraciones y ayuda a prevenir que la red se sobreajuste [1], [2]. Un número mayor tiene como resultado que se abandonen más elementos durante el entrenamiento. En el tiempo de predicción, la salida de la capa es igual a su entrada.

Para la entrada de imágenes, la capa aplica una máscara de abandono diferente en cada canal de cada imagen. Para la entrada de secuencias, la capa aplica una máscara de abandono diferente en cada unidad de tiempo de cada secuencia.

Ejemplo: 0.4

Capa

Name — Nombre de la capa

'' (predeterminado) | vector de caracteres | escalar de cadena

Nombre de la capa, especificado como un vector de caracteres o un escalar de cadena. Para entradas en forma de arreglo Layer, las funciones trainnet y dlnetwork asignan automáticamente nombres a las capas sin nombre.

El objeto DropoutLayer almacena esta propiedad como un vector de caracteres.

Tipos de datos: char | string

NumInputs — Número de entradas

Solo lectura: 1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de entradas a la capa, almacenado como 1. Esta capa solo admite una entrada.

Tipos de datos: double

InputNames — Nombres de las entradas

Solo lectura: {'in'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de entrada, almacenados como {'in'}. Esta capa solo admite una entrada.

Tipos de datos: cell

NumOutputs — Número de salidas

Solo lectura: 1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de salidas de la capa, almacenado como 1. Esta capa solo tiene una salida.

Tipos de datos: double

OutputNames — Nombres de salida

Solo lectura: {'out'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de salida, almacenados como {'out'}. Esta capa solo tiene una salida.

Tipos de datos: cell

Ejemplos

Crear una capa de abandono

Cree una capa de abandono con el nombre 'drop1'.

layer = dropoutLayer('Name','drop1')

layer = 
  DropoutLayer with properties:

           Name: 'drop1'

   Hyperparameters
    Probability: 0.5000

Incluya una capa de abandono en un arreglo Layer.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    dropoutLayer
    fullyConnectedLayer(10)
    softmaxLayer]

layers = 
  6×1 Layer array with layers:

     1   ''   Image Input       28×28×1 images with 'zerocenter' normalization
     2   ''   2-D Convolution   20 5×5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU              ReLU
     4   ''   Dropout           50% dropout
     5   ''   Fully Connected   10 fully connected layer
     6   ''   Softmax           softmax

Algoritmos

Capa de abandono

Una capa de abandono establece aleatoriamente elementos de entrada en cero con una probabilidad dada.

En el tiempo de entrenamiento, la capa establece elementos de entrada en cero de forma aleatoria y según la máscara de abandono rand(size(X))<Probability, donde X es la entrada de la capa. Después, escala los elementos restantes en 1/(1-Probability). Esta operación modifica de manera efectiva la arquitectura de red subyacente entre iteraciones y ayuda a prevenir que la red se sobreajuste [1], [2]. Un número mayor tiene como resultado que se abandonen más elementos durante el entrenamiento. En el tiempo de predicción, la salida de la capa es igual a su entrada.

De forma similar a las capas de agrupación máxima o media, en esta capa no se produce ningún aprendizaje.

Para la entrada de imágenes, la capa aplica una máscara de abandono diferente en cada canal de cada imagen. Para la entrada de secuencias, la capa aplica una máscara de abandono diferente en cada unidad de tiempo de cada secuencia.

Formatos de entrada y salida de capa

Las capas en un arreglo de capas o en una gráfica de capas pasan datos a las capas posteriores como objetos dlarray con formato. El formato de un objeto dlarray es una cadena de caracteres, en la que cada carácter describe la dimensión correspondiente de los datos. El formato consta de uno o más de estos caracteres:

• "S": espacial

• "C": canal

• "B": lote

• "T": tiempo

• "U": sin especificar

Por ejemplo, puede describir los datos de imagen 2D que están representados como arreglo 4D, donde las dos primeras dimensiones corresponden a las dimensiones espaciales de las imágenes, la tercera dimensión corresponde a los canales de las imágenes y la cuarta dimensión corresponde a la dimensión de lote, como datos con formato "SSCB" (espacial, espacial, canal, lote).

Los objetos DropoutLayer aplican una operación por elemento y admiten datos de entrada con cualquier formato. La capa no agrega ni elimina ninguna dimensión, por lo que genera datos con el mismo formato que sus datos de entrada.

Números complejos

Los objetos DropoutLayer admiten entradas y salidas de valores complejos. (desde R2024a) La capa aplica la misma operación subyacente a la entrada de valores complejos como lo hace en las entradas de valores reales y genera como salida los datos de valores complejos cuando procede.

Referencias

[1] Srivastava, Nitish, Geoffrey Hinton, Alex Krizhevsky, Ilya Sutskever, and Ruslan Salakhutdinov. "Dropout: A Simple Way to Prevent Neural Networks from Overfitting." The Journal of Machine Learning Research 15, no. 1 (January 1, 2014): 1929–58

[2] Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. "ImageNet Classification with Deep Convolutional Neural Networks." Communications of the ACM 60, no. 6 (May 24, 2017): 84–90. https://doi.org/10.1145/3065386.

Capacidades ampliadas

Generación de código C/C++

Genere código C y C++ mediante MATLAB® Coder™.

Notas y limitaciones de uso:

Para la generación de código, debe pasar un objeto dlarray con una dimensión de canal (C) como entrada a esta capa. Por ejemplo, la generación de código admite formatos de datos como SSC o SSCBT:

Generación de código de GPU

Genere código CUDA® para GPU NVIDIA® mediante GPU Coder™.

Consulte las notas de uso y las limitaciones de la sección Generación de código C/C++. Las mismas limitaciones se aplican a la generación de código GPU.

Historial de versiones

Introducido en R2016a

R2024a: Compatibilidad para entradas y salidas de valores complejos

Los objetos DropoutLayer admiten entradas y salidas de valores complejos. La capa aplica la misma operación subyacente a la entrada de valores complejos como lo hace en las entradas de valores reales y genera como salida los datos de valores complejos cuando procede.

Consulte también

spatialDropoutLayer | imageInputLayer | reluLayer | exportNetworkToSimulink | Dropout Layer

Temas

• Crear una red neuronal de deep learning sencilla para clasificación
• Entrenar una red neuronal convolucional para regresión
• Deep learning en MATLAB
• Lista de capas de deep learning