clippedReluLayer

Capa de unidad lineal rectificada (ReLU) recortada

Descripción

Una capa de unidad lineal rectificada (ReLU) recortada lleva a cabo una operación de umbral, en la que cualquier valor de entrada inferior a cero se establece en cero y cualquier valor por encima del techo de recorte se establece en dicho techo de recorte.

Esta operación es equivalente a:

$$f(x)=\{\begin{array}{ll}0,\hfill & x<0\hfill \\ x,\hfill & 0\le x<ceiling\hfill \\ ceiling,\hfill & x\ge ceiling\hfill \end{array}.$$

Este recorte evita que la salida sea demasiado grande.

Creación

Sintaxis

layer = clippedReluLayer(ceiling)

layer = clippedReluLayer(ceiling,'Name',Name)

Descripción

layer = clippedReluLayer(ceiling) devuelve una capa ReLU recortada con el techo de recorte igual a ceiling.

layer = clippedReluLayer(ceiling,'Name',Name) establece la propiedad opcional Name.

Propiedades

ReLU recortada

Ceiling — Techo para recorte de entrada

escalar positivo

Techo para recorte de entrada, especificado como un escalar positivo.

Ejemplo: 10

Capa

Name — Nombre de la capa

"" (predeterminado) | vector de caracteres | escalar de cadena

Nombre de la capa, especificado como un vector de caracteres o un escalar de cadena. Para entradas en forma de arreglo Layer, las funciones trainnet y dlnetwork asignan automáticamente nombres a las capas con el nombre "".

El objeto ClippedReLULayer almacena esta propiedad como un vector de caracteres.

Tipos de datos: char | string

NumInputs — Número de entradas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de entradas a la capa, devuelto como 1. Esta capa solo admite una entrada.

Tipos de datos: double

InputNames — Nombres de las entradas

{'in'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de entrada, devueltos como {'in'}. Esta capa solo admite una entrada.

Tipos de datos: cell

NumOutputs — Número de salidas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de salidas de la capa, devuelto como 1. Esta capa solo tiene una salida.

Tipos de datos: double

OutputNames — Nombres de salida

{'out'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de salida, devueltos como {'out'}. Esta capa solo tiene una salida.

Tipos de datos: cell

Ejemplos

Crear una capa ReLU recortada

Cree una capa ReLU recortada con el nombre clip1 y el techo de recorte igual a 10.

layer = clippedReluLayer(10,Name="clip1")

layer = 
  ClippedReLULayer with properties:

       Name: 'clip1'

   Hyperparameters
    Ceiling: 10

Incluya una capa ReLU recortada en un arreglo Layer.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    clippedReluLayer(10)
    maxPooling2dLayer(2,Stride=2)
    fullyConnectedLayer(10)
    softmaxLayer]

layers = 
  6x1 Layer array with layers:

     1   ''   Image Input       28x28x1 images with 'zerocenter' normalization
     2   ''   2-D Convolution   20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   Clipped ReLU      Clipped ReLU with ceiling 10
     4   ''   2-D Max Pooling   2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected   10 fully connected layer
     6   ''   Softmax           softmax

Algoritmos

Formatos de entrada y salida de capa

Las capas en un arreglo de capas o en una gráfica de capas pasan datos a las capas posteriores como objetos dlarray con formato. El formato de un objeto dlarray es una cadena de caracteres, en la que cada carácter describe la dimensión correspondiente de los datos. Los formatos constan de uno o más de estos caracteres:

• "S": espacial

• "C": canal

• "B": lote

• "T": tiempo

• "U": sin especificar

Por ejemplo, los datos de imagen 2D que están representados como arreglo 4D, donde las dos primeras dimensiones corresponden a las dimensiones espaciales de las imágenes, la tercera dimensión corresponde a los canales de las imágenes y la cuarta dimensión corresponde a la dimensión de lote, pueden describirse como datos con formato "SSCB" (espacial, espacial, canal, lote).

Los objetos ClippedReLULayer aplican una operación por elemento y admiten datos de entrada con cualquier formato. La capa and no añade ni elimina ninguna dimensión, por lo que genera datos con el mismo formato que sus entradas.

Referencias

[1] Hannun, Awni, Carl Case, Jared Casper, Bryan Catanzaro, Greg Diamos, Erich Elsen, Ryan Prenger, et al. "Deep speech: Scaling up end-to-end speech recognition." Preprint, submitted 17 Dec 2014. http://arxiv.org/abs/1412.5567

Capacidades ampliadas

Generación de código C/C++
Genere código C y C++ mediante MATLAB® Coder™.

Generación de código de GPU
Genere código CUDA® para GPU NVIDIA® mediante GPU Coder™.

Historial de versiones

Introducido en R2017b

Consulte también

trainnet | trainingOptions | dlnetwork | reluLayer | leakyReluLayer | swishLayer

Temas

• Crear una red neuronal de deep learning sencilla para clasificación
• Entrenar una red neuronal convolucional para regresión
• Deep learning en MATLAB
• Compare Activation Layers
• Lista de capas de deep learning