Please enable JavaScript.
Coggle requires JavaScript to display documents.
Arquitecturas destacadas de CNNs - Coggle Diagram
Arquitecturas destacadas de CNNs
LeNet - 5
Arquitectura para el reconocimiento de caracteres escritos, 7 capas
AlexNet
Ganador del desafío de ImageNet (2012), aumenta la profundidad de LeNet (a 11 capas), añade dropout y activariones ReLu
VGGNet
2º en ImageNet (2014),intenta simplificar arquitecturas anteriores, basada en filtros pequeños con max pooling y redes más profundas. Los más populares VGG16 y 19
innovación > uso de bloques de capas, secuencias de conv + max pooling
Filtros 3x3, ya que 3 conv consecutivas abarcan lo mismo que una con filtro de 7x7 pero con menos parámetros
GoogLeNet
Ganadores de ImageNet (2014), arquitectura de 27 capas, mejora el rendimiento de AlexNet y VGG16 con 9 y 19 veces menos parámetros
innovación > convoluciones 1x1 y bloque inception
Conv 1x1 > reduce el número de canales > 28x28x192 -> 1x1 (f 32) -> 28x28x32
Bloque inception: concatenación de conv 1x1, conv 1x1 > conv 3x3, conv 1x1 > conv 5x5 y maxpool > conv 1x1
Transfer Learning
Transferir el conocimiento aprendido de un problema para resolver otro distinto
Mejora capacidad de generalización cuando el nuevo conjunto de datos es pequeño, reduce el tiempo de entrenamiento
Estrategias:
Congelamiento: un porcentaje de parámetros no se modifica, solo se entrenan las capas finales
Fine-tuning: una vez convergido, se descongela todo el modelo y se vuelve a entrenar con una tasa de apendizaje menor