Curso de Deep Learning de Jason

Introducción a Deep Learning

Impacto de Deep Learning: Transformaciones significativas en diagnóstico médico, traducción automática y vehículos autónomos.
Objetivo del Curso: Proporcionar las bases para comenzar con Deep Learning en Python y construir algoritmos capaces de resolver problemas complejos.

Inteligencia Artificial (IA): Métodos tradicionales de aprendizaje de representaciones a partir de datos.
Machine Learning: Enseñar a las computadoras a reconocer patrones en los datos.
Deep Learning: Subconjunto de Machine Learning que aprende características y tareas directamente de los datos utilizando redes neuronales profundas.

Neurona: Unidad fundamental de las redes neuronales, similar a una neurona en el cerebro humano.
Arquitectura: Capas de entrada, salida y capas ocultas entre ellas.
Componentes Clave: Pesos, bias, función de activación.

Forward Propagation: Propagación de la información desde la capa de entrada hasta la capa de salida.
Back Propagation: Ajuste de los pesos y bias basados en la evaluación del error utilizando la función de pérdida.
Funciones de Activación: Determinan si un neurona contribuye a la siguiente capa. Ejemplos: ReLU, Sigmoid, TanH.

Método Iterativo: Inicia en un punto aleatorio y se mueve hacia el mínimo de la función de pérdida.
Gradiente: Vector de derivadas parciales que apunta en la dirección de mayor incremento de la función.
Tasa de Aprendizaje: Variable que mide el tamaño de los pasos para ajustar los pesos.
Variantes: Descenso de gradiente estocástico (SGD), Adam, RMSProp, etc.

Descripción: Cuando el modelo funciona muy bien con los datos de entrenamiento pero no con datos nuevos.
Soluciones: Regularización (p.ej. L1, L2), augmentación de datos, dropout.

Definición: Modelo entrenado con datos bien etiquetados (entrada y salida conocidas).
Subcategorías: Clasificación y regresión.

Definición: Modelo entrenado sin datos etiquetados, busca encontrar patrones ocultos.
Subcategorías: Agrupamiento (clustering) y asociación.

Definición: Agente que aprende en un entorno interactivo mediante ensayo y error utilizando recompensas y castigos.

Descripción: Neuronas en cada capa conectadas a todas las neuronas en la siguiente capa.

Descripción: Incorporan bucles de retroalimentación en las capas ocultas, útil para datos secuenciales.
Problema de Gradiente Desaparecido: Las RNN estándar tienen memoria a corto plazo.
Variantes: LSTM (Long Short-Term Memory) y GRU (Gated Recurrent Unit).

Descripción: Arquitectura diseñada para tareas específicas como la clasificación de imágenes.
Capas Clave: Capas de convolución y pooling.

Recolección de Datos: Importancia de la calidad y cantidad de los datos.
Preprocesamiento: Normalización, manejo de datos faltantes, balanceo de clases.
Formateo del Dataset: Convertir los datos a un formato adecuado.
Entrenamiento: Propagación hacia adelante y hacia atrás para ajustar pesos y bias.
Evaluación: Usar el set de validación para medir el desempeño del modelo.
Optimización: Ajustes de hiperparámetros y técnicas como early stopping para mejorar el modelo.

Dropout: Deshabilitar aleatoriamente una fracción de neuronas durante el entrenamiento.
Data Augmentation: Crear datos ficticios para aumentar el tamaño del dataset.
Early Stopping: Detener el entrenamiento cuando el error en el set de validación comienza a aumentar.

TensorFlow y PyTorch: Biblioteca de código abierto para construir y desplegar modelos de Deep Learning.