Data Augmentation

Por Jorge Mirete Hernández

Introducción

Definición

La ampliación de datos se refiere al proceso de expandir artificialmente un conjunto de datos aplicando diversas transformaciones a las muestras de datos existentes. Estas transformaciones típicamente incluyen operaciones como rotación, escalado, recorte, volteo, traslación, adición de ruido y variación de color, entre otras. El objetivo de la ampliación de datos es aumentar la diversidad del conjunto de datos sin recolectar nuevos datos, mejorando así la robustez y generalización de los modelos de aprendizaje automático.

Ejemplos

Estos ejemplos demuestran cómo las técnicas de ampliación de datos pueden aplicarse a diferentes tipos de datos, incluyendo imágenes, texto y audio, para mejorar la diversidad y riqueza del conjunto de datos para tareas de aprendizaje automático.

• Imágenes:

  • Rotación: Una imagen rotada 90 grados.
  • Escalado: Una imagen escalada al 80% de su tamaño original.
  • Recorte: Una imagen de una flor recortada para enfocarse en el centro.
  • Volteo: Una imagen volteada horizontalmente.
  • Variación de color: Una imagen de un atardecer con ligeras variaciones en la saturación del color.

  • Texto:

  • Reemplazo de sinónimos: Reemplazar palabras con sus sinónimos para crear variaciones en datos de texto.

  • Traducción inversa: Traducir texto de un idioma a otro y luego volver al idioma original para introducir variación.
  • Inserción aleatoria: Insertar palabras aleatorias en oraciones para simular datos de texto ruidosos.
  • Eliminación aleatoria: Eliminar palabras aleatorias de oraciones para simular datos faltantes.

  • Audio:

  • Estiramiento temporal: Estirar o comprimir la duración de clips de audio para introducir variaciones en longitud.

  • Cambios de tono: Modificar el tono de clips de audio para simular diferentes tonos.
  • Adición de ruido: Agregar ruido aleatorio a señales de audio para simular ambientes ruidosos.
  • Perturbación de velocidad: Alterar la velocidad de reproducción de clips de audio para crear variaciones en el tempo.

Beneficios y Problemas

La ampliación de datos ofrece una serie de beneficios significativos en el campo del aprendizaje automático y la ciencia de datos.

Beneficios:

• Aumento de la Diversidad de Datos: Al aplicar diversas transformaciones a muestras de datos existentes, la ampliación de datos aumenta significativamente la diversidad del conjunto de datos.

• Mejora en la Generalización del Modelo: Los datos ampliados ayudan a que los modelos generalicen mejor a ejemplos no vistos al exponerlos a una gama más amplia de variaciones durante el entrenamiento.

• Reducción de la Necesidad de Datos Etiquetados: La ampliación de datos puede aliviar la carga de adquirir datos etiquetados al generar ejemplos sintéticos para el entrenamiento.

Problemas:

• Posibles Distorsiones: La ampliación agresiva puede introducir patrones o distorsiones poco realistas en los datos, lo que lleva a un bajo rendimiento del modelo.

• Pérdida de Significado Semántico: Las ampliaciones que alteran el significado semántico de los datos pueden llevar a interpretaciones incorrectas o predicciones erróneas por parte del modelo.

• Sobredependencia de la Ampliación: Depender únicamente de la ampliación para abordar la escasez o problemas de calidad de los datos puede enmascarar problemas subyacentes y llevar al overfitting o una pobre generalización.

Cuándo Usar Data Augmentation

Es necesario comprender cuándo aprovechar la ampliación de datos y cuándo ser cautelosos. De esta manera se pueden tomar decisiones informadas para mejorar de manera efectiva la diversidad del conjunto de datos y mejorar el rendimiento del modelo en varias tareas de aprendizaje automático.

• Disponibilidad Limitada de Datos: La ampliación de datos es particularmente beneficiosa cuando el conjunto de datos disponible es limitado, ya sea debido a restricciones presupuestarias, desafíos en la recolección de datos o preocupaciones de privacidad.

• Desequilibrio de Clases: La ampliación puede ayudar a abordar problemas de desequilibrio de clases mediante la generación de ejemplos sintéticos para clases subrepresentadas, mejorando así el rendimiento del modelo y reduciendo el sesgo hacia las clases mayoritarias.

• Transfer Learning: La ampliación de datos complementa el aprendizaje por transferencia al afinar modelos pre-entrenados en conjuntos de datos limitados, permitiéndoles adaptarse efectivamente a nuevos dominios o tareas.

Cuándo No Usar la Ampliación de Datos:

• Datos de Alta Calidad: Cuando el conjunto de datos ya es grande, diverso y de alta calidad, la ampliación puede no proporcionar beneficios significativos y podría introducir ruido o distorsiones.

• Restricciones Específicas del Dominio: La ampliación puede no ser adecuada para ciertos dominios donde las alteraciones en los datos podrían tener consecuencias críticas o violar restricciones específicas del dominio.

• Riesgo de Sobreajuste: La dependencia excesiva de la ampliación para abordar la escasez o problemas de calidad de los datos sin abordar problemas subyacentes puede exacerbar el sobreajuste y obstaculizar la generalización del modelo.

Buenas Prácticas

Teniendo en cuanta las siguientes consideraciones, se pueden aprovechar para mejorar la diversidad del conjunto de datos, mejorar el rendimiento del modelo y mitigar riesgos y desafíos potenciales en tareas de aprendizaje automático y ciencia de datos.

• Validar Datos Ampliados: Es esencial validar los datos ampliados para asegurar que mantengan su integridad original y no introduzcan sesgos o distorsiones no deseadas en el conjunto de datos.

• Consideraciones Específicas del Dominio: Diferentes dominios pueden tener características y requisitos específicos que influyen en la elección e implementación de técnicas de ampliación.

• Equilibrar Realismo y Diversidad: Busca un equilibrio entre generar ejemplos diversos y mantener el realismo en los datos ampliados. Las muestras ampliadas deben reflejar variaciones realistas presentes en el conjunto de datos original.

• Tubería de Ampliación de Datos: Establece una tubería de ampliación de datos bien definida que se integre sin problemas en el proceso de entrenamiento del modelo.

• Ampliación Sobre la Marcha: Siempre que sea posible, realiza la ampliación de datos sobre la marcha durante el entrenamiento del modelo para conservar memoria y recursos computacionales.

• Técnica de Regularización: La ampliación de datos sirve como una forma de regularización al introducir ruido y variaciones en los datos de entrenamiento, ayudando a prevenir el sobreajuste y mejorar la generalización del modelo.

Técnicas Avanzadas

Con técnicas más avanzadas, se pueden generar muestras de datos sintéticos de alta calidad, diversas y realistas para mejorar la diversidad del conjunto de datos, mejorar la generalización del modelo y abordar desafíos en tareas de aprendizaje automático y ciencia de datos.

• Redes Generativas Antagónicas (GANs): Las GANs son modelos de aprendizaje profundo que consisten en dos redes neuronales, un generador y un discriminador, entrenadas de manera adversarial para generar datos sintéticos realistas.

• Autoencoders: Los autoencoders son redes neuronales entrenadas para reconstruir datos de entrada a partir de una representación latente comprimida.

• Autoencoders Variacionales (VAEs): Los VAEs son una variante de los autoencoders que aprenden representaciones latentes probabilísticas de los datos de entrada.

• Transferencia de Estilo: La transferencia de estilo es una técnica que separa y transfiere el contenido y el estilo de dos imágenes diferentes.

• CycleGAN: CycleGAN es un tipo de GAN diseñado para la traducción de imágenes a imágenes sin correspondencia.

• Ampliación de Datos con Aprendizaje por Refuerzo: Las técnicas de aprendizaje por refuerzo pueden utilizarse para aprender políticas de ampliación de datos que ajustan dinámicamente los parámetros de ampliación en función de la retroalimentación del proceso de entrenamiento.