Glossary

0-9

6DoF pose estimation 4D data 5G + AI 1-shot learning 0-shot learning 3D convolution 8-bit quantization 7D representation 2-stage detector 9-layer network

A

Artificial Intelligence (AI)AGI / Artificial General Intelligence Autoencoder Attention Algorithm

B

Backpropagation BERT Bias Boosting Batch Normalization

C

Classifier / Classification CNN / Convolutional Neural Network Clustering Cross-Validation Chatbot

D

Data Augmentation Deep Learning Deepfake Deterministic Model Discriminative Model

E

Ensemble Learning Encoder Embedding Epoch Explainable AI (XAI)

F

Fine-tuning Fusion / Multimodal Fusion Feature Extraction Forward Propagation Foundation Model

G

GAN / Generative Adversarial Network Gradient Descent Grounding Generative AI Graph Neural Network (GNN)

H

Hierarchical Model Heuristic Hallucination Hidden Layer Hyperparameter

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

Juxtaposition Jittering JAX Joint Embedding JSONL / JSON-lines

K

K-Shot Learning Kernel Trick K-means Clustering Knowledge Distillation KL Divergence (Kullback–Leibler Divergence)

L

Learning Rate Large Language Model (LLM)Loss Function Latent Variable LSTM / Long Short-Term Memory

M

Machine Learning (ML)Meta-learning Model Multi-head Attention Multimodal / Multimodality

N

NLP / Natural Language Processing Novelty Detection / Anomaly Detection NLU / Natural Language Understanding Normalization Neural Network

O

Online Learning Objective Function One-hot Encoding Overfitting Optimizer

P

Pretraining Pooling Parameter Policy / Reinforcement Learning Policy Prompt

Q

Q-learning Queue / Buffer Quantization Quality Estimation Query

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Representation Learning Regularization RNN / Recurrent Neural Network

S

Self-Supervised Learning Supervised Learning Sequence Modeling Sampling Softmax

T

Tuning / Hyperparameter Tuning Tokenizer Training Data Transfer Learning Transformer

U

Unsupervised Learning Universal Approximation Theorem Underfitting Uncertainty Estimation U-Net

V

Vector Embedding Variational Autoencoder (VAE)Validation Set Vision Transformer (ViT)Vanishing / Exploding Gradient

W

Weight Decay Weak Supervision Whitening / Whitening Transformation Word Embedding Workflow

X

XOR problem XAI / Explainable AI X-axis / feature axis XLM XLNet

Y

Y-axis / feature axis Yield (model yield / throughput)YAGNI (You Aren't Gonna Need It)Y-transform / YUV Yoga of AI

Z

Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Z-score Normalization Zero-gradient phenomenon Zygosity in augmentation

Qué es Transfer Learning

Transfer learning es un concepto crucial en el aprendizaje automático, que busca transferir conocimiento de un dominio a otro dominio relacionado. Normalmente, un modelo entrenado en una tarea puede aplicar su conocimiento a otra tarea, reduciendo significativamente la necesidad de grandes conjuntos de datos anotados.

En el aprendizaje automático tradicional, los modelos suelen necesitar ser entrenados desde cero en datos de tarea específicos. Sin embargo, el transfer learning permite a los modelos aprovechar el conocimiento adquirido en tareas relacionadas, lo cual es especialmente importante en escenarios con datos limitados o tiempo de entrenamiento restringido. El funcionamiento del transfer learning generalmente involucra dos etapas: primero, entrenar el modelo en el dominio de origen, y luego transferirlo al dominio objetivo para un ajuste fino.

El transfer learning tiene aplicaciones significativas en varias áreas, incluyendo visión por computadora, procesamiento de lenguaje natural y reconocimiento de voz. Por ejemplo, un modelo entrenado en un gran conjunto de datos de imágenes (como ImageNet) puede ser transferido a una tarea específica de clasificación de imágenes.

A medida que la tecnología de aprendizaje profundo sigue evolucionando, el transfer learning se ha convertido en un enfoque predominante, especialmente en escenarios que requieren una rápida implementación y una utilización eficiente de recursos. Aunque las ventajas del transfer learning son evidentes, también hay desafíos, como la posibilidad de un descenso en el rendimiento cuando los dominios de origen y destino no están suficientemente relacionados.