Glossary

0-9

2-stage detector 9-layer network 5G + AI 0-shot learning 6DoF pose estimation 3D convolution 8-bit quantization 7D representation 1-shot learning 4D data

A

Algorithm Autoencoder AGI / Artificial General Intelligence Attention Artificial Intelligence (AI)

B

BERT Batch Normalization Backpropagation Bias Boosting

C

Chatbot Classifier / Classification CNN / Convolutional Neural Network Cross-Validation Clustering

D

Deterministic Model Discriminative Model Deepfake Data Augmentation Deep Learning

E

Epoch Encoder Ensemble Learning Embedding Explainable AI (XAI)

F

Foundation Model Feature Extraction Fusion / Multimodal Fusion Forward Propagation Fine-tuning

G

GAN / Generative Adversarial Network Generative AI Gradient Descent Grounding Graph Neural Network (GNN)

H

Hyperparameter Hidden Layer Hallucination Heuristic Hierarchical Model

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX Joint Embedding JSONL / JSON-lines Juxtaposition Jittering

K

Knowledge Distillation KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick

L

Large Language Model (LLM)Latent Variable Loss Function Learning Rate LSTM / Long Short-Term Memory

M

Model Machine Learning (ML)Meta-learning Multi-head Attention Multimodal / Multimodality

N

Neural Network Novelty Detection / Anomaly Detection NLP / Natural Language Processing NLU / Natural Language Understanding Normalization

O

Optimizer Online Learning Objective Function Overfitting One-hot Encoding

P

Parameter Prompt Policy / Reinforcement Learning Policy Pooling Pretraining

Q

Query Quality Estimation Quantization Q-learning Queue / Buffer

R

Representation Learning Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization RNN / Recurrent Neural Network

S

Self-Supervised Learning Supervised Learning Sampling Sequence Modeling Softmax

T

Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning Training Data

U

Unsupervised Learning Uncertainty Estimation Underfitting Universal Approximation Theorem U-Net

V

Variational Autoencoder (VAE)Vector Embedding Validation Set Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

X-axis / feature axis XOR problem XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Yield (model yield / throughput)Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)

Z

Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Z-score Normalization Zygosity in augmentation Zero-gradient phenomenon

Qu'est-ce que le Transfer Learning

Le transfer learning est un concept crucial en apprentissage automatique, visant à transférer des connaissances d'un domaine à un autre domaine connexe. En général, un modèle entraîné sur une tâche peut appliquer ses connaissances à une autre tâche, réduisant ainsi considérablement le besoin de grands ensembles de données annotées.

Dans l'apprentissage automatique traditionnel, les modèles doivent souvent être formés à partir de zéro sur des données de tâches spécifiques. Cependant, le transfer learning permet aux modèles de tirer parti des connaissances acquises dans des tâches connexes, ce qui est particulièrement important dans des scénarios avec des données limitées ou un temps d'entraînement restreint. Le fonctionnement du transfer learning implique généralement deux étapes : d'abord, entraîner le modèle sur le domaine source, puis le transférer vers le domaine cible pour un ajustement fin.

Le transfer learning a des applications significatives dans divers domaines, y compris la vision par ordinateur, le traitement du langage naturel et la reconnaissance vocale. Par exemple, un modèle entraîné sur un grand ensemble de données d'images (tel que ImageNet) peut être transféré à une tâche spécifique de classification d'images.

À mesure que la technologie d'apprentissage profond continue d'évoluer, le transfer learning est devenu une approche prédominante, surtout dans les scénarios nécessitant un déploiement rapide et une utilisation efficace des ressources. Bien que les avantages du transfer learning soient évidents, il existe également des défis, tels que la possibilité d'une baisse de performance lorsque les domaines source et cible ne sont pas suffisamment liés.