Glossary

0-9

2-stage detector 9-layer network 5G + AI 0-shot learning 6DoF pose estimation 3D convolution 8-bit quantization 7D representation 1-shot learning 4D data

A

Algorithm Autoencoder AGI / Artificial General Intelligence Attention Artificial Intelligence (AI)

B

BERT Batch Normalization Backpropagation Bias Boosting

C

Chatbot Classifier / Classification CNN / Convolutional Neural Network Cross-Validation Clustering

D

Deterministic Model Discriminative Model Deepfake Data Augmentation Deep Learning

E

Epoch Encoder Ensemble Learning Embedding Explainable AI (XAI)

F

Foundation Model Feature Extraction Fusion / Multimodal Fusion Forward Propagation Fine-tuning

G

GAN / Generative Adversarial Network Generative AI Gradient Descent Grounding Graph Neural Network (GNN)

H

Hyperparameter Hidden Layer Hallucination Heuristic Hierarchical Model

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX Joint Embedding JSONL / JSON-lines Juxtaposition Jittering

K

Knowledge Distillation KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick

L

Large Language Model (LLM)Latent Variable Loss Function Learning Rate LSTM / Long Short-Term Memory

M

Model Machine Learning (ML)Meta-learning Multi-head Attention Multimodal / Multimodality

N

Neural Network Novelty Detection / Anomaly Detection NLP / Natural Language Processing NLU / Natural Language Understanding Normalization

O

Optimizer Online Learning Objective Function Overfitting One-hot Encoding

P

Parameter Prompt Policy / Reinforcement Learning Policy Pooling Pretraining

Q

Query Quality Estimation Quantization Q-learning Queue / Buffer

R

Representation Learning Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization RNN / Recurrent Neural Network

S

Self-Supervised Learning Supervised Learning Sampling Sequence Modeling Softmax

T

Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning Training Data

U

Unsupervised Learning Uncertainty Estimation Underfitting Universal Approximation Theorem U-Net

V

Variational Autoencoder (VAE)Vector Embedding Validation Set Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

X-axis / feature axis XOR problem XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Yield (model yield / throughput)Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)

Z

Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Z-score Normalization Zygosity in augmentation Zero-gradient phenomenon

Qu'est-ce que RNN / Réseau de Neurones Récurrents

RNN, ou Réseau de Neurones Récurrents, est un type de modèle d'apprentissage profond particulièrement adapté au traitement de données séquentielles telles que les séries temporelles ou le langage naturel. Contrairement aux réseaux neuronaux traditionnels, où les entrées et les sorties sont statiques, les RNN peuvent traiter des séquences dynamiques, car ils possèdent une fonction de 'mémoire' qui leur permet de retenir des informations provenant d'entrées précédentes pour les utiliser dans des sorties ultérieures.

Cette capacité permet aux RNN de s'exceller dans des domaines tels que le traitement du langage naturel (NLP), la reconnaissance vocale et l'analyse vidéo. Le cœur des RNN réside dans leur structure récurrente, qui capture les dépendances des données temporelles en transmettant les informations à travers des cycles.

Cependant, les RNN présentent également des inconvénients, les problèmes de gradient qui disparaît et explose étant les plus notables, ce qui nuit à la performance sur de longues séquences. Pour surmonter ces problèmes, les chercheurs ont introduit des variantes plus complexes telles que les réseaux de mémoire à long et court terme (LSTM) ainsi que les unités récurrentes à portes (GRU), qui offrent de meilleures performances dans de nombreuses tâches.

Avec l'évolution rapide de l'apprentissage profond, les applications des RNN continuent de s'élargir, y compris la traduction automatique, l'analyse des sentiments et les modèles génératifs. À l'avenir, les RNN et leurs variantes continueront de propulser les avancées en intelligence artificielle, surtout dans les domaines nécessitant le traitement de données séquentielles.