Glossary

0-9

2-stage detector 9-layer network 5G + AI 0-shot learning 6DoF pose estimation 3D convolution 8-bit quantization 7D representation 1-shot learning 4D data

A

Algorithm Autoencoder AGI / Artificial General Intelligence Attention Artificial Intelligence (AI)

B

BERT Batch Normalization Backpropagation Bias Boosting

C

Chatbot Classifier / Classification CNN / Convolutional Neural Network Cross-Validation Clustering

D

Deterministic Model Discriminative Model Deepfake Data Augmentation Deep Learning

E

Epoch Encoder Ensemble Learning Embedding Explainable AI (XAI)

F

Foundation Model Feature Extraction Fusion / Multimodal Fusion Forward Propagation Fine-tuning

G

GAN / Generative Adversarial Network Generative AI Gradient Descent Grounding Graph Neural Network (GNN)

H

Hyperparameter Hidden Layer Hallucination Heuristic Hierarchical Model

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX Joint Embedding JSONL / JSON-lines Juxtaposition Jittering

K

Knowledge Distillation KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick

L

Large Language Model (LLM)Latent Variable Loss Function Learning Rate LSTM / Long Short-Term Memory

M

Model Machine Learning (ML)Meta-learning Multi-head Attention Multimodal / Multimodality

N

Neural Network Novelty Detection / Anomaly Detection NLP / Natural Language Processing NLU / Natural Language Understanding Normalization

O

Optimizer Online Learning Objective Function Overfitting One-hot Encoding

P

Parameter Prompt Policy / Reinforcement Learning Policy Pooling Pretraining

Q

Query Quality Estimation Quantization Q-learning Queue / Buffer

R

Representation Learning Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization RNN / Recurrent Neural Network

S

Self-Supervised Learning Supervised Learning Sampling Sequence Modeling Softmax

T

Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning Training Data

U

Unsupervised Learning Uncertainty Estimation Underfitting Universal Approximation Theorem U-Net

V

Variational Autoencoder (VAE)Vector Embedding Validation Set Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

X-axis / feature axis XOR problem XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Yield (model yield / throughput)Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)

Z

Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Z-score Normalization Zygosity in augmentation Zero-gradient phenomenon

Qu'est-ce que LSTM / Mémoire à Long et Court Terme

LSTM (Mémoire à Long et Court Terme) est un type spécial de réseau de neurones récurrents (RNN) conçu pour traiter et prédire des séquences de données. Introduit par Hochreiter et Schmidhuber en 1997, il aborde les problèmes de disparition et d'explosion du gradient qui se posent généralement dans les RNN traditionnels lors du traitement de longues séquences. La structure de LSTM lui permet de conserver des informations pendant de longues périodes, ce qui le rend adapté aux tâches impliquant des séries temporelles, le traitement du langage naturel et la reconnaissance vocale.

Le noyau de LSTM réside dans sa structure de cellule unique, qui comprend une porte d'entrée, une porte d'oubli et une porte de sortie. Ces mécanismes de porte aident LSTM à décider quand conserver, mettre à jour ou supprimer des informations. Ce mécanisme opérationnel permet à LSTM de se démarquer dans des tâches nécessitant une mémoire à long terme, telles que la génération de texte et la traduction automatique.

Dans la pratique, LSTM a été largement utilisé dans divers domaines, tels que la prévision des données financières, la modélisation climatique, la reconnaissance vocale et l'analyse vidéo. Cependant, sa structure complexe et ses exigences computationnelles élevées sont des inconvénients significatifs.

À l'avenir, à mesure que les technologies d'apprentissage profond continuent d'évoluer, LSTM pourrait être combiné avec d'autres technologies émergentes, telles que les modèles Transformer, pour améliorer encore l'efficacité et l'efficacité du traitement. Par conséquent, comprendre le fonctionnement de LSTM et ses applications dans l'apprentissage profond moderne est crucial.