Glossary

0-9

2-stage detector 9-layer network 5G + AI 0-shot learning 6DoF pose estimation 3D convolution 8-bit quantization 7D representation 1-shot learning 4D data

A

Algorithm Autoencoder AGI / Artificial General Intelligence Attention Artificial Intelligence (AI)

B

BERT Batch Normalization Backpropagation Bias Boosting

C

Chatbot Classifier / Classification CNN / Convolutional Neural Network Cross-Validation Clustering

D

Deterministic Model Discriminative Model Deepfake Data Augmentation Deep Learning

E

Epoch Encoder Ensemble Learning Embedding Explainable AI (XAI)

F

Foundation Model Feature Extraction Fusion / Multimodal Fusion Forward Propagation Fine-tuning

G

GAN / Generative Adversarial Network Generative AI Gradient Descent Grounding Graph Neural Network (GNN)

H

Hyperparameter Hidden Layer Hallucination Heuristic Hierarchical Model

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX Joint Embedding JSONL / JSON-lines Juxtaposition Jittering

K

Knowledge Distillation KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick

L

Large Language Model (LLM)Latent Variable Loss Function Learning Rate LSTM / Long Short-Term Memory

M

Model Machine Learning (ML)Meta-learning Multi-head Attention Multimodal / Multimodality

N

Neural Network Novelty Detection / Anomaly Detection NLP / Natural Language Processing NLU / Natural Language Understanding Normalization

O

Optimizer Online Learning Objective Function Overfitting One-hot Encoding

P

Parameter Prompt Policy / Reinforcement Learning Policy Pooling Pretraining

Q

Query Quality Estimation Quantization Q-learning Queue / Buffer

R

Representation Learning Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization RNN / Recurrent Neural Network

S

Self-Supervised Learning Supervised Learning Sampling Sequence Modeling Softmax

T

Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning Training Data

U

Unsupervised Learning Uncertainty Estimation Underfitting Universal Approximation Theorem U-Net

V

Variational Autoencoder (VAE)Vector Embedding Validation Set Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

X-axis / feature axis XOR problem XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Yield (model yield / throughput)Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)

Z

Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Z-score Normalization Zygosity in augmentation Zero-gradient phenomenon

Qu'est-ce que JAX

JAX est une bibliothèque open-source développée par Google pour le calcul numérique haute performance et l'apprentissage automatique. Son nom signifie 'Just After eXecution', ce qui indique sa capacité à optimiser en temps réel, en particulier en matière de différentiation automatique.

Alliant la facilité d'utilisation de NumPy à la puissance de TensorFlow, JAX permet aux utilisateurs d'effectuer des calculs efficaces grâce à un simple code Python. L'un de ses principaux atouts est le support de la différentiation automatique, facilitant le calcul des gradients.

JAX utilise un compilateur connu sous le nom de XLA (Accelerated Linear Algebra) pour convertir les fonctions Python des utilisateurs en code machine efficace, accélérant ainsi le processus de calcul. Cette optimisation permet à JAX de se démarquer dans le traitement de grandes quantités de données.

JAX est largement utilisé dans le domaine de l'apprentissage automatique, du calcul scientifique et de l'optimisation numérique. De nombreuses recherches et applications de pointe ont adopté JAX, notamment dans les domaines de l'apprentissage profond, de l'apprentissage par renforcement et des modèles génératifs.

À l'avenir, JAX pourrait continuer à étendre ses capacités, attirant davantage de développeurs et de chercheurs. Avec le développement continu de l'apprentissage automatique et de l'intelligence artificielle, JAX pourrait également s'améliorer en termes de performance et de convivialité.

Bien qu'il présente de nombreux avantages, tels qu'une haute performance et une flexibilité, JAX a également quelques inconvénients. Par exemple, la courbe d'apprentissage de JAX peut être raide pour les débutants, en particulier pour ceux qui ne sont pas familiers avec NumPy ou l'apprentissage automatique. De plus, l'écosystème de JAX est encore en développement par rapport à d'autres frameworks (comme TensorFlow ou PyTorch), et certaines fonctionnalités peuvent ne pas être totalement développées.