Glossary

0-9

2-stage detector 9-layer network 5G + AI 0-shot learning 6DoF pose estimation 3D convolution 8-bit quantization 7D representation 1-shot learning 4D data

A

Algorithm Autoencoder AGI / Artificial General Intelligence Attention Artificial Intelligence (AI)

B

BERT Batch Normalization Backpropagation Bias Boosting

C

Chatbot Classifier / Classification CNN / Convolutional Neural Network Cross-Validation Clustering

D

Deterministic Model Discriminative Model Deepfake Data Augmentation Deep Learning

E

Epoch Encoder Ensemble Learning Embedding Explainable AI (XAI)

F

Foundation Model Feature Extraction Fusion / Multimodal Fusion Forward Propagation Fine-tuning

G

GAN / Generative Adversarial Network Generative AI Gradient Descent Grounding Graph Neural Network (GNN)

H

Hyperparameter Hidden Layer Hallucination Heuristic Hierarchical Model

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX Joint Embedding JSONL / JSON-lines Juxtaposition Jittering

K

Knowledge Distillation KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick

L

Large Language Model (LLM)Latent Variable Loss Function Learning Rate LSTM / Long Short-Term Memory

M

Model Machine Learning (ML)Meta-learning Multi-head Attention Multimodal / Multimodality

N

Neural Network Novelty Detection / Anomaly Detection NLP / Natural Language Processing NLU / Natural Language Understanding Normalization

O

Optimizer Online Learning Objective Function Overfitting One-hot Encoding

P

Parameter Prompt Policy / Reinforcement Learning Policy Pooling Pretraining

Q

Query Quality Estimation Quantization Q-learning Queue / Buffer

R

Representation Learning Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization RNN / Recurrent Neural Network

S

Self-Supervised Learning Supervised Learning Sampling Sequence Modeling Softmax

T

Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning Training Data

U

Unsupervised Learning Uncertainty Estimation Underfitting Universal Approximation Theorem U-Net

V

Variational Autoencoder (VAE)Vector Embedding Validation Set Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

X-axis / feature axis XOR problem XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Yield (model yield / throughput)Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)

Z

Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Z-score Normalization Zygosity in augmentation Zero-gradient phenomenon

Qu'est-ce qu'une Couche Cachée

La couche cachée est un élément crucial des réseaux neuronaux, située entre la couche d'entrée et la couche de sortie. Elle est responsable de la capture de motifs et de caractéristiques complexes dans les données d'entrée, permettant au réseau d'apprendre efficacement et de faire des prédictions.

Chaque neurone de la couche cachée transforme le signal d'entrée en un signal de sortie via une fonction d'activation. La conception des couches cachées permet au modèle d'apprendre des caractéristiques de haut niveau des données, améliorant ainsi sa capacité de généralisation et sa précision. La construction et le réglage des couches cachées sont des éléments fondamentaux de la construction d'un réseau de neurones efficace, impliquant généralement la sélection de paramètres d'hyperparamètres et l'expérimentation d'architecture.

Avec l'application croissante de l'apprentissage en profondeur, l'étude et l'optimisation des couches cachées continuent d'évoluer. À l'avenir, la conception des couches cachées pourrait devenir plus automatisée, en utilisant des algorithmes plus avancés pour optimiser les structures de réseau. Les chercheurs explorent également des moyens de réduire le nombre de couches cachées pour améliorer l'interprétabilité du modèle.

Les avantages des couches cachées incluent la capacité de traiter et d'apprendre des motifs complexes dans les données, tandis que les inconvénients concernent l'augmentation de la complexité du modèle, ce qui peut conduire à un surajustement. Lors de l'utilisation de couches cachées, il est crucial de sélectionner des méthodes de régularisation appropriées et d'ajuster les hyperparamètres pour améliorer les performances et la stabilité du modèle.