Glossary

0-9

1-shot learning 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 2-stage detector 4D data 0-shot learning 9-layer network 3D convolution

A

AGI / Artificial General Intelligence Autoencoder Attention Algorithm Artificial Intelligence (AI)

B

Backpropagation BERT Boosting Batch Normalization Bias

C

Chatbot Clustering CNN / Convolutional Neural Network Cross-Validation Classifier / Classification

D

Deep Learning Deepfake Discriminative Model Deterministic Model Data Augmentation

E

Embedding Encoder Epoch Ensemble Learning Explainable AI (XAI)

F

Fine-tuning Fusion / Multimodal Fusion Forward Propagation Foundation Model Feature Extraction

G

GAN / Generative Adversarial Network Gradient Descent Grounding Graph Neural Network (GNN)Generative AI

H

Hyperparameter Heuristic Hidden Layer Hierarchical Model Hallucination

I

Imbalanced Data Interpretability Instruction tuning Instance / Sample Intelligence Amplification / Augmentation

J

JAX Jittering Joint Embedding JSONL / JSON-lines Juxtaposition

K

KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick Knowledge Distillation

L

Latent Variable Loss Function LSTM / Long Short-Term Memory Large Language Model (LLM)Learning Rate

M

Multimodal / Multimodality Machine Learning (ML)Meta-learning Model Multi-head Attention

N

Normalization Neural Network NLP / Natural Language Processing NLU / Natural Language Understanding Novelty Detection / Anomaly Detection

O

Objective Function Online Learning One-hot Encoding Overfitting Optimizer

P

Policy / Reinforcement Learning Policy Pooling Pretraining Prompt Parameter

Q

Queue / Buffer Quantization Q-learning Query Quality Estimation

R

Retrieval Augmented Generation (RAG)Representation Learning Reinforcement Learning (RL)Regularization RNN / Recurrent Neural Network

S

Supervised Learning Self-Supervised Learning Sequence Modeling Sampling Softmax

T

Training Data Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning

U

Universal Approximation Theorem Unsupervised Learning U-Net Underfitting Uncertainty Estimation

V

Variational Autoencoder (VAE)Vector Embedding Vanishing / Exploding Gradient Validation Set Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

XOR problem X-axis / feature axis XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Y-transform / YUV YAGNI (You Aren't Gonna Need It)Yield (model yield / throughput)Yoga of AI

Z

Z-score Normalization Zero-gradient phenomenon Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Zygosity in augmentation

Softmax là gì

Softmax là một hàm kích hoạt thường được sử dụng trong các mô hình máy học đa lớp, chuyển đổi một tập hợp các số thực tùy ý thành một phân phối xác suất.

Về mặt toán học, nó được định nghĩa như sau:
Softmax(z_i) = e^{z_i} / sum(e^{z_j}), trong đó z_i là phần tử thứ i của vector đầu vào và K là tổng số lớp.

Hàm này đảm bảo rằng các giá trị đầu ra có tổng bằng 1, giúp nó phù hợp cho các tác vụ phân loại như nhận dạng hình ảnh và xử lý ngôn ngữ tự nhiên.

Ví dụ, trong nhận dạng hình ảnh, Softmax chuyển đổi đầu ra của mạng thành xác suất cho từng danh mục, giúp mô hình quyết định lớp của hình ảnh đầu vào. Trong phân loại văn bản, nó xác định chủ đề mà văn bản thuộc về.

Trong tương lai, Softmax có thể được kết hợp với các thuật toán tiên tiến để cải thiện độ chính xác và hiệu quả của phân loại.

Tuy nhiên, nó cũng có một số hạn chế, chẳng hạn như chi phí tính toán cao khi có nhiều lớp và độ nhạy với biến động của dữ liệu đầu vào.

Khi sử dụng Softmax, hãy đảm bảo rằng dữ liệu đầu vào được điều chỉnh đúng cách để tránh bất ổn định số học, đặc biệt là trong các trường hợp giá trị cực đoan.