Glossary

0-9

1-shot learning 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 2-stage detector 4D data 0-shot learning 9-layer network 3D convolution

A

AGI / Artificial General Intelligence Autoencoder Attention Algorithm Artificial Intelligence (AI)

B

Backpropagation BERT Boosting Batch Normalization Bias

C

Chatbot Clustering CNN / Convolutional Neural Network Cross-Validation Classifier / Classification

D

Deep Learning Deepfake Discriminative Model Deterministic Model Data Augmentation

E

Embedding Encoder Epoch Ensemble Learning Explainable AI (XAI)

F

Fine-tuning Fusion / Multimodal Fusion Forward Propagation Foundation Model Feature Extraction

G

GAN / Generative Adversarial Network Gradient Descent Grounding Graph Neural Network (GNN)Generative AI

H

Hyperparameter Heuristic Hidden Layer Hierarchical Model Hallucination

I

Imbalanced Data Interpretability Instruction tuning Instance / Sample Intelligence Amplification / Augmentation

J

JAX Jittering Joint Embedding JSONL / JSON-lines Juxtaposition

K

KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick Knowledge Distillation

L

Latent Variable Loss Function LSTM / Long Short-Term Memory Large Language Model (LLM)Learning Rate

M

Multimodal / Multimodality Machine Learning (ML)Meta-learning Model Multi-head Attention

N

Normalization Neural Network NLP / Natural Language Processing NLU / Natural Language Understanding Novelty Detection / Anomaly Detection

O

Objective Function Online Learning One-hot Encoding Overfitting Optimizer

P

Policy / Reinforcement Learning Policy Pooling Pretraining Prompt Parameter

Q

Queue / Buffer Quantization Q-learning Query Quality Estimation

R

Retrieval Augmented Generation (RAG)Representation Learning Reinforcement Learning (RL)Regularization RNN / Recurrent Neural Network

S

Supervised Learning Self-Supervised Learning Sequence Modeling Sampling Softmax

T

Training Data Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning

U

Universal Approximation Theorem Unsupervised Learning U-Net Underfitting Uncertainty Estimation

V

Variational Autoencoder (VAE)Vector Embedding Vanishing / Exploding Gradient Validation Set Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

XOR problem X-axis / feature axis XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Y-transform / YUV YAGNI (You Aren't Gonna Need It)Yield (model yield / throughput)Yoga of AI

Z

Z-score Normalization Zero-gradient phenomenon Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Zygosity in augmentation

8-bit quantization là gì

8-bit quantization là một kỹ thuật xử lý tín hiệu số, chuyển đổi dữ liệu có độ chính xác cao hơn (như số thực) thành các định dạng có độ chính xác thấp hơn (như số nguyên). Quá trình này rất quan trọng trong nhiều ứng dụng, đặc biệt là trong xử lý dữ liệu đa phương tiện như âm thanh, video và hình ảnh.

Trong 8-bit quantization, giá trị của mỗi mẫu bị giới hạn trong khoảng từ 0 đến 255. Điều này cho phép lưu trữ và xử lý dữ liệu hiệu quả hơn. Ví dụ, trong xử lý hình ảnh, 8-bit quantization có thể giảm đáng kể kích thước tệp hình ảnh, đồng thời duy trì chất lượng hình ảnh tương đối cao. Tuy nhiên, nhược điểm là việc giới thiệu độ méo, vì một phần thông tin dữ liệu gốc sẽ bị bỏ qua.

Nhìn về tương lai, việc sử dụng 8-bit quantization có thể trở nên phổ biến hơn với sự gia tăng của các ứng dụng học sâu và học máy, đặc biệt là trong tính toán biên và thiết bị di động, nơi mà các phép toán độ chính xác thấp có thể tiết kiệm năng lượng và tăng tốc độ xử lý. Các nhà nghiên cứu cũng đang khám phá các phương pháp quantization phức tạp hơn, chẳng hạn như quantization độ chính xác hỗn hợp, nhằm giảm thiểu độ méo trong khi cải thiện hiệu quả tính toán.