Glossary

0-9

1-shot learning 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 2-stage detector 4D data 0-shot learning 9-layer network 3D convolution

A

AGI / Artificial General Intelligence Autoencoder Attention Algorithm Artificial Intelligence (AI)

B

Backpropagation BERT Boosting Batch Normalization Bias

C

Chatbot Clustering CNN / Convolutional Neural Network Cross-Validation Classifier / Classification

D

Deep Learning Deepfake Discriminative Model Deterministic Model Data Augmentation

E

Embedding Encoder Epoch Ensemble Learning Explainable AI (XAI)

F

Fine-tuning Fusion / Multimodal Fusion Forward Propagation Foundation Model Feature Extraction

G

GAN / Generative Adversarial Network Gradient Descent Grounding Graph Neural Network (GNN)Generative AI

H

Hyperparameter Heuristic Hidden Layer Hierarchical Model Hallucination

I

Imbalanced Data Interpretability Instruction tuning Instance / Sample Intelligence Amplification / Augmentation

J

JAX Jittering Joint Embedding JSONL / JSON-lines Juxtaposition

K

KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Kernel Trick Knowledge Distillation

L

Latent Variable Loss Function LSTM / Long Short-Term Memory Large Language Model (LLM)Learning Rate

M

Multimodal / Multimodality Machine Learning (ML)Meta-learning Model Multi-head Attention

N

Normalization Neural Network NLP / Natural Language Processing NLU / Natural Language Understanding Novelty Detection / Anomaly Detection

O

Objective Function Online Learning One-hot Encoding Overfitting Optimizer

P

Policy / Reinforcement Learning Policy Pooling Pretraining Prompt Parameter

Q

Queue / Buffer Quantization Q-learning Query Quality Estimation

R

Retrieval Augmented Generation (RAG)Representation Learning Reinforcement Learning (RL)Regularization RNN / Recurrent Neural Network

S

Supervised Learning Self-Supervised Learning Sequence Modeling Sampling Softmax

T

Training Data Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning

U

Universal Approximation Theorem Unsupervised Learning U-Net Underfitting Uncertainty Estimation

V

Variational Autoencoder (VAE)Vector Embedding Vanishing / Exploding Gradient Validation Set Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

XOR problem X-axis / feature axis XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Y-transform / YUV YAGNI (You Aren't Gonna Need It)Yield (model yield / throughput)Yoga of AI

Z

Z-score Normalization Zero-gradient phenomenon Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Zygosity in augmentation

Vấn đề XOR là gì?

Vấn đề XOR là một vấn đề cổ điển trong khoa học máy tính và học máy, liên quan đến phép toán logic XOR (hoặc loại trừ). Trong logic nhị phân, phép toán XOR trả về giá trị đúng khi hai đầu vào boolean khác nhau (tức là một là đúng và một là sai). Vấn đề này đặc biệt quan trọng trong bối cảnh mạng nơ-ron và học sâu, vì nó minh họa những hạn chế của các mô hình tuyến tính đơn giản trong việc xử lý các mối quan hệ phi tuyến.

Một ví dụ cổ điển về vấn đề XOR liên quan đến các tổ hợp đầu vào nhị phân (0 hoặc 1), trong đó quy tắc đầu ra là: đầu vào (0,0) và (1,1) cho kết quả là 0, trong khi đầu vào (0,1) và (1,0) cho kết quả là 1. Mối quan hệ logic đơn giản này không thể được học đúng cách bởi các mạng nơ-ron đơn giản, như perceptron một lớp, vốn chỉ có thể đại diện cho các mẫu có thể phân tách tuyến tính.

Trong lịch sử của học máy, vấn đề XOR là một cột mốc quan trọng trong sự phát triển của mạng nơ-ron. Các nghiên cứu ban đầu cho thấy rằng các mô hình học sâu (tức là mạng nơ-ron nhiều lớp) có thể giải quyết hiệu quả vấn đề XOR, chứng minh sức mạnh và khả năng áp dụng của các mạng nơ-ron sâu. Trong tương lai, nghiên cứu về vấn đề XOR sẽ tiếp tục thúc đẩy sự phát triển của các mô hình phi tuyến và cấu trúc dữ liệu phức tạp.

XOR giúp chúng ta hiểu rõ hơn và thiết kế các mô hình học máy phức tạp; tuy nhiên, các mô hình quá đơn giản có thể tỏ ra không đủ khi đối mặt với thách thức này. Những yếu tố quan trọng cần xem xét là đặc điểm của dữ liệu đầu vào khi thiết kế mô hình và lựa chọn kiến trúc mạng và hàm kích hoạt phù hợp.