Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Artificial Intelligence (AI)Algorithm Attention Autoencoder AGI / Artificial General Intelligence

B

BERT Boosting Backpropagation Batch Normalization Bias

C

Classifier / Classification Cross-Validation Clustering CNN / Convolutional Neural Network Chatbot

D

Discriminative Model Deterministic Model Deep Learning Data Augmentation Deepfake

E

Epoch Encoder Ensemble Learning Explainable AI (XAI)Embedding

F

Foundation Model Forward Propagation Fusion / Multimodal Fusion Feature Extraction Fine-tuning

G

GAN / Generative Adversarial Network Grounding Generative AI Gradient Descent Graph Neural Network (GNN)

H

Hierarchical Model Hyperparameter Hallucination Heuristic Hidden Layer

I

Interpretability Instruction tuning Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation

J

JAX JSONL / JSON-lines Juxtaposition Jittering Joint Embedding

K

K-Shot Learning Kernel Trick KL Divergence (Kullback–Leibler Divergence)Knowledge Distillation K-means Clustering

L

LSTM / Long Short-Term Memory Large Language Model (LLM)Latent Variable Loss Function Learning Rate

M

Multimodal / Multimodality Multi-head Attention Machine Learning (ML)Model Meta-learning

N

NLU / Natural Language Understanding Normalization Neural Network Novelty Detection / Anomaly Detection NLP / Natural Language Processing

O

One-hot Encoding Overfitting Objective Function Optimizer Online Learning

P

Prompt Parameter Pretraining Policy / Reinforcement Learning Policy Pooling

Q

Q-learning Query Queue / Buffer Quantization Quality Estimation

R

RNN / Recurrent Neural Network Representation Learning Retrieval Augmented Generation (RAG)Reinforcement Learning (RL)Regularization

S

Softmax Sampling Supervised Learning Sequence Modeling Self-Supervised Learning

T

Tokenizer Transformer Tuning / Hyperparameter Tuning Transfer Learning Training Data

U

U-Net Uncertainty Estimation Underfitting Universal Approximation Theorem Unsupervised Learning

V

Vision Transformer (ViT)Variational Autoencoder (VAE)Vector Embedding Vanishing / Exploding Gradient Validation Set

W

Weight Decay Word Embedding Workflow Whitening / Whitening Transformation Weak Supervision

X

X-axis / feature axis XLM XLNet XAI / Explainable AI XOR problem

Y

Yoga of AI Y-transform / YUV Yield (model yield / throughput)Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Z-score Normalization Zero-gradient phenomenon Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Zygosity in augmentation

什么是 Z-score 标准化

Z-score 标准化，也称为标准化，是一种常用于统计分析和机器学习的数据预处理技术。它的主要目的是将数据转换为均值为0、标准差为1的标准正态分布，从而消除不同量纲和量级对模型训练的影响。

在许多数据分析任务中，特征的单位和范围可能会有所不同，这会导致某些特征在模型训练中占主导地位。Z-score 标准化通过将每个数据点减去均值并除以标准差，使得每个特征的数据分布更为一致，便于后续的分析和建模。

Z-score 的计算公式为：Z = (X - μ) / σ，其中 X 是待规范化的原始值，μ 是平均值，σ 是标准差。通过该公式可以将数据转换到一个标准化的尺度。

Z-score 标准化广泛应用于许多领域，特别是在机器学习模型，如支持向量机（SVM）、逻辑回归和神经网络等中。在这些模型中，特征的尺度一致性能够提高模型的收敛速度和准确性。

优点包括消除特征之间的量纲影响，使得模型训练更加稳定，有助于提高算法的收敛速度，尤其是基于梯度的方法。然而，它对异常值敏感，异常值会影响均值和标准差的计算，导致数据失真。它只适用于正态分布的数据，若数据分布严重偏离正态，可能效果不佳。

随着数据科学的发展，Z-score 标准化及其变种在大数据处理、深度学习和实时数据分析中的应用将继续增长。研究者也在不断探索更健壮的标准化方法，以应对现代数据集中的挑战。

在使用 Z-score 标准化时，应仔细评估数据的分布情况，确保数据的正态性。此外，处理异常值也应成为预处理步骤之一，以减小其对标准化结果的影响。