Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

AGI / Artificial General Intelligence Algorithm Autoencoder Artificial Intelligence (AI)Attention

B

BERT Backpropagation Batch Normalization Boosting Bias

C

CNN / Convolutional Neural Network Clustering Cross-Validation Chatbot Classifier / Classification

D

Deepfake Deep Learning Data Augmentation Deterministic Model Discriminative Model

E

Epoch Ensemble Learning Encoder Explainable AI (XAI)Embedding

F

Fine-tuning Forward Propagation Fusion / Multimodal Fusion Foundation Model Feature Extraction

G

GAN / Generative Adversarial Network Grounding Graph Neural Network (GNN)Gradient Descent Generative AI

H

Hyperparameter Heuristic Hidden Layer Hierarchical Model Hallucination

I

Instruction tuning Instance / Sample Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX JSONL / JSON-lines Jittering Joint Embedding Juxtaposition

K

K-Shot Learning K-means Clustering KL Divergence (Kullback–Leibler Divergence)Kernel Trick Knowledge Distillation

L

LSTM / Long Short-Term Memory Learning Rate Latent Variable Loss Function Large Language Model (LLM)

M

Multi-head Attention Multimodal / Multimodality Meta-learning Model Machine Learning (ML)

N

NLP / Natural Language Processing NLU / Natural Language Understanding Neural Network Novelty Detection / Anomaly Detection Normalization

O

One-hot Encoding Overfitting Optimizer Online Learning Objective Function

P

Pooling Parameter Pretraining Prompt Policy / Reinforcement Learning Policy

Q

Q-learning Queue / Buffer Query Quality Estimation Quantization

R

RNN / Recurrent Neural Network Retrieval Augmented Generation (RAG)Reinforcement Learning (RL)Regularization Representation Learning

S

Softmax Sampling Sequence Modeling Supervised Learning Self-Supervised Learning

T

Tuning / Hyperparameter Tuning Tokenizer Transformer Training Data Transfer Learning

U

U-Net Underfitting Universal Approximation Theorem Unsupervised Learning Uncertainty Estimation

V

Vision Transformer (ViT)Vector Embedding Validation Set Vanishing / Exploding Gradient Variational Autoencoder (VAE)

W

Weight Decay Whitening / Whitening Transformation Workflow Word Embedding Weak Supervision

X

XAI / Explainable AI XLM XLNet XOR problem X-axis / feature axis

Y

Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)Y-axis / feature axis Yield (model yield / throughput)

Z

Z-score Normalization Zero-shot Learning / Zero-shot inference Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zygosity in augmentation

Z-score 正規化とは？

Z-score 正規化は、標準化とも呼ばれ、統計分析や機械学習で一般的に使用されるデータ前処理技術です。その主な目的は、データを平均0、標準偏差1の標準正規分布に変換し、モデルのトレーニングにおける異なる次元やスケールの影響を排除することです。

多くのデータ分析タスクでは、特徴の単位や範囲が異なることがあり、特定の特徴がモデルのトレーニングで支配的になることがあります。Z-score 正規化は、各データポイントから平均を引き、標準偏差で割ることによって、各特徴のデータ分布をより一貫性のあるものにし、次の分析やモデリングを容易にします。

Z-score は次の式で計算されます: Z = (X - μ) / σ、ここで X は正規化する元の値、μ は平均、σ は標準偏差です。この式を使用して、データを標準化されたスケールに変換できます。

Z-score 正規化は、サポートベクターマシン（SVM）、ロジスティック回帰、ニューラルネットワークなどの機械学習モデルで広く使用されています。これらのモデルにおける特徴のスケールの一貫性は、モデルの収束速度と精度を向上させることができます。

利点としては、特徴間の次元の影響を排除し、モデルのトレーニングをより安定させることができ、特に勾配ベースの方法の収束速度を向上させるのに役立ちます。しかし、外れ値に敏感であり、外れ値が平均と標準偏差の計算に影響を与え、データを歪める可能性があります。また、正規分布データにのみ適しており、データ分布が正規から大きく外れる場合、効果が良くない可能性があります。

データサイエンスの進展に伴い、Z-score 正規化やその変種は、ビッグデータ処理、深層学習、リアルタイムデータ分析において引き続き利用されるでしょう。研究者たちは、現代のデータセットが抱える課題に対応するために、より堅牢な正規化方法を探求し続けています。

Z-score 正規化を使用する際は、データの分布を評価し、正規性を確保することが重要です。また、外れ値の処理も前処理ステップの一部とする必要があり、その影響を最小限に抑えることができます。