Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

AGI / Artificial General Intelligence Algorithm Autoencoder Artificial Intelligence (AI)Attention

B

BERT Backpropagation Batch Normalization Boosting Bias

C

CNN / Convolutional Neural Network Clustering Cross-Validation Chatbot Classifier / Classification

D

Deepfake Deep Learning Data Augmentation Deterministic Model Discriminative Model

E

Epoch Ensemble Learning Encoder Explainable AI (XAI)Embedding

F

Fine-tuning Forward Propagation Fusion / Multimodal Fusion Foundation Model Feature Extraction

G

GAN / Generative Adversarial Network Grounding Graph Neural Network (GNN)Gradient Descent Generative AI

H

Hyperparameter Heuristic Hidden Layer Hierarchical Model Hallucination

I

Instruction tuning Instance / Sample Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX JSONL / JSON-lines Jittering Joint Embedding Juxtaposition

K

K-Shot Learning K-means Clustering KL Divergence (Kullback–Leibler Divergence)Kernel Trick Knowledge Distillation

L

LSTM / Long Short-Term Memory Learning Rate Latent Variable Loss Function Large Language Model (LLM)

M

Multi-head Attention Multimodal / Multimodality Meta-learning Model Machine Learning (ML)

N

NLP / Natural Language Processing NLU / Natural Language Understanding Neural Network Novelty Detection / Anomaly Detection Normalization

O

One-hot Encoding Overfitting Optimizer Online Learning Objective Function

P

Pooling Parameter Pretraining Prompt Policy / Reinforcement Learning Policy

Q

Q-learning Queue / Buffer Query Quality Estimation Quantization

R

RNN / Recurrent Neural Network Retrieval Augmented Generation (RAG)Reinforcement Learning (RL)Regularization Representation Learning

S

Softmax Sampling Sequence Modeling Supervised Learning Self-Supervised Learning

T

Tuning / Hyperparameter Tuning Tokenizer Transformer Training Data Transfer Learning

U

U-Net Underfitting Universal Approximation Theorem Unsupervised Learning Uncertainty Estimation

V

Vision Transformer (ViT)Vector Embedding Validation Set Vanishing / Exploding Gradient Variational Autoencoder (VAE)

W

Weight Decay Whitening / Whitening Transformation Workflow Word Embedding Weak Supervision

X

XAI / Explainable AI XLM XLNet XOR problem X-axis / feature axis

Y

Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)Y-axis / feature axis Yield (model yield / throughput)

Z

Z-score Normalization Zero-shot Learning / Zero-shot inference Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zygosity in augmentation

データ増強とは

データ増強は、特に機械学習や深層学習の分野で、トレーニングデータセットの多様性を増加させるために使用される技術です。既存のサンプルに対して、回転、スケーリング、トリミング、ノイズ追加などの変換を行うことで、新しいサンプルを生成し、モデルの汎化能力を向上させ、過学習を減少させます。

データ増強の重要性は多面的です。データが不足している場合、効果的にデータ量を増やしてモデルのトレーニング効果を向上させることができます。また、多様性を導入することで、増強されたサンプルがモデルに重要な特徴をよりよく学習させる助けになります。

運用方法の面では、データ増強技術は、幾何学的変換、色変換、ノイズ注入などのいくつかのタイプに分類できます。幾何学的変換は、画像の視点を変更し、色変換は明るさやコントラストを調整して画像の色分布を変更し、ノイズ注入は画像にランダムノイズを追加してモデルの不完全なデータに対する堅牢性を強化します。

典型的な応用場面には、画像認識、自然言語処理、音声分析などがあります。たとえば、画像認識では、画像を回転させたりトリミングしたりすることで、より多くのトレーニングサンプルを生成し、分類モデルの精度を高めることができます。自然言語処理では、同義語の置き換えや文の再構築を通じてテキストデータの増強を行うことができます。

今後のデータ増強のトレンドは、GAN（生成的敵対ネットワーク）を使用して高品質の増強サンプルを生成する方向に進む可能性があります。また、自己教師あり学習の台頭に伴い、データ増強は無監督学習手法とより密接に結びつくでしょう。

データ増強はモデルのパフォーマンス向上に大きな利点をもたらしますが、欠点も存在します。不適切な増強が誤ったサンプルを導入し、モデルの性能を低下させる可能性があります。また、過度のデータ増強は、モデルが不要な特徴を学習する原因となり、実際のデータでのパフォーマンスに悪影響を及ぼす可能性があります。したがって、データ増強を使用する際は、適切な増強戦略を慎重に選択し、適切な評価を行う必要があります。