Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

One-hot Encoding이란 무엇인가

One-hot Encoding은 주로 범주형 데이터를 컴퓨터가 이해할 수 있는 형식으로 변환하는 데 사용되는 널리 쓰이는 특성 표현 방법입니다. 머신러닝과 데이터 마이닝에서 데이터의 효과적인 표현은 모델의 성공에 매우 중요합니다. One-hot Encoding의 기본 아이디어는 각 범주 값을 이진 벡터로 변환하는 것으로, 범주 항목에 해당하는 위치에 1로 표시하고 나머지 위치는 0으로 표시합니다.

이 방법의 장점은 범주 간의 순서 관계를 제거하여 모델이 각 범주를 독립적으로 처리할 수 있도록 한다는 점입니다. 예를 들어, '고양이', '개', '새'와 같은 동물 범주가 포함된 데이터 세트를 고려해 보십시오. One-hot Encoding을 통해 이러한 범주는 [1, 0, 0], [0, 1, 0], [0, 0, 1]로 표현됩니다. 이러한 표현 방식은 특히 딥러닝 시나리오에서 모델의 학습 효과를 높이는 데 도움이 됩니다.

One-hot Encoding은 많은 상황에서 좋은 성과를 보이지만 몇 가지 단점도 있습니다. 예를 들어, 범주의 수가 많을 경우 희소 행렬이 생성되어 계산 복잡성과 메모리 사용량이 증가할 수 있습니다. 또한 One-hot Encoding은 범주 간의 관계를 포착하지 못하므로 경우에 따라 모델 성능에 영향을 줄 수 있습니다. 이러한 문제를 해결하기 위해 연구자들은 타겟 인코딩(Target Encoding) 및 단어 임베딩(Word Embedding)과 같은 대체 방법을 제안했습니다.

미래의 추세는 One-hot Encoding과 다른 인코딩 방법을 결합하여 효과성을 유지하면서 계산 자원 소비와 모델 복잡성을 줄이는 것입니다. 전반적으로 One-hot Encoding은 머신러닝에서 범주형 데이터를 처리하는 기본 기술이며, 그 원리와 응용 시나리오를 이해하는 것은 데이터 과학자에게 매우 중요합니다.