Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

앙상블 학습이란 무엇인가

앙상블 학습은 여러 모델의 예측 결과를 결합하여 전체 성능과 정확성을 향상시키는 기계 학습 기법입니다. 그 핵심 아이디어는 개별적으로 성능이 좋지 않은 약한 학습기의 출력을 집계하여 강력한 학습기를 만드는 것입니다. 이를 통해 분산과 편향을 줄일 수 있습니다.

앙상블 학습의 두 가지 주요 유형은 배깅(Bagging)과 부스팅(Boosting)입니다. 배깅은 여러 하위 모델을 생성하고 그 결과를 투표를 통해 결합하는 방식이고, 부스팅은 모델의 가중치를 반복적으로 조정하여 학습 과정을 최적화하는 방식입니다. 일반적인 알고리즘으로는 랜덤 포레스트(Random Forest), 아다부스트(AdaBoost), 그리고 그래디언트 부스팅 머신(Gradient Boosting Machines, GBM)이 있습니다.

앙상블 학습의 중요성은 모델의 일반화 능력을 향상시키고 과적합 위험을 줄일 수 있다는 점입니다. 금융 예측, 이미지 인식, 텍스트 분류 등 다양한 실제 응용 분야에서 뛰어난 성능을 보이고 있습니다. 데이터 세트가 커지고 계산 능력이 증가함에 따라 앙상블 학습의 미래는 매우 밝아 보입니다.

그러나 앙상블 학습은 여러 모델을 훈련해야 하므로 더 많은 계산 자원과 시간이 필요하다는 단점이 있습니다. 또한 복잡한 모델을 사용할 경우 앙상블 모델의 해석 가능성이 떨어질 수 있으며, 이는 결과의 투명성을 감소시킬 수 있습니다. 따라서 앙상블 학습을 사용할 때는 장점과 단점을 특정 응용 프로그램과 요구 사항에 맞춰 잘 고려해야 합니다.