Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

표현 학습이란 무엇인가

표현 학습은 데이터에서 유용한 표현을 자동으로 학습하는 것을 목표로 하는 기계 학습의 중요한 개념입니다. 이 접근법은 이미지, 텍스트 및 오디오와 같은 고차원 데이터를 처리하는 데 특히 효과적이며, 보다 추상적이고 식별 가능한 특성을 추출할 수 있습니다.

표현 학습의 배경은 딥 러닝의 발전에서 비롯되며, 특히 신경망의 부상으로 인해 더욱 두드러집니다. 이러한 기술은 다층 구조를 통해 원시 데이터를 점진적으로 더 높은 수준의 특성 표현으로 변환하여 이미지 인식 및 자연어 처리와 같은 작업에서 주목할 만한 성공을 거두었습니다. 표현 학습의 전형적인 예는 이미지 분류 작업에서 뛰어난 성능을 보이는 합성곱 신경망(CNN)입니다.

표현 학습의 작동 방식은 일반적으로 비지도 학습, 반지도 학습 및 지도 학습과 같은 다양한 형태를 포함합니다. 비지도 학습은 모델이 레이블 없이 데이터의 잠재적 구조를 발견할 수 있게 해주며, 지도 학습은 레이블이 있는 데이터를 기반으로 모델을 훈련하는 데 의존합니다. 최근에는 사전 훈련된 모델(BERT 및 GPT와 같은)이 자연어 처리에서 표현 학습의 강력한 기능을 보여주고 있습니다.

미래에는 표현 학습이 보다 효율적인 훈련 방법과 더 강력한 일반화 능력 방향으로 발전할 가능성이 높습니다. 이 기술의 장점은 수동 특성 엔지니어링의 필요성을 줄이고 모델의 성능과 효율성을 향상시키는 데 있습니다. 그러나 표현 학습은 대규모 데이터 세트에 대한 요구와 잠재적인 과적합 위험과 같은 단점도 가지고 있습니다.

연구자 및 엔지니어에게 있어, 표현 학습의 장단점, 응용 시나리오 및 미래 동향을 이해하는 것은 이 기술을 실제 프로젝트에서 효과적으로 활용하는 데 매우 중요합니다.