Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

해석 가능성이란 무엇인가

해석 가능성은 인간이 모델이나 알고리즘이 내린 결정의 원인을 이해할 수 있는 정도를 의미합니다. 인공지능 및 머신러닝 분야에서 모델의 복잡성이 증가함에 따라 해석 가능성이 점점 더 중요해지고 있습니다.

모델이 점점 더 복잡해짐에 따라 결정 과정은 '블랙 박스'와 유사하게 되어 사용자가 결론이 어떻게 도출되었는지 이해하기 어렵습니다. 이러한 복잡성은 의료 및 금융과 같은 고위험 분야에서 해석 가능성 연구에 대한 관심을 불러일으켰습니다. 모델의 결정 투명성이 윤리 및 법적 책임에 직접적인 영향을 미치기 때문입니다.

해석 가능성을 달성하기 위한 기술로는 특성 중요도 분석, 시각화 도구 및 지역적으로 해석 가능한 모델(예: LIME 및 SHAP)이 있습니다. 이러한 도구는 사용자가 모델 결정의 기초를 이해하는 데 도움을 줍니다.

규제 및 표준의 중요성이 증가하면서, 특히 EU의 AI 규제 덕분에 해석 가능성은 모델 설계 및 개발의 핵심 요소가 될 것입니다.

해석 가능성의 장점은 신뢰와 투명성을 높이는 것이지만, 해석 가능성을 지나치게 추구하면 모델의 복잡성과 성능이 제한될 수 있습니다. 개발자는 모델의 정확성과 해석 가능성 사이에서 균형을 찾아야 하며, 최종 사용자가 유용한 정보를 받을 수 있도록 해야 합니다.