Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

XAI / 설명 가능한 인공지능이란?

설명 가능한 인공지능(XAI)은 인공지능 모델의 의사 결정 과정을 투명하고 이해할 수 있도록 만드는 중요한 분야입니다. 의료, 금융, 자율주행과 같은 고위험 분야에서 인공지능이 광범위하게 적용됨에 따라 모델의 설명 가능성과 투명성을 보장하는 것이 필수적이 되었습니다.

XAI의 작동 방식은 일반적으로 모델 시각화, 특성 중요도 분석 및 결정 규칙 생성을 포함한 다양한 기술을 포함합니다. 이러한 기술은 사용자가 모델이 특정 결과를 도출하는 방법을 이해하는 데 도움이 됩니다. 예를 들어, LIME(로컬 설명 가능 모델 불변성)와 SHAP(셰이플리 가감 설명)은 복잡한 블랙박스 모델에 대한 설명을 제공하는 데 널리 사용되는 방법입니다.

XAI는 매우 다양한 응용 분야를 가지고 있습니다. 의료 분야에서 의사들은 설명 가능한 AI 모델을 통해 진단 권장 사항을 더 잘 이해하고 보다 신중한 결정을 내릴 수 있습니다. 금융 산업에서는 규제 기관이 금융 서비스 제공업체에게 신용 결정의 설명을 요구하여 공정성과 투명성을 보장해야 합니다.

XAI의 장점은 분명하지만 몇 가지 도전 과제도 존재합니다. 예를 들어, 일부 복잡한 모델(딥 러닝 등)은 본질적으로 매우 비선형적이어서 간단한 설명을 제공하기 어렵습니다. 또한 지나치게 단순화하면 중요한 정보가 손실될 수 있으므로 설명 가능성을 달성할 때 적절한 균형을 찾는 것이 필요합니다.

앞으로 XAI의 발전은 기술 발전과 밀접한 관련이 있을 것입니다. AI의 투명성과 공정성에 대한 요구가 계속 증가함에 따라 XAI 분야의 연구와 응용이 점점 더 주목받을 것입니다. 기업과 조직은 AI 시스템이 효율적일 뿐만 아니라 사용자와 사회에 수용될 수 있도록 적절한 윤리적 기준을 준수해야 합니다.