Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

설명 가능한 인공지능 (XAI)란 무엇인가

설명 가능한 인공지능 (XAI)은 인간이 이해할 수 있는 결정과 행동의 설명을 제공하는 인공지능 방법을 의미합니다. AI 시스템이 의료, 금융 등 주요 분야에서 보편화됨에 따라 투명성의 필요성이 대두되고 있습니다. 사용자는 AI 결정의 근거를 이해해야 기술에 대한 신뢰를 가질 수 있습니다.

XAI는 특성 중요도 분석, 모델 시각화 및 해석 가능한 결정 규칙 생성 등 다양한 기술을 통해 작동합니다. 이러한 방법은 사용자가 AI 모델의 출력을 깊이 이해할 수 있도록 하여 시스템에 대한 신뢰를 높입니다. 예를 들어, LIME(국소 설명 가능한 모델 불변 설명) 및 SHAP(샤플리 가법 설명)과 같은 도구는 특정 입력 특성이 예측에 미치는 영향을 설명할 수 있습니다.

미래를 내다보면 AI 응용 프로그램이 확장됨에 따라 XAI는 산업 표준이 될 것으로 예상되며, 특히 규제 요건이 점점 더 엄격해지는 배경에서 더욱 그러합니다. XAI의 장점으로는 사용자 신뢰 향상, 모델 수용성 개선, 개발자가 모델 내의 편향 및 윤리적 문제를 식별하는 데 도움을 줄 수 있습니다. 하지만 XAI는 추가적인 계산 비용, 설명의 과도한 단순화 가능성, 모든 유형의 AI 시스템에 적용하기 어려운 등의 단점도 존재합니다.

XAI를 구현할 때 개발자는 설명 가능성과 모델 성능 간의 균형을 유지하고 제공되는 설명이 최종 사용자에게 실제로 유용하도록 해야 합니다. 전반적으로 XAI는 AI 투명성과 책임성을 촉진하는 중요한 단계로, 더 안전하고 공정한 AI 발전에 기여합니다.