Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

AGI / Artificial General Intelligence Algorithm Autoencoder Artificial Intelligence (AI)Attention

B

BERT Backpropagation Batch Normalization Boosting Bias

C

CNN / Convolutional Neural Network Clustering Cross-Validation Chatbot Classifier / Classification

D

Deepfake Deep Learning Data Augmentation Deterministic Model Discriminative Model

E

Epoch Ensemble Learning Encoder Explainable AI (XAI)Embedding

F

Fine-tuning Forward Propagation Fusion / Multimodal Fusion Foundation Model Feature Extraction

G

GAN / Generative Adversarial Network Grounding Graph Neural Network (GNN)Gradient Descent Generative AI

H

Hyperparameter Heuristic Hidden Layer Hierarchical Model Hallucination

I

Instruction tuning Instance / Sample Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX JSONL / JSON-lines Jittering Joint Embedding Juxtaposition

K

K-Shot Learning K-means Clustering KL Divergence (Kullback–Leibler Divergence)Kernel Trick Knowledge Distillation

L

LSTM / Long Short-Term Memory Learning Rate Latent Variable Loss Function Large Language Model (LLM)

M

Multi-head Attention Multimodal / Multimodality Meta-learning Model Machine Learning (ML)

N

NLP / Natural Language Processing NLU / Natural Language Understanding Neural Network Novelty Detection / Anomaly Detection Normalization

O

One-hot Encoding Overfitting Optimizer Online Learning Objective Function

P

Pooling Parameter Pretraining Prompt Policy / Reinforcement Learning Policy

Q

Q-learning Queue / Buffer Query Quality Estimation Quantization

R

RNN / Recurrent Neural Network Retrieval Augmented Generation (RAG)Reinforcement Learning (RL)Regularization Representation Learning

S

Softmax Sampling Sequence Modeling Supervised Learning Self-Supervised Learning

T

Tuning / Hyperparameter Tuning Tokenizer Transformer Training Data Transfer Learning

U

U-Net Underfitting Universal Approximation Theorem Unsupervised Learning Uncertainty Estimation

V

Vision Transformer (ViT)Vector Embedding Validation Set Vanishing / Exploding Gradient Variational Autoencoder (VAE)

W

Weight Decay Whitening / Whitening Transformation Workflow Word Embedding Weak Supervision

X

XAI / Explainable AI XLM XLNet XOR problem X-axis / feature axis

Y

Yoga of AI Y-transform / YUV YAGNI (You Aren't Gonna Need It)Y-axis / feature axis Yield (model yield / throughput)

Z

Z-score Normalization Zero-shot Learning / Zero-shot inference Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zygosity in augmentation

説明可能なAI (XAI)とは何か

説明可能なAI (XAI)とは、人間が理解できる形でその決定や行動の説明を提供する人工知能の手法を指します。AIシステムが医療や金融などの重要な分野で普及する中で、透明性の必要性が高まっています。ユーザーはAIの決定の根拠を理解する必要があり、そうすることで技術への信頼を得ることができます。

XAIは、特徴重要度分析、モデル可視化、解釈可能な決定ルールの生成など、さまざまな技術を用いて動作します。これらの方法により、ユーザーはAIモデルの出力について深く理解できるようになり、システムへの信頼が高まります。たとえば、LIME（局所解釈可能モデル非依存説明）やSHAP（シャプレイ加法説明）などのツールを使用することで、特定の入力特徴が予測に与える影響を説明できます。

今後、AIアプリケーションが拡大するにつれて、XAIは業界標準となる見込みであり、特に規制要件がますます厳しくなる中でその重要性は増すでしょう。XAIの利点には、ユーザーの信頼を高め、モデルの受容性を改善し、開発者がモデル内のバイアスや倫理的問題を特定するのに役立つことが含まれます。しかし、XAIにも追加の計算コスト、過度の単純化の可能性など、いくつかの欠点があります。

XAIを実装する際には、開発者は説明可能性とモデルの性能のバランスを保ち、提供される説明が最終ユーザーにとって実際に役立つものであることを確認する必要があります。全体として、XAIはAIの透明性と責任を促進するための重要なステップであり、より安全で公正なAIの発展に寄与します。