TopAIToolsTopAITools

Glossary

0-9
1-shot learning3D convolution5G + AI6DoF pose estimation7D representation8-bit quantization2-stage detector9-layer network0-shot learning4D data
A
AGI / Artificial General IntelligenceAttentionAutoencoderAlgorithmArtificial Intelligence (AI)
B
BackpropagationBatch NormalizationBERTBiasBoosting
C
ClusteringCNN / Convolutional Neural NetworkChatbotClassifier / ClassificationCross-Validation
D
Data AugmentationDeep LearningDeepfakeDeterministic ModelDiscriminative Model
E
EncoderEmbeddingEnsemble LearningEpochExplainable AI (XAI)
F
Foundation ModelFine-tuningFusion / Multimodal FusionFeature ExtractionForward Propagation
G
Graph Neural Network (GNN)GAN / Generative Adversarial NetworkGenerative AIGradient DescentGrounding
H
Hierarchical ModelHyperparameterHidden LayerHallucinationHeuristic
I
Instance / SampleInstruction tuningIntelligence Amplification / AugmentationInterpretabilityImbalanced Data
J
JAXJitteringJoint EmbeddingJSONL / JSON-linesJuxtaposition
K
Kernel TrickKL Divergence (Kullback–Leibler Divergence)K-means ClusteringK-Shot LearningKnowledge Distillation
L
Learning RateLarge Language Model (LLM)Latent VariableLoss FunctionLSTM / Long Short-Term Memory
M
ModelMachine Learning (ML)Meta-learningMulti-head AttentionMultimodal / Multimodality
N
Neural NetworkNovelty Detection / Anomaly DetectionNLP / Natural Language ProcessingNLU / Natural Language UnderstandingNormalization
O
Objective FunctionOptimizerOne-hot EncodingOnline LearningOverfitting
P
ParameterPromptPolicy / Reinforcement Learning PolicyPoolingPretraining
Q
QueryQ-learningQuality EstimationQuantizationQueue / Buffer
R
Representation LearningRegularizationReinforcement Learning (RL)Retrieval Augmented Generation (RAG)RNN / Recurrent Neural Network
S
SamplingSelf-Supervised LearningSequence ModelingSoftmaxSupervised Learning
T
TokenizerTransfer LearningTransformerTuning / Hyperparameter TuningTraining Data
U
Universal Approximation TheoremU-NetUnderfittingUncertainty EstimationUnsupervised Learning
V
Validation SetVanishing / Exploding GradientVariational Autoencoder (VAE)Vector EmbeddingVision Transformer (ViT)
W
Weak SupervisionWeight DecayWhitening / Whitening TransformationWord EmbeddingWorkflow
X
XOR problemX-axis / feature axisXAI / Explainable AIXLMXLNet
Y
Y-axis / feature axisY-transform / YUVYAGNI (You Aren't Gonna Need It)Yield (model yield / throughput)Yoga of AI
Z
Zero-gradient phenomenonZero-centric / Zero-bias initializationZ-score NormalizationZero-shot Learning / Zero-shot inferenceZygosity in augmentation

Was ist XAI / Erklärbare KI?

Erklärbare KI (XAI) ist ein entscheidendes Feld, das darauf abzielt, die Entscheidungsprozesse von KI-Modellen transparent und verständlich zu machen. Da KI zunehmend in verschiedenen Sektoren, insbesondere in risikobehafteten Bereichen wie Gesundheitswesen, Finanzen und autonomes Fahren, angewendet wird, wird es unerlässlich, die Interpretierbarkeit und Transparenz der Modelle zu gewährleisten.


Die Funktionsweise von XAI umfasst typischerweise verschiedene Techniken wie Modellvisualisierung, Analyse der Merkmalsbedeutung und Generierung von Entscheidungsregeln. Diese Techniken helfen den Benutzern zu verstehen, wie Modelle bestimmte Ergebnisse erzielen. Zum Beispiel sind LIME (Lokale Erklärungen von Modell-Invarianten) und SHAP (Shapley Additive Erklärungen) gängige Methoden, die Erklärungen für komplexe Black-Box-Modelle bieten.


XAI hat ein breites Anwendungsspektrum. Im Gesundheitswesen können Ärzte durch erklärbare KI-Modelle diagnostische Empfehlungen besser verstehen und fundiertere Entscheidungen treffen. In der Finanzbranche verlangen Regulierungsbehörden von Finanzdienstleistern, dass sie ihre Kreditentscheidungen erklären können, um Fairness und Transparenz zu gewährleisten.


Obwohl die Vorteile von XAI offensichtlich sind, gibt es auch Herausforderungen. Einige komplexe Modelle (wie Deep Learning) sind von Natur aus hochgradig nichtlinear und schwierig zu erklären. Darüber hinaus kann übermäßige Vereinfachung zu einem Verlust wichtiger Informationen führen; daher ist es notwendig, ein angemessenes Gleichgewicht zu finden, um Interpretierbarkeit zu erreichen.


In Zukunft wird die Entwicklung von XAI eng mit Fortschritten in der Technologie verbunden sein. Während die Anforderungen an Transparenz und Fairness von KI weiter steigen, wird die Forschung und Anwendung im Bereich XAI zunehmend an Bedeutung gewinnen. Unternehmen und Organisationen müssen auch geeignete ethische Rahmenbedingungen einhalten, um sicherzustellen, dass ihre KI-Systeme nicht nur effizient, sondern auch von Nutzern und der Gesellschaft akzeptiert werden.