Glossary

0-9

1-shot learning 3D convolution 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 2-stage detector 9-layer network 0-shot learning 4D data

A

AGI / Artificial General Intelligence Attention Autoencoder Algorithm Artificial Intelligence (AI)

B

Backpropagation Batch Normalization BERT Bias Boosting

C

Clustering CNN / Convolutional Neural Network Chatbot Classifier / Classification Cross-Validation

D

Data Augmentation Deep Learning Deepfake Deterministic Model Discriminative Model

E

Encoder Embedding Ensemble Learning Epoch Explainable AI (XAI)

F

Foundation Model Fine-tuning Fusion / Multimodal Fusion Feature Extraction Forward Propagation

G

Graph Neural Network (GNN)GAN / Generative Adversarial Network Generative AI Gradient Descent Grounding

H

Hierarchical Model Hyperparameter Hidden Layer Hallucination Heuristic

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

JAX Jittering Joint Embedding JSONL / JSON-lines Juxtaposition

K

Kernel Trick KL Divergence (Kullback–Leibler Divergence)K-means Clustering K-Shot Learning Knowledge Distillation

L

Learning Rate Large Language Model (LLM)Latent Variable Loss Function LSTM / Long Short-Term Memory

M

Model Machine Learning (ML)Meta-learning Multi-head Attention Multimodal / Multimodality

N

Neural Network Novelty Detection / Anomaly Detection NLP / Natural Language Processing NLU / Natural Language Understanding Normalization

O

Objective Function Optimizer One-hot Encoding Online Learning Overfitting

P

Parameter Prompt Policy / Reinforcement Learning Policy Pooling Pretraining

Q

Query Q-learning Quality Estimation Quantization Queue / Buffer

R

Representation Learning Regularization Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)RNN / Recurrent Neural Network

S

Sampling Self-Supervised Learning Sequence Modeling Softmax Supervised Learning

T

Tokenizer Transfer Learning Transformer Tuning / Hyperparameter Tuning Training Data

U

Universal Approximation Theorem U-Net Underfitting Uncertainty Estimation Unsupervised Learning

V

Validation Set Vanishing / Exploding Gradient Variational Autoencoder (VAE)Vector Embedding Vision Transformer (ViT)

W

Weak Supervision Weight Decay Whitening / Whitening Transformation Word Embedding Workflow

X

XOR problem X-axis / feature axis XAI / Explainable AI XLM XLNet

Y

Y-axis / feature axis Y-transform / YUV YAGNI (You Aren't Gonna Need It)Yield (model yield / throughput)Yoga of AI

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Z-score Normalization Zero-shot Learning / Zero-shot inference Zygosity in augmentation

Was ist Schwache Überwachung

Schwache Überwachung bezieht sich auf einen Ansatz im maschinellen Lernen, der unvollständige, rauschende oder qualitativ minderwertige gelabelte Daten verwendet, um Modelle zu trainieren. Diese Methode ist besonders nützlich in Szenarien, in denen die Kosten für die Datenlabelung hoch sind oder gelabelte Daten rar sind. Durch die Nutzung einer großen Menge an unlabelierten Daten zusammen mit einer kleinen Menge an gelabelten Daten kann die schwache Überwachung die Generalisierungsfähigkeit und die Vorhersageleistung eines Modells verbessern.

Zu den gängigen Techniken der schwachen Überwachung gehören selbstüberwachtes Lernen, Pseudo-Label-Generierung, Datenaugmentation und Transferlernen. Diese Techniken nutzen unlabelierte Daten effektiv und reduzieren die Abhängigkeit von großen Mengen an hochwertigen gelabelten Daten. Die schwache Überwachung hat in verschiedenen praktischen Anwendungen wie der Verarbeitung natürlicher Sprache, der Computer Vision und der medizinischen Bildanalyse außergewöhnliche Leistungen gezeigt.

Allerdings steht die schwache Überwachung auch vor einigen Herausforderungen. Rauschige Labels können die Leistung des Modells beeinträchtigen, und unsachgemäße Verwendung kann Verzerrungen einführen. Daher ist bei der Anwendung schwacher Überwachung eine sorgfältige Auswahl der Methode und eine Bewertung des Modells unerlässlich.

In Zukunft, da datengestützte Anwendungen weiterhin zunehmen, wird erwartet, dass die schwache Überwachung in weiteren Bereichen Anwendung findet. Forscher erkunden kontinuierlich Möglichkeiten zur Verbesserung der Techniken der schwachen Überwachung, um deren Stabilität und Genauigkeit zu erhöhen.