Glossary

0-9

6DoF pose estimation 4D data 5G + AI 1-shot learning 0-shot learning 3D convolution 8-bit quantization 7D representation 2-stage detector 9-layer network

A

Artificial Intelligence (AI)AGI / Artificial General Intelligence Autoencoder Attention Algorithm

B

Backpropagation BERT Bias Boosting Batch Normalization

C

Classifier / Classification CNN / Convolutional Neural Network Clustering Cross-Validation Chatbot

D

Data Augmentation Deep Learning Deepfake Deterministic Model Discriminative Model

E

Ensemble Learning Encoder Embedding Epoch Explainable AI (XAI)

F

Fine-tuning Fusion / Multimodal Fusion Feature Extraction Forward Propagation Foundation Model

G

GAN / Generative Adversarial Network Gradient Descent Grounding Generative AI Graph Neural Network (GNN)

H

Hierarchical Model Heuristic Hallucination Hidden Layer Hyperparameter

I

Instance / Sample Instruction tuning Intelligence Amplification / Augmentation Interpretability Imbalanced Data

J

Juxtaposition Jittering JAX Joint Embedding JSONL / JSON-lines

K

K-Shot Learning Kernel Trick K-means Clustering Knowledge Distillation KL Divergence (Kullback–Leibler Divergence)

L

Learning Rate Large Language Model (LLM)Loss Function Latent Variable LSTM / Long Short-Term Memory

M

Machine Learning (ML)Meta-learning Model Multi-head Attention Multimodal / Multimodality

N

NLP / Natural Language Processing Novelty Detection / Anomaly Detection NLU / Natural Language Understanding Normalization Neural Network

O

Online Learning Objective Function One-hot Encoding Overfitting Optimizer

P

Pretraining Pooling Parameter Policy / Reinforcement Learning Policy Prompt

Q

Q-learning Queue / Buffer Quantization Quality Estimation Query

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Representation Learning Regularization RNN / Recurrent Neural Network

S

Self-Supervised Learning Supervised Learning Sequence Modeling Sampling Softmax

T

Tuning / Hyperparameter Tuning Tokenizer Training Data Transfer Learning Transformer

U

Unsupervised Learning Universal Approximation Theorem Underfitting Uncertainty Estimation U-Net

V

Vector Embedding Variational Autoencoder (VAE)Validation Set Vision Transformer (ViT)Vanishing / Exploding Gradient

W

Weight Decay Weak Supervision Whitening / Whitening Transformation Word Embedding Workflow

X

XOR problem XAI / Explainable AI X-axis / feature axis XLM XLNet

Y

Y-axis / feature axis Yield (model yield / throughput)YAGNI (You Aren't Gonna Need It)Y-transform / YUV Yoga of AI

Z

Zero-shot Learning / Zero-shot inference Zero-centric / Zero-bias initialization Z-score Normalization Zero-gradient phenomenon Zygosity in augmentation

Qué es la Función de Pérdida

La función de pérdida es un concepto crucial en el aprendizaje automático y el aprendizaje profundo. Evalúa la diferencia entre el valor predicho y el valor real. Durante el proceso de entrenamiento del modelo, la salida de la función de pérdida guía el ajuste de los parámetros del modelo para minimizar los errores de predicción, mejorando así la precisión del modelo.

Existen varias formas de funciones de pérdida, como el error cuadrático medio (MSE) y la pérdida de entropía cruzada. La elección de una función de pérdida apropiada no solo afecta la velocidad de convergencia del modelo, sino también su rendimiento general. El diseño de la función de pérdida suele estar estrechamente relacionado con la naturaleza del problema específico, como problemas de clasificación o regresión.

Durante el entrenamiento, el modelo actualiza sus parámetros a través de algoritmos de optimización, como el descenso de gradiente, para minimizar el valor de la función de pérdida. La función de pérdida proporciona retroalimentación para ayudar al modelo a aprender configuraciones óptimas de parámetros.

En el futuro, a medida que la tecnología de aprendizaje automático continúe evolucionando, la investigación y aplicación de funciones de pérdida también avanzarán. Se pueden proponer nuevas formas de funciones de pérdida para adaptarse a tareas y arquitecturas de modelos más complejas. La elección y el diseño de funciones de pérdida seguirán siendo un punto focal para investigadores e ingenieros.

Al usar funciones de pérdida, es muy importante ser consciente de sus ventajas y desventajas. Si bien las funciones de pérdida pueden guiar efectivamente el aprendizaje del modelo, su sensibilidad puede llevar al sobreajuste en ciertas situaciones, especialmente cuando la cantidad de datos es limitada o hay mucho ruido. Por lo tanto, es necesario considerar cuidadosamente la elección de la función de pérdida.