Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

검색 증강 생성 (RAG)란?

검색 증강 생성 (RAG)은 검색 및 생성 기술을 결합한 모델로, 자연어 처리 (NLP) 분야에서 널리 사용됩니다.

RAG의 핵심 아이디어는 관련 정보를 검색하여 생성 모델의 능력을 강화함으로써 생성된 텍스트의 관련성과 정확성을 높이는 것입니다. 일반적으로 RAG는 먼저 지식베이스에서 관련 텍스트 조각을 검색한 다음, 이러한 조각을 생성 모델에 대한 맥락 입력으로 사용하는 방식으로 작동합니다.

이러한 접근 방식은 모델이 내재된 지식에만 의존하지 않고 외부 정보 소스를 활용하여 출력 품질을 향상시킬 수 있게 합니다. RAG의 전형적인 시나리오는 질문 응답 시스템으로, 이 시스템에서는 사용자의 질문에 따라 데이터베이스에서 정보를 검색하고 더 많은 정보를 포함한 답변을 생성할 수 있습니다.

RAG의 미래는 밝습니다. 지식베이스가 계속해서 확장되고 업데이트됨에 따라, RAG 모델은 복잡한 질문을 더 잘 처리하고 더 정확한 답변을 제공할 수 있게 될 것입니다. 또한 RAG는 콘텐츠 생성, 대화 시스템 등 다양한 분야에 적용될 수 있습니다.

그러나 RAG는 몇 가지 도전에 직면해 있습니다. 관련 정보를 효율적으로 검색하는 방법, 검색된 정보를 처리하는 방법, 생성된 콘텐츠의 일관성과 연속성을 유지하는 방법 등이 연구할 가치가 있는 문제입니다. 그럼에도 불구하고 RAG 모델의 장점은 명백하여, 검색과 생성의 강점을 결합하여 자연어 처리 작업의 성능을 크게 향상시킬 수 있습니다.