Glossary

0-9

1-shot learning 2-stage detector 3D convolution 4D data 5G + AI 6DoF pose estimation 7D representation 8-bit quantization 9-layer network 0-shot learning

A

Algorithm Autoencoder Artificial Intelligence (AI)Attention AGI / Artificial General Intelligence

B

Batch Normalization Boosting Backpropagation Bias BERT

C

Classifier / Classification Chatbot Cross-Validation Clustering CNN / Convolutional Neural Network

D

Deterministic Model Data Augmentation Deep Learning Discriminative Model Deepfake

E

Explainable AI (XAI)Ensemble Learning Encoder Embedding Epoch

F

Foundation Model Fine-tuning Forward Propagation Feature Extraction Fusion / Multimodal Fusion

G

Gradient Descent Graph Neural Network (GNN)Generative AI GAN / Generative Adversarial Network Grounding

H

Hierarchical Model Hidden Layer Hyperparameter Hallucination Heuristic

I

Imbalanced Data Instance / Sample Intelligence Amplification / Augmentation Interpretability Instruction tuning

J

Juxtaposition Joint Embedding Jittering JAX JSONL / JSON-lines

K

Knowledge Distillation Kernel Trick K-means Clustering K-Shot Learning KL Divergence (Kullback–Leibler Divergence)

L

Large Language Model (LLM)Loss Function Latent Variable Learning Rate LSTM / Long Short-Term Memory

M

Machine Learning (ML)Multimodal / Multimodality Multi-head Attention Meta-learning Model

N

Novelty Detection / Anomaly Detection Neural Network Normalization NLP / Natural Language Processing NLU / Natural Language Understanding

O

Objective Function Overfitting Online Learning Optimizer One-hot Encoding

P

Parameter Policy / Reinforcement Learning Policy Prompt Pretraining Pooling

Q

Quantization Query Queue / Buffer Quality Estimation Q-learning

R

Reinforcement Learning (RL)Retrieval Augmented Generation (RAG)Regularization Representation Learning RNN / Recurrent Neural Network

S

Supervised Learning Sampling Sequence Modeling Self-Supervised Learning Softmax

T

Transfer Learning Tokenizer Tuning / Hyperparameter Tuning Transformer Training Data

U

Uncertainty Estimation Unsupervised Learning Underfitting Universal Approximation Theorem U-Net

V

Validation Set Vector Embedding Variational Autoencoder (VAE)Vanishing / Exploding Gradient Vision Transformer (ViT)

W

Whitening / Whitening Transformation Weak Supervision Word Embedding Workflow Weight Decay

X

X-axis / feature axis XAI / Explainable AI XLM XLNet XOR problem

Y

Yield (model yield / throughput)Yoga of AI Y-transform / YUV Y-axis / feature axis YAGNI (You Aren't Gonna Need It)

Z

Zero-gradient phenomenon Zero-centric / Zero-bias initialization Zero-shot Learning / Zero-shot inference Zygosity in augmentation Z-score Normalization

RNN / 순환 신경망이란?

RNN(순환 신경망)은 시계열이나 자연어와 같은 순차 데이터를 처리하는 데 특히 적합한 딥 러닝 모델입니다. 전통적인 신경망과 달리 RNN은 '기억' 기능을 가지고 있어 이전 입력의 정보를 기억하고 이를 후속 출력에 사용할 수 있습니다.

이러한 특성 덕분에 RNN은 자연어 처리(NLP), 음성 인식 및 비디오 분석과 같은 분야에서 뛰어난 성능을 발휘합니다. RNN의 핵심은 순환 구조에 있으며, 이를 통해 시계열 데이터의 의존성을 포착합니다.

그러나 RNN은 기울기 소실 및 폭주 문제와 같은 단점도 존재하여 긴 시퀀스를 처리할 때 성능이 저하될 수 있습니다. 이러한 문제를 해결하기 위해 연구자들은 장단기 메모리(LSTM) 네트워크와 게이트 순환 유닛(GRU)와 같은 더 복잡한 변형을 도입했습니다.

딥 러닝의 급속한 발전과 함께 RNN의 응용 분야는 기계 번역, 감정 분석 및 생성 모델 등으로 계속 확대되고 있습니다. 미래에는 RNN과 그 변형이 시퀀스 데이터를 처리하는 분야에서 인공지능 발전을 지속적으로 이끌 것입니다.