TopAIToolsTopAITools

Glossary

0-9
1-shot learning5G + AI7D representation0-shot learning3D convolution4D data2-stage detector6DoF pose estimation8-bit quantization9-layer network
A
AGI / Artificial General IntelligenceAlgorithmAttentionAutoencoderArtificial Intelligence (AI)
B
BackpropagationBERTBiasBoostingBatch Normalization
C
ChatbotClassifier / ClassificationClusteringCNN / Convolutional Neural NetworkCross-Validation
D
Data AugmentationDeep LearningDeepfakeDeterministic ModelDiscriminative Model
E
Ensemble LearningEmbeddingEncoderEpochExplainable AI (XAI)
F
Feature ExtractionFine-tuningFusion / Multimodal FusionFoundation ModelForward Propagation
G
Gradient DescentGAN / Generative Adversarial NetworkGroundingGenerative AIGraph Neural Network (GNN)
H
Hidden LayerHallucinationHeuristicHyperparameterHierarchical Model
I
Intelligence Amplification / AugmentationImbalanced DataInstance / SampleInstruction tuningInterpretability
J
JAXJitteringJoint EmbeddingJSONL / JSON-linesJuxtaposition
K
Knowledge DistillationKL Divergence (Kullback–Leibler Divergence)K-means ClusteringK-Shot LearningKernel Trick
L
Loss FunctionLSTM / Long Short-Term MemoryLearning RateLarge Language Model (LLM)Latent Variable
M
Machine Learning (ML)Meta-learningModelMulti-head AttentionMultimodal / Multimodality
N
Novelty Detection / Anomaly DetectionNLP / Natural Language ProcessingNLU / Natural Language UnderstandingNormalizationNeural Network
O
Online LearningObjective FunctionOne-hot EncodingOptimizerOverfitting
P
ParameterPolicy / Reinforcement Learning PolicyPoolingPretrainingPrompt
Q
Quality EstimationQueue / BufferQ-learningQuantizationQuery
R
Representation LearningReinforcement Learning (RL)Retrieval Augmented Generation (RAG)RegularizationRNN / Recurrent Neural Network
S
SamplingSelf-Supervised LearningSupervised LearningSequence ModelingSoftmax
T
Training DataTokenizerTransfer LearningTransformerTuning / Hyperparameter Tuning
U
Unsupervised LearningUncertainty EstimationUniversal Approximation TheoremU-NetUnderfitting
V
Vector EmbeddingVanishing / Exploding GradientValidation SetVariational Autoencoder (VAE)Vision Transformer (ViT)
W
Weak SupervisionWeight DecayWhitening / Whitening TransformationWord EmbeddingWorkflow
X
X-axis / feature axisXOR problemXAI / Explainable AIXLMXLNet
Y
Y-axis / feature axisY-transform / YUVYAGNI (You Aren't Gonna Need It)Yield (model yield / throughput)Yoga of AI
Z
Zero-shot Learning / Zero-shot inferenceZero-centric / Zero-bias initializationZ-score NormalizationZero-gradient phenomenonZygosity in augmentation

O que é XAI / IA Explicável

A IA Explicável (XAI) é um campo crucial que visa tornar os processos de decisão dos modelos de inteligência artificial transparentes e compreensíveis. À medida que a IA é aplicada em vários setores, especialmente em áreas de alto risco como saúde, finanças e direção autônoma, garantir a interpretabilidade e transparência dos modelos torna-se essencial.


O funcionamento do XAI normalmente abrange várias técnicas, como visualização de modelos, análise de importância de características e geração de regras de decisão. Essas técnicas ajudam os usuários a entender como os modelos chegam a resultados específicos. Por exemplo, LIME (Explicações Locais de Modelos Invariantes) e SHAP (Explicações Aditivas de Shapley) são métodos comumente utilizados que fornecem explicações para modelos complexos de caixa-preta.


O XAI tem uma ampla gama de aplicações. No setor de saúde, os médicos podem entender melhor as recomendações de diagnóstico por meio de modelos de IA explicáveis, levando a decisões mais informadas. Na indústria financeira, reguladores exigem que os provedores de serviços financeiros possam explicar suas decisões de crédito para garantir equidade e transparência.


Embora as vantagens do XAI sejam evidentes, também existem desafios. Por exemplo, alguns modelos complexos (como aprendizado profundo) são inerentemente não-lineares e difíceis de fornecer explicações simples. Além disso, a simplificação excessiva pode resultar na perda de informações importantes; portanto, é necessário encontrar um equilíbrio apropriado ao alcançar a interpretabilidade.


No futuro, o desenvolvimento do XAI estará intimamente ligado aos avanços tecnológicos. À medida que as demandas por transparência e equidade da IA continuam a crescer, a pesquisa e aplicação no campo do XAI receberão cada vez mais atenção. Empresas e organizações também precisam seguir estruturas éticas adequadas para garantir que seus sistemas de IA sejam não apenas eficientes, mas também aceitos pelos usuários e pela sociedade.