Interpretierbarkeit

Ein Konzept-Aktivierungs-Vektor (CAV) ist eine mathematische Darstellung, die in der KI verwendet wird, um Konzepte in neuronalen Netzwerken zu identifizieren und zu quantifizieren.

Feature attribution identifies the contribution of individual features to a model's predictions.

Interpretability AI konzentriert sich darauf, KI-Modelle für Menschen verständlich zu machen, um Vertrauen und Transparenz zu erhöhen.

An Interpretability Score quantifies how easily a model's predictions can be understood by humans.

Interpretable Machine Learning konzentriert sich darauf, KI-Modelle für Menschen verständlich zu machen.

LIME ist eine Technik zur Interpretation von maschinellen Lernmodellen, indem einzelne Vorhersagen erklärt werden.

Lokale interpretierbare Modelle helfen dabei, KI-Vorhersagen zu erklären, indem sie komplexe Modelle durch einfachere, interpretierbare Modelle approximieren.

Die mechanistische Interpretierbarkeit ist die Untersuchung, wie KI-Modelle Entscheidungen treffen, indem sie ihre internen Prozesse analysieren.

SHAP Values explain how much each feature contributes to a model's prediction.