Die polizeiliche Praxis zeigt, dass der Einsatz von Künstlicher Intelligenz (KI) einerseits die Ermittlungen
beschleunigen und vereinfachen kann, andererseits aber auch verschiedene Risiken für den
Ermittlungserfolg beinhaltet. So können unausgewogene Trainingsdatensätze, in denen beispielsweise
demographische Häufigkeiten verzerrt abgebildet sind (Bias), zu fehlerhaften Ergebnissen von KI-Lösungen
führen. Ein weiteres Risiko besteht in der fehlenden Nachvollziehbarkeit und mangelnden Transparenz der
Ergebnisse komplexer KI.
Die Europäische Kommission hat jüngst eine Verordnung für vertrauenswürdige KI vorgeschlagen. Die
darin erhobenen Anforderungen an Genauigkeit, Nachvollziehbarkeit und Robustheit von KI-Systemen
werfen aber erhebliche wissenschaftlich-technische Fragen auf: Wie können Anforderungen technisch
realisiert, rechtlich-ethisch sichergestellt und objektiv gemessen werden?
Deshalb ist das wissenschaftlich-technische Gesamtziel von VIKING die Erforschung und Implementierung
von Lösungen zur Messung und Optimierung der Genauigkeit (Debiasing), Nachvollziehbarkeit
(Erklärbarkeit) und Robustheit (Angriffsfestigkeit) zum Einsatz vertrauenswürdiger KI in der polizeilichen
Anwendung. Das Teilvorhaben „Erklärbarkeit vertrauenswürdiger KI-Sprachmodelle für den transparenten
Gebrauch bei Sicherheitsbehörden zur Textklassifikation“ widmet sich der Erforschung vertrauenswürdiger
KI-Methoden zur Textklassifikation und komplementiert somit die Forschung zur Gesichts- und
Sprechererkennung sowie zur Objektdetektion der anderen Teilvorhaben von VIKING. Das
wissenschaftlich-technische Ziel dieses Teilvorhabens ist vor allem die Erforschung und Implementierung
von Lösungen zur Herstellung von Nachvollziehbarkeit (Erklärbarkeit) bei der KI-basierten Textauswertung
in der polizeilichen Anwendung, um letztendlich mehr Transparenz beim Anwender zu schaffen.