Erklärbare KI optimiert die Grenzkontrolle

Die Welt öffnet sich allmählich. Das Reisen ist jetzt wieder möglich. Doch mit dem steigenden Passagieraufkommen drängt sich zunehmend die Frage nach einem geeigneten Sicherheitsmanagement an den Außengrenzen auf. Wie aber lässt sich eine schnelle Abfertigung an der Grenze für Reisende gewährleisten, die keinerlei Risiko bedeuten, und gleichzeitig sicherstellen, dass auffällige Personen akkurat identifiziert werden?

Hier kommt KI ins Spiel. Die fortschrittliche Technologie ermöglicht das Erfassen und die Sichtung riesiger Datenmengen, um möglicherweise riskante Verhaltensmuster zu erkennen.

Aber der Einsatz künstlicher Intelligenz im öffentlichen Bereich bringt nicht nur Vorteile, sondern auch Herausforderungen mit sich. In Europa gibt es sowohl eine rechtliche als auch eine moralische Verpflichtung zu einem gewissen Maß an Transparenz in der Entscheidungsfindung. Der Einsatz von künstlicher Intelligenz geht also mit Forderungen der „Erklärbarkeit“ einher.

Konkret heißt es in den vorgeschlagenen Verordnungen¹: „Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend transparent ist, damit die Nutzer die Ergebnisse des Systems angemessen interpretieren und verwenden können.“ Die Vorschriften legen einen Risikorahmen für KI fest. Dieser reicht von „minimalem Risiko“, wenn KI beispielsweise in Spamfiltern oder Videospielen eingesetzt wird, bis hin zu „unannehmbarem Risiko“, wenn KI dafür entwickelt wurde, den freien Willen der Menschen zu manipulieren. Der Einsatz von KI bei Grenzkontrollen gilt als „hohes Risiko“ und unterliegt strengen Auflagen.

Erklärbare künstliche Intelligenz

KI-Systeme, deren Ergebnisse und Vorgänge für die Nutzerschaft oder Entwicklungsteams nicht nachvollziehbar sind, werden auch als Black Box KI bezeichnet. Dies ist sehr typisch für Deep-Learning-Modellierung: Der Begriff „deep“ bezieht sich auf die Anzahl der Schichten, durch die Daten von der Eingabe in die Ausgabe umgewandelt werden. Bei komplexen und tiefen neuronalen Netzen mit vielen Daten und Vorgängen lässt sich nicht nachvollziehen, wie ein Algorithmus zu einem Ergebnis kam.

Erklärbare KI bzw. Explainable AI (XAI) beschreibt das Prinzip, die Funktions- und Arbeitsweise sowie die erzielten Resultate einer künstlichen Intelligenz für die Anwenderinnen und Anwender so verständlich wie möglich zu gestalten. Grundlage dieses KI-Ansatzes bilden die drei Prinzipien: Transparenz, Interpretierbarkeit und Erklärbarkeit. Gerade wenn es um das Vertrauen der Öffentlichkeit geht, müssen sie erfüllt werden.

Die Technologie befindet sich jedoch noch im Entwicklungsstadium. Daher gibt es verschiedene XAI-Ansätze. Einer dieser Ansätze konzentriert sich darauf, sicherzustellen, dass einer der drei folgenden Aspekte gut verstanden wird und dass die Prozesse, mit denen die KI-Systeme zu einer Entscheidung kommen, einem Endnutzer oder einer Endnutzerin verständlich gemacht werden können.

Erklärbare KI-Systeme an der Grenze

Künstliche Intelligenz kann bei Grenzkontrollen vielseitig eingesetzt werden.

Neben der bereits bekannten Gesichtserkennung gibt es zahlreiche weitere Anwendungsfälle für KI, wie zum Beispiel für die Betrugserkennung oder das Wissensmanagement.

KI-Systeme zur Betrugserkennung zielen darauf ab, auffällige Personen, basierend auf mehreren Datenpunkten, zu identifizieren, darunter ihre historischen Reisemuster, generelle Vorabinformationen und Interpol-Datensätze.

Wissensmanagement ist hingegen für die Analyse von Big Data und beim Forecasting relevant. Lässt sich beispielsweise die Anzahl der Reisenden genau abwägen, kann die Zahl der Grenzschutzbeamtinnen und -beamten, die für den Tag benötigt werden, genau ermittelt werden.

Bei der Grenzkontrolle kommt ebenfalls Computer Vision, ein Zweig der KI, zum Einsatz. Computer Vision bzw. computerbasiertes Sehen bezeichnet Systeme, die Objekte in digitalem Stand- und Bewegtbildmaterial erkennen und entsprechend verarbeiten. Gerade für die biometrische Gesichtserkennung, Betrugserkennung, Erkennung von verdächtigem Verhalten und die Erfassung von allein gelassenem Gepäck eignet sich die Technologie besonders gut.

Dies setzt jedoch ein hohes Maß an Vertrauen in das KI-System voraus. Aus diesem Grund kommt es auf Prozesse und Mechanismen an, mit denen der Entscheidungsprozess des KI-Modells nachvollziehbar wird. Denn dies fördert das Vertrauen in das System und zeigt auf, wie und warum das System zu seinem Ergebnis gelangt ist.

Bereitstellung erklärbarer KI

Potenzielle Anwendungsfälle zu ermitteln, ist eine Sache. Aber erklärbare Methoden für KI-Modelle zu entwickeln, die in der realen Welt eingesetzt werden können, ist alles andere als leicht. Wenn ein KI-Modell von einem Testszenario in die reale Welt übergeht, müssen grundsätzlich neue Faktoren berücksichtigt werden. Es kann sehr viel schiefgehen, gerade wenn Black-Box-Technologie im Spiel ist. Deshalb können Tools und Methoden zur Erklärung des KI-Modells sehr hilfreich sein. Der Chatbot Tay ist ein wegweisendes Beispiel dafür: 2016 lancierte Microsoft seinen Chatbot Tay. Das KI-Sprachprogramm sollte sich anhand von Kommentaren junger Menschen ein Bild von ihren Sprachgewohnheiten machen. Doch es dauerte nicht allzu lange, bis der Chatbot Beleidigungen und Verschwörungstheorien von sich gab.²

Wenn erklärbare KI in sensiblen Bereichen, wie zum Beispiel der Grenzsicherheit, eingesetzt wird, ist es wichtig, dass das KI-Modell auf die spezifischen Anforderungen zugeschnitten ist. Die Technologie muss entsprechend trainiert werden. Sie muss lernen, die Arbeit so akkurat wie möglich zu erledigen. Aber nicht nur KI, sondern auch die Mitarbeitenden, die sie anwenden, brauchen Training. Sie müssen wissen, warum ein KI-System zu einem bestimmten Ergebnis kam. Denn nur dann können sie wissen, welche weiteren Schritte erforderlich sind. Es reicht zum Beispiel nicht aus, wenn das KI-System eine Person als besorgniserregend kennzeichnet. Wenn die Mitarbeitenden nicht wissen, warum die Person besorgniserregend ist, können sie nicht angemessen handeln.

Qualität ist der Schlüssel

KI-Modelle sind in den letzten Jahren immer zuverlässiger geworden. Ihre Fehlerquote konnte stark reduziert werden. Der Einsatz zuverlässiger Technologie wird zahlreiche und auf vielfältige Weise spürbare Vorteile mit sich bringen: von einer kostengünstigeren und genaueren Bearbeitung von Visumanträgen bis hin zu schnelleren Passkontrollen an Grenzen. Im Hinblick auf die Grenzkontrolle und -sicherheit werden die in den verschiedenen Bereichen verwendeten XAI-Technologien insgesamt das Erlebnis sowohl für Reisende als auch für das Sicherheitspersonal enorm verbessern.

Ob der Einsatz von künstlicher Intelligenz jedoch erfolgreich sein wird, hängt in jedem Kontext von der Qualität des eingesetzten Modells ab. Darüber hinaus muss das Modell auf die spezifischen Aufgaben, die es erfüllen soll, zugeschnitten sein. Höchste Vorsicht ist geboten, um unbeabsichtigte Folgen zu vermeiden.

Veröffentlicht: 11.01.2022