Warum es Zeit ist für eine Regulierung der KI in Europa

Am 29. Mai 2020 musste die australische Regierung umgerechnet über 430 Millionen Euro an Australierinnen und Australier mit niedrigem Einkommen zahlen. Sie hatte diese zuvor fälschlicherweise beschuldigt, überhöhte Sozialleistungen erhalten zu haben.

Vier Jahre zuvor hatte ein von Services Australia eingerichtetes KI-System im Rahmen des sogenannten Robodebt-Skandals einen Algorithmus verwendet. Er sollte das selbst angegebene Einkommen von Einzelpersonen mit ihrem von einem Algorithmus geschätzten Einkommen abgleichen. Wenn der Algorithmus eine Diskrepanz feststellte, wurde eine automatisch erstellte Zahlungsaufforderung an die betreffende Person geschickt, ohne Prüfung durch einen Menschen. Leider waren Hunderttausende dieser Mitteilungen falsch berechnet worden, was viele Betroffene schockierte und die Regierung am Ende teuer zu stehen kam.

Das „Robodebt“-System verstieß nicht nur gegen geltendes Recht, sondern auch gegen die Grundprinzipien, die den Kern von KI ausmachen. So wussten die beschuldigten Personen nicht darüber Bescheid, dass ein Algorithmus verwendet wurde, und konnten daher den Bescheid nicht bewerten. Außerdem war ihnen nicht bekannt, welche Daten der Algorithmus verwendet hatte, um zu seiner Entscheidung zu gelangen, wie er die Daten gesammelt hatte oder welche Kriterien er angewendet hatte. Mit anderen Worten: Die Menschen waren gezwungen, ihre Unschuld zu beweisen, ohne Zugriff auf die Daten zu haben, die der Algorithmus für seine Entscheidung genutzt hatte.

Die richtige Balance finden: die Beschränkung von Risiken und das Fördern von Innovationen

Wir sehen immer wieder, dass Algorithmen noch nicht in der Lage sind, mit der Komplexität der menschlichen Umstände mitzuhalten. Das europäische Datenschutzrecht verlangt bereits heute, dass wichtige Entscheidungen, die von Algorithmen getroffen werden, durch Menschen überprüft werden müssen. Zudem erfordern sie eine nachvollziehbare Erklärung der Logik des Algorithmus. Doch wir müssen noch einen Schritt weiter gehen. Wie in dem von der EU im Februar 2020 veröffentlichten Weißbuch umrissen, besteht jetzt ein dringender Bedarf an soliden, einheitlichen Richtlinien für die Lösungen und Dienstleistungen, die gesellschaftlich nützliche KI-Technologie verwenden, zum Beispiel maschinelles Lernen (ML), Robotertechnik, Algorithmen und Advanced Distribution Management Systems (ADMS).

Ein wesentlicher Aspekt bei Entwicklung und Einsatz von KI-Systemen ist ein menschenorientierter Ansatz. Es muss ein Gleichgewicht geben zwischen der Einhaltung von Regeln und der Notwendigkeit für experimentelle Freiräume, Wettbewerb und Innovation. Sicherheitsrichtlinien, Produktzertifizierung und Best Practices müssen strenge Rahmenbedingungen für die Regulierung bilden. Die Regulierung muss für Transparenz, Qualität und Gerechtigkeit sorgen und gleichzeitig allen Menschen die Freiheit gewähren, Innovationen voranzutreiben. In der Zwischenzeit müssen menschliche Entwickler Systeme sorgfältig überwachen und schon im Anfangsstadium auf Fehler überprüfen. Und dies muss in der gesamten EU stattfinden, denn nur dann wird die Gesellschaft KI als eine Ergänzung zu uns Menschen akzeptieren und deren Vorteile anerkennen.

Als ein Unternehmen, das Sicherheitslösungen in regulierten Märkten wie der Automobilbranche, dem Banking sowie den Bereichen Grenzkontrolle und Ausweisdokumente anbietet, unterstützt G+D die Forderung der EU-Kommission nach einer Regulierung der KI. G+D sorgt bereits jetzt dafür, seine KI-Lösungen in Bezug auf Sicherheit und Vertrauenswürdigkeit mit den gleichen hohen Standards auszustatten wie jede andere Sicherheitstechnologie von G+D. Das Unternehmen ist allerdings der Meinung, dass es solider Rahmenbedingungen für eine Gesetzgebung bedarf, um sicherzustellen, dass die Grundrechte aller EU-Bürgerinnen und -Bürger geschützt werden.

Transparenz, Qualität und Gerechtigkeit

Die Entscheidungsfindung von Algorithmen hat enorm positives Potenzial. Doch wenn Rassismus tief verwurzelt ist oder Gesichtserkennungstechnologie eingesetzt wird, um Bürger und Bürgerinnen nach ihrer Vertrauenswürdigkeit einzustufen, wird sich unweigerlich auch Misstrauen in der Bevölkerung breitmachen. Ein transparenter Ansatz ist unerlässlich: Nur wenn der öffentliche mit dem privaten Sektor zusammenarbeitet, kann eine Vertrauensgrundlage für KI geschaffen werden. KI hat sich bereits als nützlich erwiesen – zuletzt im Jahr 2020, als sie während der Pandemie Personen ermittelt hat, die besonders gefährdet waren, sich mit Covid-19 anzustecken. Algorithmen können in Sekundenbruchteilen mehrere mögliche Ergebnisse in ihre Vorhersage einbeziehen und medizinische Forschungsergebnisse und Diagnosen bereitstellen, die Menschenleben retten können.

Mehr Gerechtigkeit bei der Regulierung wird in der Gestaltung einer sichereren Zukunft eine große Rolle spielen. G+D weiß sowohl um das sehr reale Potenzial von KI, gesellschaftliche Verhältnisse zu verbessern, wie auch darum, dass Regierungen und Unternehmen dieses Potenzial nutzen müssen.

Das in Berlin ansässige Tech-Start-up Brighter AI nutzt KI zum Beispiel, um Daten zu anonymisieren und menschliche Identitäten in öffentlichen Kameraaufnahmen zu schützen. ID now verwendet KI, um ein hohes Maß an Sicherheit bei der Kundenidentitätsprüfung zu gewährleisten. Die Etablierung einer vertrauenswürdigen KI würde aber nicht nur bestehende öffentliche Werte und Grundrechte schützen. Sie könnte europäischen Unternehmen in dem derzeit von China und den USA dominierten Markt auch einen Wettbewerbsvorteil verschaffen. Die Unternehmen könnten sich von globalen Wettbewerbern absetzen, indem sie eine Alternative anbieten, die erwiesenermaßen zuverlässig und gerecht ist.

Um dies zu erreichen, müssen Regulierungen und Richtlinien, die die Vertrauenswürdigkeit von Unternehmen und ihrer Produkte aufrechterhalten und gleichzeitig Raum für Innovationen bieten, dringend standardisiert werden, sowohl in ganz Europa als auch weltweit. Die Entwicklung muss ebenso gefördert wie aktiv mitgestaltet werden, damit sie in die richtige Richtung gelenkt wird.

KI-Lösungen dürfen sich nicht nur auf Effizienz konzentrieren, sondern müssen auch die damit verbundenen Auswirkungen und die sozialen Folgen für Privatleute einbeziehen, wie das Beispiel „Robodebt“ deutlich gezeigt hat. Wir können und müssen auf eine Zukunft hinarbeiten, die darauf abzielt, unsere menschlichen Fähigkeiten zu bereichern. Dabei sollten wir die Möglichkeiten der KI nutzen, um unsere Gesellschaft und unsere Lebensweise zu verbessern.

Veröffentlicht: 24.11.2020