Sprache wähle
Sprache wähle
 
#Cybersecurity

Warum es Zeit ist für eine Regulierung der KI in Europa

Globale Trends
6 Mins.

Sollte künstliche Intelligenz (KI) reguliert werden? Dieser Meinung sind zumindest das EU-Parlament und die EU-Kommission. Sie schlagen in Bezug auf ethische Fragen, Leistung und Vertrauenswürdigkeit rund um die neue Technologie einen koordinierten europäischen Ansatz vor. Unternehmen wie G+D – mit seinen Kernprinzipien Sicherheit, Transparenz, Vertrauen und Technologie – befürworten diese Vorschläge. Es muss ein Gleichgewicht zwischen Risikobegrenzung und der Förderung technologischer Innovationen gefunden werden

 

Am 29. Mai 2020 musste die australische Regierung umgerechnet über 430 Millionen Euro an Australier mit niedrigem Einkommen zahlen. Sie hatte diese zuvor fälschlicherweise beschuldigt, überhöhte Sozialleistungen erhalten zu haben.

Vier Jahre zuvor hatte ein von Services Australia eingerichtetes KI-System im Rahmen des sogenannten Robodebt-Skandals einen Algorithmus verwendet. Er sollte das selbst angegebene Einkommen von Einzelpersonen mit ihrem von einem Algorithmus geschätzten Einkommen abgleichen. Wenn der Algorithmus eine Diskrepanz feststellte, wurde eine automatisch erstellte Zahlungsaufforderung an die betreffende Person geschickt, ohne Prüfung durch einen Menschen. Leider waren Hunderttausende dieser Mitteilungen falsch berechnet worden, was viele Betroffene schockierte und die Regierung am Ende teuer zu stehen kam.

Das „Robodebt“-System verstieß nicht nur gegen geltendes Recht, sondern auch gegen die Grundprinzipien, die den Kern von KI ausmachen. So wussten die beschuldigten Personen nicht darüber Bescheid, dass ein Algorithmus verwendet wurde, und konnten daher den Bescheid nicht  bewerten. Außerdem war ihnen nicht bekannt, welche Daten der Algorithmus verwendet hatte, um zu seiner Entscheidung zu gelangen, wie er die Daten gesammelt hatte oder welche Kriterien er angewendet hatte. Mit anderen Worten: Die Menschen waren gezwungen, ihre Unschuld zu beweisen, ohne Zugriff auf die Daten zu haben, die der Algorithmus für seine Entscheidung genutzt hatte.

Die richtige Balance finden: die Beschränkung von Risiken und das Fördern von Innovationen

Wir sehen immer wieder, dass Algorithmen noch nicht in der Lage sind, mit der Komplexität der menschlichen Umstände mitzuhalten. Das europäische Datenschutzrecht verlangt bereits heute, dass wichtige Entscheidungen, die von Algorithmen getroffen werden, durch Menschen überprüft werden müssen. Zudem erfordern sie eine nachvollziehbare Erklärung der Logik des Algorithmus. Doch wir müssen noch einen Schritt weiter gehen. Wie in dem von der EU im Februar 2020 veröffentlichten Weißbuch umrissen, besteht jetzt ein dringender Bedarf an soliden, einheitlichen Richtlinien für die Lösungen und Dienstleistungen, die gesellschaftlich nützliche KI-Technologie verwenden, zum Beispiel maschinelles Lernen (ML), Robotertechnik, Algorithmen und Advanced Distribution Management Systems (ADMS).

Ein wesentlicher Aspekt bei Entwicklung und Einsatz von KI-Systemen ist ein menschenorientierter Ansatz. Es muss ein Gleichgewicht geben zwischen der Einhaltung von Regeln und der Notwendigkeit für experimentelle Freiräume, Wettbewerb und Innovation. Sicherheitsrichtlinien, Produktzertifizierung und Best Practices müssen strenge Rahmenbedingungen für die Regulierung bilden. Die Regulierung muss für Transparenz, Qualität und Gerechtigkeit sorgen und gleichzeitig allen Menschen die Freiheit gewähren, Innovationen voranzutreiben. In der Zwischenzeit müssen menschliche Entwickler Systeme sorgfältig überwachen und schon im Anfangsstadium auf Fehler überprüfen. Und dies muss in der gesamten EU stattfinden, denn nur dann wird die Gesellschaft KI als eine Ergänzung zu uns Menschen akzeptieren und deren Vorteile anerkennen.

Als ein Unternehmen, das Sicherheitslösungen in regulierten Märkten wie der Automobilbranche, dem Banking sowie den Bereichen Grenzkontrolle und Ausweisdokumente anbietet, unterstützt G+D die Forderung der EU-Kommission nach einer Regulierung der KI. G+D sorgt bereits jetzt dafür, seine KI-Lösungen in Bezug auf Sicherheit und Vertrauenswürdigkeit mit den gleichen hohen Standards auszustatten wie jede andere Sicherheitstechnologie von G+D. Das Unternehmen ist allerdings der Meinung, dass es solider Rahmenbedingungen für eine Gesetzgebung bedarf, um sicherzustellen, dass die Grundrechte aller EU-Bürger geschützt werden.

“Um die Digitalisierung voranzubringen, müssen große Datenmengen mithilfe von KI verarbeitet werden. Es gibt jedoch keine verlässliche KI-Lösung ohne vertrauenswürdige Ressourcen wie Eingabedaten, Algorithmen und Modelle sowie Infrastrukturen“
Dr. Michael Tagscherer
Corporate Technology Officer bei G+D
Ein virtueller Richterhammer, der auf einen virtuellen Block schlägt, als Repräsentation der KI-Regulierung
Eine starke Regulierung muss für Transparenz, Qualität und Gerechtigkeit sorgen und gleichzeitig Freiheit für Innovationen bieten

Natürlich wären unterschiedliche Regulierungsgrade nötig: Dort, wo KI genutzt wird, um die Produktqualität zu verbessern, wird weniger Regulierung gebraucht. Wenn KI aber zum Beispiel für Überwachung verwendet wird oder wenn es um den Zugriff auf sicherheitsrelevante Ereignisse geht, ist eine strikte Regulierung und Zertifizierung nötig. Eine klare Vision, eine gemeinsame Mission und eine zuverlässige Regulierung in Hochrisikobereichen sind wesentliche Komponenten für ein Rahmenkonzept, das KI zukunftstauglich macht. Parallel dazu sollte in Bereichen mit niedrigem Risiko ein freiwilliges europäisches Kennzeichnungssystem eingeführt werden, anhand dessen potenzielle Nutzer – Bürger, Unternehmen und öffentliche Verwaltung – in der Lage sind einzuschätzen, ob Anwendungen auf sicherer, verantwortungsvoller und ethischer KI basieren.

Transparenz, Qualität und Gerechtigkeit

Die Entscheidungsfindung von Algorithmen hat enorm positives Potenzial. Doch wenn Rassismus tief verwurzelt ist oder Gesichtserkennungstechnologie eingesetzt wird, um Bürger nach ihrer Vertrauenswürdigkeit einzustufen, wird sich unweigerlich auch Misstrauen in der Bevölkerung breitmachen. Ein transparenter Ansatz ist unerlässlich: Nur wenn der öffentliche mit dem privaten Sektor zusammenarbeitet, kann eine Vertrauensgrundlage für KI geschaffen werden. KI hat sich bereits als nützlich erwiesen – zuletzt im Jahr 2020, als sie während der Pandemie Personen ermittelt hat, die besonders gefährdet waren, sich mit Covid-19 anzustecken. Algorithmen können in Sekundenbruchteilen mehrere mögliche Ergebnisse in ihre Vorhersage einbeziehen und medizinische Forschungsergebnisse und Diagnosen bereitstellen, die Menschenleben retten können.

“Unser Ansatz vereint die Fähigkeiten der KI so, dass datenschutzbezogene und gesellschaftliche Anforderungen erfüllt und innovative Stärken sowie disruptive Geschäftsmodelle gefördert werden“
Marian Gläser
Co-founder/CEO, brighter AI

Mehr Gerechtigkeit bei der Regulierung wird in der Gestaltung einer sichereren Zukunft eine große Rolle spielen. G+D weiß sowohl um das sehr reale Potenzial von KI, gesellschaftliche Verhältnisse zu verbessern, wie auch darum, dass Regierungen und Unternehmen dieses Potenzial nutzen müssen.

Das in Berlin ansässige Tech-Start-up Brighter AI nutzt KI zum Beispiel, um Daten zu anonymisieren und menschliche Identitäten in öffentlichen Kameraaufnahmen zu schützen. ID now verwendet KI, um ein hohes Maß an Sicherheit bei der Kundenidentitätsprüfung zu gewährleisten. Die Etablierung einer vertrauenswürdigen KI würde aber nicht nur bestehende öffentliche Werte und Grundrechte schützen. Sie könnte europäischen Unternehmen in dem derzeit von China und den USA dominierten Markt auch einen Wettbewerbsvorteil verschaffen. Die Unternehmen könnten sich von globalen Wettbewerbern absetzen, indem sie eine Alternative anbieten, die erwiesenermaßen zuverlässig und gerecht ist.

“Veridos sieht ein großes Potenzial für den Einsatz von maschinellem Lernen in den Bereichen smarte Grenzkontrolle und Sicherheit sowie bei der Überprüfung von Dokumenten, Personen und Identitäten. All diese Themen erfordern ein hohes Maß an Vertrauenswürdigkeit, Datenschutz und ethischem Bewusstsein und all dies sind auch Grundpfeiler der KI-Vision von Veridos“
Silke Bargstädt-Franke
Head of Product Management, Veridos

Um dies zu erreichen, müssen Regulierungen und Richtlinien, die die Vertrauenswürdigkeit von Unternehmen und ihrer Produkte aufrechterhalten und gleichzeitig Raum für Innovationen bieten, dringend standardisiert werden, sowohl in ganz Europa als auch weltweit. Die Entwicklung muss ebenso gefördert wie aktiv mitgestaltet werden, damit sie in die richtige Richtung gelenkt wird.

KI-Lösungen dürfen sich nicht nur auf Effizienz konzentrieren, sondern müssen auch die damit verbundenen Auswirkungen und die sozialen Folgen für Privatleute einbeziehen, wie das Beispiel „Robodebt“ deutlich gezeigt hat. Wir können und müssen auf eine Zukunft hinarbeiten, die darauf abzielt, unsere menschlichen Fähigkeiten zu bereichern. Dabei sollten wir die Möglichkeiten der KI nutzen, um unsere Gesellschaft und unsere Lebensweise zu verbessern.

Diesen Artikel teilen

Abonnieren Sie unseren Newsletter und bleiben Sie immer auf dem Laufenden

Informieren Sie sich über aktuelle Neuigkeiten und Ideen von G+D. Abonnieren Sie unseren Newsletter und wir sicher, dass Sie neue und wichtige Infos sofort erfahren
Anmelden

Kontaktieren Sie uns

G+D ist ein weltweit tätiges Unternehmen: Wir sind immer und überall für Sie da. Wir finden die richtige Antwort auf Ihre Fragen. Füllen Sie einfach das Kontaktformular aus - wir melden uns! Wir freuen uns auf Ihre Anfrage und die gemeinsame Entwicklung von Sicherheitstechnologien und -lösungen, die Ihre Bedürfnisse erfüllen

Here should be a form, apparently your browser blocks our forms.

Do you use an adblocker? If so, please try turning it off and reload this page.

Abonnieren und G+D Artikel anhören

Sie sind unterwegs? Jetzt können Sie noch leichter auf unsere Artikel zugreifen, immer und überall. Einfach abonnieren und anhören