Auftrag der Datenethikkommission war es, einen Entwicklungsrahmen für Datenpolitik, den Umgang mit Algorithmen, künstlicher Intelligenz (KI) und digitalen Innovationen zu entwickeln. Algorithmen sind bereits heute Bestandteil des täglichen Lebens. Sie errechnen in Navigationsgeräten Wegerouten, sie erkennen Gesichter und Sprache und können beispielsweise benutzt werden, um Verkehrsaufkommen zu berechnen. Die Bandbreite des Einsatzes von Algorithmen reicht damit von medizinischen Anwendungen („Auswertung von Röntgenbilder“) bis zu Themen wie Kreditfähigkeitsprognosen („SCHUFA“), Gesichtsmimik-Erkennung oder Auswertung des Sprech- oder Tippverhaltens zum Erkennen der Stimmung, um so das Kaufverhalten durch gezielte Werbe- oder sonstige Maßnahmen zu beeinflussen. Ihr Nutzen und ihre Risiken für Verbraucherinnen und Verbraucher sind dabei ganz unterschiedlich.
„Der heute veröffentlichte Bericht spiegelt wider, was Verbraucherinnen und Verbraucher schon seit Langem umtreibt: Sie wollen, dass uns Algorithmen das Leben erleichtern, aber nicht unser Leben bestimmen. Dafür ist ein abgestuftes System von Aufsichts- und Kontrollmechanismen, die von bloßen Kennzeichnungs- über Begründungspflichten bis zu Verboten reichen, der richtige Weg“, so Spiegel.
Spiegel sieht sich in dem Kurs bestätigt, den die VSMK 2019 in Mainz eingeschlagen hat: „Wir brauchen eine Kennzeichnungs- und Begründungspflicht beim Einsatz von Algorithmen, damit diese nachvollziehbar und ausreichend kontrollierbar sind. Der Bund muss hier tätig werden, wie er es im Koalitionsvertrag seit Langem angekündigt hat. Er muss endlich die notwendigen Leitlinien für den Schutz des Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und die Sicherung und Förderung des Wohlstands in der Informations- und Wissensgesellschaft schaffen“, so Spiegel, die 2019 auch Vorsitzende der VSMK ist. „Zudem muss er die notwendigen Voraussetzungen gewährleisten, damit die Aufsichtsbehörden die Einhaltung dieser Regelungen auch sicherstellen. Wenn hier die richtigen Entscheidungen getroffen werden, führt das letztlich dazu, dass Verbraucherinnen und Verbraucher den Entwicklungen und Innovationen wieder vertrauen können. Das nützt letztlich auch der Wirtschaft.“