Der Verbraucherzentrale Bundesverband (VZBV) fordert strengere Kontrollen von Algorithmen. "Es muss unser Ziel sein, dass Mensch und Maschine geltendes Recht einhalten und unsere Rechte auch durchgesetzt werden", sagte VZBV-Vorstand Klaus Müller der Wochenzeitung "Die Zeit". Das gelte umso mehr in einer Welt lernender Algorithmen.
Software, die selbständig dazulerne und sich irgendwann nicht mehr an Gesetze halte, sei keine Science Fiction mehr. Lernende Maschinen könnten Entscheidungen eines Tages womöglich anhand unerwünschter oder verbotener Kriterien wie Geschlecht, Herkunft, Alter oder Vermögen treffen. Der VZBV fordere daher, die Intensität der Regulierung an das Gefahrenpotenzial eines Algorithmus zu knüpfen. Die schärfste Regulierung sollte im Gesundheitsbereich gelten – beispielsweise für die Steuerungssoftware von Pflegerobotern. Weil diese nicht nur große Mengen sensibler Daten sammeln, sondern Patienten auch verletzen oder ihnen falsche Medikamente verabreichen können, soll ihre Software noch vor dem Einsatz geprüft und zugelassen werden. "Damit sollen schwere Schäden von Verbrauchern abgewendet werden", so Müller.
