Künstliche Intelligenz und algorithmische Entscheidungssysteme (KIE):

Digitalisierung und Fortschritte im Bereich der künstlichen Intelligenz, einhergehend mit einer beispiellosen Datenverfügbarkeit, ermöglichen heute ein bisher unvorstellbares Niveau an automatisiertem Entscheiden. Die gesellschaftlichen Auswirkungen solcher algorithmischen Systeme nehmen mit unglaublicher Geschwindigkeit zu. Während hiermit unzweifelhaft enorme individuelle und gesamtgesellschaftliche Nutzenpotentiale einhergehen, können gleichzeitig für Verbraucher neue Abhängigkeiten und Hemmnisse entstehen. Damit gewinnen Fragen der Verbraucherteilhabe in einer digitalisierten Welt immer stärker an Gewicht. Eine digitale Teilhabe stellt dabei auch eine wesentliche Voraussetzung für eine gesellschaftliche und soziale Teilhabe dar.

Zwei Problemstellungen bilden die Ausgangslage des Forschungsvorhabens: Erstens ist ein hohes Maß an Vertrauen der Verbraucher in die Wirksamkeit algorithmischer Entscheidungssysteme erforderlich, um die Potentiale der Technologie voll auszuschöpfen. In dem Maße, wie die gesellschaftliche Wirkung solcher algorithmischer Entscheidungs- und Unterstützungssysteme zunimmt, wird es immer wichtiger zu verstehen, wann und warum Verbraucher ihr Vertrauen in solche Systeme setzen. Zweitens werden algorithmische Entscheidungssysteme immer dann Verbraucherteilhabe ermöglichen, wenn ihre Nutzung auf Freiwilligkeit beruht und die Entscheidungen neutral erfolgen. Es ist damit ein besseres Verständnis von Verbraucherabhängigkeiten und algorithmischer Diskriminierung erforderlich. Vertrauen, Freiwilligkeit und Neutralität sind somit wichtige Variablen, die maßgeblich beeinflussen, ob Verbraucher an den Potentialen algorithmischer Entscheidungssysteme partizipieren oder aber Teilnahmehemmnisse entstehen, die neue Demarkationslinien einer digitalen Spaltung definieren können.