Ein Rechtsrahmen für KI-Trainingsdaten
Der Einsatz von künstlicher Intelligenz setzt Lernstrategien voraus, die sich in überwachtes Lernen, unüberwachtes Lernen und Verstärkungslernen einteilen lassen. Für überwachtes Lernen wie für verstärktes Lernen sind Trainingsdaten erforderlich, mit deren Rechtsrahmen sich Dr. Hacker mit diesem Forschungsprojekt befasst.
Es basiert auf der Annahme, dass weniger eine Regulierung von Algorithmen als vielmehr eine Regulierung der genutzten Daten erforderlich ist. Dabei gibt es drei wesentliche Risiken, auf die das Recht adäquat reagieren muss, nämlich Datenqualitätsrisiken, Diskriminierungsrisiken und Innovationsrisiken. Datenqualitätsrisiken betreffen insbesondere die Frage, inwiefern qualitativ minderwertige Trainingsdaten vertragsrechtlich einen Mangel des trainierten Produkts darstellen und inwiefern ihre Nutzung deliktsrechtlich als Verkehrssicherungspflichtverletzung anzusehen ist. Risiken algorithmischer Diskriminierung können sich insbesondere dann ergeben, wenn die Unausgewogenheit der Trainingsdaten zu einem Output führt, das rechtlich geschützte Gruppen signifikant benachteiligt. Die Innovationsrisiken lassen sich aufteilen in Blockierungsrisiken (durch immaterialgüterrechtliche Schutzrechte oder das Datenschutzrecht, die die Nutzung von Daten als Trainingsdaten einschränken) und Kostenrisiken infolge einer Überregulierung.
Ziel des Projekts ist die Entwicklung eines Rechtsrahmens für durch private Akteure genutzte Trainingsdaten, der aber modifiziert in vielerlei Hinsicht auch auf die Verwendung von Trainingsdaten durch öffentliche Institutionen übertragbar sein soll. Das Projekt gliedert sich in drei Hauptteile, innerhalb derer jeweils die drei verschiedenen Risiken – Datenqualitäts-, Diskriminierungs- und Blockierungsrisiken – gesondert adressiert werden; das Kostenrisiko aufgrund einer Überregulierung betrifft übergreifend alle Teilbereiche als Querschnittsfragestellung.
Im ersten Teil werden die Anforderungen an Trainingsdatum de lege lata untersucht, wobei es um Datenschutz-, Anti-Diskriminierungs-, Haftungs- und Immaterialgüterrecht geht. Im zweiten Teil wird geprüft, ob die bestehenden rechtlichen Anforderungen zum Umgang mit den genannten Risiken ausreichen. Im dritten Teil werden risikoadäquate Reformperspektiven entwickelt, die de lege ferenda Risikobewältigung und Innovationsförderung in einen angemessenen Ausgleich bringen und ermöglichen, Anwendungen künstlicher Intelligenz schon im Rahmen des technischen Designs so zu formen, dass elementare rechtliche und gesellschaftliche Normen und Werte gewahrt werden. Dabei liegen die Schwerpunkte auf Qualitäts- und Diskriminierungsrisiken, während hinsichtlich der Innovationsrisiken nur die punktuelle Modifikation der lex lata angeregt wird.