Geschrieben am 31.07.2020 von:
Der technische Fortschritt und auch die Entwicklungen im Bereich der künstlichen Intelligenz (KI) schreiten immer weiter voran. Bislang ist noch nicht absehbar, in welcher Richtung diese neue und teilweise unbekannte Technologie sich entwickeln wird. Rechtliche Rahmenbedingungen für die Nutzung von KI gibt es bislang nicht. Nun plant die EU-Kommission eine gesetzliche Regelung.
Whitepaper der EU-Kommission
Am 19.02.2020 wurde ein Whitepaper zur KI veröffentlicht, das als Diskussionsgrundlage Vorschläge zur Regelung künstlicher Intelligenz beinhaltet. Von Unternehmensseite ist eine zu enge Regelung nicht gewünscht, um mögliche zukünftige Entwicklungen nicht schon zu früh zu unterbinden. Im Gespräch sind daher weitere sektorspezifische Regelungen, wie aus dem Whitepaper ersichtlich. Fakt ist jedoch, dass Regelungen zur KI zwingend erforderlich sind. Nach Ansicht des Landesbeauftragten für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz sollen Innovation und Datenschutz als Strukturelement und Gestaltungsoption verstanden werden. Es müsse ein Grundvertrauen der Bürger in die künstliche Intelligenz geschaffen werden. Denn nur wenn bekannt ist, was künstliche Intelligenz überhaupt macht, könne man sich darauf einlassen.
Verantwortlichkeit für künstliche Intelligenz
Im Rahmen der Entwicklung von KI wird es gerade in großen Konzernen darauf ankommen, die Verantwortlichkeiten beim Einsatz dieser neuen Technologie festzulegen. Speziell die Punkte „privacy by design“ (Datenschutz durch Technikgestaltung) und „privacy by default“ (Datenschutz durch datenschutzfreundliche Voreinstellungen) werden in diesem Zusammenhang eine bedeutende Rolle einnehmen. Mit dem Bereich Datenschutz durch Technikgestaltung haben sich bereits die unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder in ihrem Erfahrungsbericht zur Anwendung der DS-GVO auseinandergesetzt und hier problematisiert, inwiefern auch Hersteller von Hard- und Software mit in die Verantwortung genommen werden sollen. Die Vorgaben „privacy by design“ und „privacy by default“ richten sich zwar hauptsächlich an die Hersteller. Eine gesetzliche Verpflichtung zur Berücksichtigung dieser Vorgaben existiert aber bislang nicht. Dies führt regelmäßig dazu, dass sich die Nutzer von Hard- und Software mit Problemen konfrontiert sehen, die sie nicht immer selbst beheben können. Die Aufsichtsbehörden schlagen daher vor, auch die Hersteller in die datenschutzrechtliche Verantwortlichkeit aufzunehmen. Ob dieser Voraschlag übernommen wird, bleibt abzuwarten.
Die Frage der Verantwortlichkeit wird ebenfalls im Whitepaper zur KI aufgegriffen. Die Kommission schlägt in Bezug auf die rechtlichen Verpflichtungen bei Nutzung von KI vor, dass „in einem künftigen Rechtsrahmen die einzelnen Verpflichtungen jeweils dem Akteur/den Akteuren obliegen, der/die am besten in der Lage ist/sind, potenzielle Risiken zu bewältigen“ (S. 27). Es bleibt abzuwarten, wie dieser Rechtsrahmen zukünftig konkret ausgestaltet wird.
Muss die Reichweite der künstlichen Intelligenz eingeschränkt werden?
Die Möglichkeiten der künstlichen Intelligenz sind bislang noch nicht ausgereizt, sondern stecken noch in den Kinderschuhen. Dennoch kann künstliche Intelligenz bereits schon jetzt mehr, als vermutet wird. Die anonymisierte Verarbeitung personenbezogener Daten ist vom Anwendungsbereich der DS-GVO ausgenommen, da bei einer Anonymisierung in der Regel kein Personenbezug mehr hergestellt werden kann. Einige Tests und Studien haben aber gezeigt, dass dies nicht immer der Fall sein muss und auch nur anhand anonymisierter Daten weitreichende Erkenntnisse gewonnen werden können. Beispielsweise konnte anhand einer anonymisierten Auswertung von Taxidaten der genaue Wohnort von Nachtclubbesuchern bestimmt werden, sodass dadurch Rückschlüsse auf die konkreten Besucher des Nachtclubs geschlossen werden konnten. Gerade unter Berücksichtigung dieser Erkenntnisse ist fraglich, ob die Verarbeitung anonymisierter Daten weiterhin so unproblematisch gesehen werden kann wie bisher.
Künstliche Intelligenz geht aber noch weiter und ermöglicht es sogar, durch den Stromverbrauch und die Helligkeitsstufen des Fernsehprogramms auf das konkrete Programm zu schließen. Die Ergebnisse können dann für eine Analyse des Fernsehverhaltens genutzt werden. Die Technik ist auch schon in der Lage, dass ein auf dem Tisch liegendes Handy anhand der Vibrationen, die eine Computertastatur erzeugt, eindeutig den geschriebenen Text erkennen und wiedergeben kann. Diese Beispiele zeigen, dass künstliche Intelligenz zwar durchaus hilfreich, aber auch beängstigend sein kann. Eine Regelung der künstlichen Intelligenz, gerade auch unter Transparenzgesichtspunkten, wird daher wohl für deren zukünftigen Einsatz unerlässlich sein.