Opexa-KI-Blog Folge 1
Die KI-Verordnung der EU (KI-VO oder auch AI-Act) ist in Kraft, jeder Entwickler, Anwender oder Händler muss damit sehen, welche Auswirkungen es für ihn hat. Das Thema KI ist insgesamt sehr dynamisch und vieles ist noch neu, sowohl vom Fachgebiet als auch von der Regulatorik. Wir wollen daher Schritt für Schritt in Blogs zu einzelnen Themen einen vereinfachten Einstieg bieten.
Den Start der Blog-Reihe macht die KI-Verordnung mit der dort festgelegten „Transparenz von KI-Systemen“.
Lt. Bundesamt für Sicherheit in der Informationstechnik (BSI) ist damit die Bereitstellung von Informationen über den gesamten Lebenszyklus eines KI-Systems sowie über dessen Ökosystem gemeint. Transparenz forciert die Zugänglichkeit zu Informationen, die eine Einschätzung des Systems hinsichtlich unterschiedlicher Bedarfe und Ziele ermöglichen, für alle Interessenträger.
Die Informationen
Sie sind in dem Kontext die Grundlage für das Wissen, welches die Interessenträger benötigen, um zu einer Einschätzung über das KI-System und dessen Ökosystem zu gelangen. Sie müssen offengelegt und bereitgestellt werden, aber auch für den Wissensgewinn relevant und angemessen sein. Für jedes KI-System sollten zudem die konkreten für den Charakter und Anwendungsbereich der KI relevanten Transparenzanforderungen definiert sein, um zu wissen, welche Informationen seitens der Anbieter und Betreiber von bestimmten KI-Systemen mindestens offengelegt werden müssen.
Der Lebenszyklus ist eine Langfristaufgabe und ist gem. KI-VO zu beachten, er umfasst im Bereich KI verschiedene Phasen, die im Folgenden im Kontext des Transparenzbegriffs kurz dargestellt werden.
Der Lebenszyklus der KI
Wir unterscheiden die:
- Planungs- und Konzeptionsphase
- Design-, Entwicklungs- und Validierungsphase
- Inbetriebnahme und Anwendungsphase
- Kontinuierliche Evaluationsphase
- Systemaktualisierungen
- Stilllegung
Jede dieser Phasen hat verschiedene Ziele und Anforderungen. So empfiehlt es sich zum Beispiel, Transparenz schon während der Planung eines KI-Systems mitzudenken. So lassen sich zeitaufwändige Nacharbeiten in späteren Phasen des Lebenszyklus von vorneherein vermeiden. Gleichzeitig werden die beteiligten Akteure von Anfang an mitgenommen. Werden geplante Transparenz- und Reaktionsmaßnahmen von Anfang an mitgedacht, umgesetzt und getestet, spricht man von Transparenz durch Technologiegestaltung („Transparency by Design“).
Nach abgeschlossener Entwicklungs-/Validierungsphase wird das KI-System ausgerollt und in den Produktivbetrieb überführt. Während des Betriebs müssen alle für die Interessenträger relevanten Informationen bereitgestellt werden sowie entsprechende Möglichkeiten für Iterationsschleifen zur Verfügung stehen.
Besonders interessant und wichtig ist die kontinuierliche Evaluationsphase, die nötig ist, da KI-Systeme dynamisch sein können und sich die Anforderungen und/oder die Umgebung stetig verändern können. So muss sich die Evaluationsphase nahtlos an den Start der Anwendungsphase anschließen. Sie läuft bei sich selbst ändernden Systemen im Sinne einer permanenten Überwachung parallel zur Anwendungsphase. Für die Evaluation unerlässlich ist die Rückmeldung der Interessenträger, z.B. bzgl. Schadens-, Not- oder Störfällen. Hierzu müssen entsprechende Reaktions- und Rückkopplungsmöglichkeiten zur Verfügung stehen.
Abhängig von den Erkenntnissen aus der Evaluationsphase können Aktualisierungen erforderlich sein, diese bringen neben Fehlerbeseitigung und Leistungsverbesserung häufig auch neue Funktionen mit sich. Möglicherweise fallen auch bestehende Funktionen weg, werden verändert oder in andere Module verlagert. Hier muss sichergestellt sein, dass bestehende Transparenz- und Reaktionsmaßnahmen durch diese Anpassungsprozesse in ihrer beabsichtigten Funktion nicht eingeschränkt oder unbrauchbar gemacht werden.
Für neue Funktionen müssen entsprechend neue Maßnahmen bereitgestellt werden. Im Falle eines erneuten Trainings der KI-Systeme („Retraining“), werden weitere Maßnahmen für die Sicherstellung der Transparenz relevant. Die Maßnahmen beziehen sich dann beispielsweise auf eventuell neu verwendete Trainingsdatensätze und sind insbesondere für die Themen Diskriminierung/Bias und Geeignetheit von Relevanz.
Und Informationen sind auch bei der Stilllegung nicht ohne Bedeutung im Sinne der Transparenz!
Das KI-Managementsystem
Insgesamt gesehen ist hier schon bei der kurzen Aufzählung ausgewählter Aspekte des Lebenszyklus zu erkennen, dass eine Reihe von Aufgaben zu lösen sind, sowohl initial als auch begleitend zum Lebenszyklus. Die Festlegung des Prozesses, die Sammlung der Informationen, deren Pflege, die Klärung der Verantwortlichkeiten und Dokumentationspflichten sind gut zu überdenken, sie werden die Organisation auf Jahre begleiten und Auswirkungen auf die Mitarbeiter, die Organisation und Kosten haben!
Diese Aufgabe ist anspruchsvoll und kann am besten im Rahmen eines KI-Managementsystems (KIMS) bewältigt werden, hier gibt die neue Norm ISO/IEC 42001 wichtige Hilfestellungen und es wäre nicht wirtschaftlich, wenn jedes Unternehmen für sich selbst eine Lösung analog der Norm entwickelt.
Der Königsweg wäre es freilich, das KIMS in ein integriertes Managementsystem (IMS) einzubetten, bei dem die ISO 9001 sowie 27001 bereits integriert sind. So könnten auch – im IMS bereits dokumentierte – Inhalte und Prozesse wiederverwendet werden und es befinden sich alle Managementsysteme an einem Platz. Das spart Kosten, es können bewährte Verfahren aus dem Qualitätsmanagement verwendet werden, nicht zuletzt ist es ein Vorteil für die damit befassten Mitarbeiter, da sie nicht ständig zwischen verschiedenen Systemen wechseln müssen.
Nur so kann die KI-VO effizient und effektiv umgesetzt werden!
Bei Fragen zu Managementsystemen stehen wir gerne zur Verfügung.
Comentarios