Schaffung vertrauenswürdiger und sicherer künstlicher Intelligenz

Vertrauenswürdige KI kann als eine Kombination aus (i) Fairness, (ii) Robustheit, (iii) Schutz der Privatsphäre, (iv) Sicherheit, (v) Verantwortlichkeit und (vi) Transparenz verstanden werden und ist ein wichtiger Eckpfeiler für den Aufbau zuverlässiger Systeme und für die Benutzerakzeptanz. Wir wenden daher unser fundiertes Wissen im Bereich der IT-Sicherheit an, um sichere und vertrauenswürdige KI-Systeme zu entwerfen.

Forschungsfokus

Trust (Vertrauen) ist eines der Hauptthemen, wenn es um IT-Systeme geht, die in kritischen Umgebungen eingesetzt werden, und einer der grundlegenden Bausteine der IT-Sicherheit. Im Kontext von künstlicher Intelligenz ist Vertrauen ein Schlüsselthema im Zusammenhang mit Systemen, die mit sensiblen (personenbezogenen) Informationen arbeiten oder menschliche Entscheidungsträger*innen bei der Entscheidungsfindung unterstützen, was zu dem Begriff der vertrauenswürdigen künstlichen Intelligenz führt. Daher ist die Schaffung von Vertrauen in solche Systeme auch eine wichtige Komponente, um die Akzeptanz von Benutzer*innen und betroffenen Personen zu gewinnen.

Trustworthy AI (vertrauenswürdige KI) wird oft als die Kombination der folgenden Schlüsseleigenschaften eines datengesteuerten Systems beschrieben:

  • Fairness
  • Robustheit
  • Schutz der Privatsphäre
  • Safety & Security
  • Verantwortlichkeit
  • Transparenz/Nachvollziehbarkeit

Darüber hinaus wird den Datenquellen, die für das Training von Modellen verwendet werden, viel implizites Vertrauen entgegengebracht, so dass auch diese berücksichtigt werden müssen, einschließlich des Schutzes der besagten Quelldaten durch Mittel der Datensicherheit durch gehärtete Systeme und Fingerprinting-Technologien, sowie des Schutzes der Privatsphäre der Benutzer*innen durch fortschrittliche Anonymisierungs- und Aggregationstechnologien.

Um Vertrauen in datengesteuerte Systeme aufzubauen, beziehen wir auch Blockchains mit ein, um hochgradig verteilte Systeme zu konstruieren, die die oben genannten Kriterien erfüllen können, selbst in Anwesenheit von versteckten gegnerischen Entitäten, sowohl Insidern als auch Outsidern. Weitere Arbeiten erstrecken sich auf den Bereich der Explainability (Nachvollziehbarkeit), sowie der Transparenz in Bezug auf die Verwaltung von Quelldaten.

Nicht zuletzt beziehen wir das breite Spektrum an Wissen, das wir im Bereich der IT-Sicherheit gesammelt haben, mit ein, das von einfachen technischen Bereichen wie der digitalen Forensik bis hin zu Fragen der organisatorischen Sicherheit und des Sicherheitsmanagements reicht, um sichere datengesteuerte Systeme bereitzustellen.

Projekte

You want to know more? Feel free to ask!

Institutsleiter Institut für IT Sicherheitsforschung
FH-Dozent
Leiter Josef Ressel Zentrum für Blockchain-Technologien und Sicherheitsmanagement
Department Informatik und Security
Arbeitsplatz: B - Campus-Platz 1
T: +43/2742/313 228 696