Sensible KI: Sichere und vertrauenswürdige mobile KI

Gefördert durch: Bundesministerium für Wirtschaft und Energie (BMWi)

Projektbeteiligte: Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC), Hochschule Darmstadt, Bundesdruckerei GmbH, neXenio GmbH

Zeitraum: März 2021 – Februar 2024

Website: https://www.sensible-ki.de/

Projektbeschreibung:
Motivation:
Methoden der Künstlichen Intelligenz (KI) kommen bereits in einer Vielzahl stetig wachsender heterogener mobiler und eingebetteter Plattformen zum Einsatz. Aufgrund ihrer Heterogenität ist es schwierig, solche Plattformen gegen Cyberangriffe zu schützen und die Manipulation der Machine Learing/Deep Learning-Modelle zu verhindern. Insbesondere gibt es keine einheitlichen Herangehensweisen zur Absicherung der KI-Systeme im mobilen und eingebetteten Kontext, was zu Sicherheitslücken führt.

Ziel:
Ziel des Projektes ist es, KI-Systeme sicher und einfach nutzbar in mobile und eingebettete Endgeräte (z.B. Smartphone, IoT Überwachungskamera, Edge Server) zu integrieren. In dem geplanten Projekt sollen Angriffe auf KI-Systeme durch den Einsatz von bewährten Mechanismen des Trusted Computings (TC) deutlich erschwert bzw. verhindert werden.

Angestrebte Ergebnisse:
1) Bestehende und am Markt präsente mobile und eingebettete KI-Systeme, sowie State-of-the-Art Trusted Computing und softwarebasierte Sicherheitsmechanismen werden geprüft und klassifiziert.
2) Auf Grundlage des Schutzbedarfs werden den funktionalen Anwendungsklassen passende Mechanismen des Trusted Computings und der softwarebasierten Sicherheitsmethoden zugeordnet und Referenzarchitekturen konzeptioniert.
3) Die Referenzarchitekturen werden zur Implementierung von konkreten Prototypen genutzt und die gesammelten Erfahrungen und Erkenntnisse werden zusätzlich in Best-Practice Dokumenten und öffentlich verfügbaren Code-Bibliotheken gesammelt und geteilt.

Erwarteter Impact:
Mehrgewinn an Sicherheit und Privatsphäre für Nutzerinnen und Nutzer, sowie Stärkung des Digitalstandortes Deutschland.