KI- Vertrauens-, Risiko- und Sicherheitsmanagement (AI TRISM)
Modelle der Künstlichen Intelligenz halten in vielen Lebensbereichen Einzug. Auch im Bereich Verteidigung und Sicherheit ist davon auszugehen, dass KI in Teilbereichen zu einer Effizienzsteigerung führen wird. Um KI in sicherheitskritischen Umgebungen einzusetzen, ist ein Vertrauens-, Risiko- und Sicherheitsmanagement erforderlich. In diesem Zusammenhang wurde der Begriff AI TRiSM (AI Trust, Risk and Security Management) geprägt. Das Seminar führt in das Thema ein und beleuchtet die Aspekte Erklärbarkeit, ModelOps, Detektion & Widerstandsfähigkeit bzgl. gegnerischen Angriffen und Datenschutz. Ergänzend adressiert es die Chancen und Risiken Generativer KI, die durch die Verfügbarkeit von z.B. ChatGPT in den Fokus gerückt ist.