AI-Act - Vorschlag für eine VERORDNUNG DES EUROPÄISCHEN PARLAMENTS UND DES RATES ZUR FESTLEGUNG HARMONISIERTER VORSCHRIFTEN FÜR KÜNSTLICHE INTELLIGENZ (GESETZ ÜBER KÜNSTLICHE INTELLIGENZ) UND ZUR ÄNDERUNG BESTIMMTER RECHTSAKTE DER UNION
AI-Act - Vorschlag für eine VERORDNUNG DES EUROPÄISCHEN PARLAMENTS UND DES RATES ZUR FESTLEGUNG HARMONISIERTER VORSCHRIFTEN FÜR KÜNSTLICHE INTELLIGENZ (GESETZ ÜBER KÜNSTLICHE INTELLIGENZ) UND ZUR ÄNDERUNG BESTIMMTER RECHTSAKTE DER UNION |
| Sektor | Finanz- und Versicherungswesen |
|---|---|
| Branche | Banken |
| Ebene | Transnational |
| Rechtsakt | Entwurf |
BEACHTE: ENTWURFSFASSUNG
Artikel 15 Genauigkeit, Robustheit und Cybersicherheit
(1) Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass sie im Hinblick auf ihre Zweckbestimmung ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.
(2) Die Genauigkeitsgrade und die relevanten Genauigkeitskennzahlen von Hochrisiko-KI-Systemen werden in der ihnen beigefügten Gebrauchsanweisung angegeben.
(3) Hochrisiko-KI-Systeme müssen widerstandsfähig gegenüber Fehlern, Störungen oder Unstimmigkeiten sein, die innerhalb des Systems oder der Umgebung, in der das System betrieben wird, insbesondere wegen seiner Interaktion mit natürlichen Personen oder anderen Systemen auftreten können.
Die Robustheit von Hochrisiko-KI-Systemen kann durch technische Redundanz erreicht werden, was auch Sicherungs- oder Störungssicherheitspläne umfassen kann.
Hochrisiko-KI-Systeme, die nach dem Inverkehrbringen oder der Inbetriebnahme weiterhin dazulernen, sind so zu entwickeln, dass auf möglicherweise verzerrte Ergebnisse, die durch eine Verwendung vorheriger Ergebnisse als Eingabedaten für den künftigen Betrieb entstehen („Rückkopplungsschleifen“), angemessen mit geeigneten Risikominderungsmaßnahmen eingegangen wird.
(4) Hochrisiko-KI-Systeme müssen widerstandfähig gegen Versuche unbefugter Dritter sein, ihre Verwendung oder Leistung durch Ausnutzung von Systemschwachstellen zu verändern.
Die technischen Lösungen zur Gewährleistung der Cybersicherheit von Hochrisiko-KI-Systemen müssen den jeweiligen Umständen und Risiken angemessen sein.
Die technischen Lösungen für den Umgang mit KI-spezifischen Schwachstellen umfassen gegebenenfalls Maßnahmen zur Verhütung und Kontrolle von Angriffen, mit denen versucht wird, den Trainingsdatensatz zu manipulieren („Datenvergiftung“), von Eingabedaten, die das Modell zu Fehlern verleiten sollen („feindliche Beispiele“), oder von Modellmängeln.
- Albrecht/Höroldt, IT-Sicherheit 1/2013, 29 (Datenkonsistenz im Katastrophenfall)
- Amendola/Kraus, DuD 2015, 12 (Prüfung der Sicherheit kreditwirtschaftlicher IT-Anwendungen)
- BT-Drs. 18/4096
- BT-Drs. 18/5121
- Bergt, CR 2014, 726 (Verschlüsselung nach dem Stand der Technik als rechtliche Verpflichtung)
- Bräutigam/Wilmer, ZRP 2015, 38 (Meldepflichten im IT-SiG)
- Dorndorf/ Schneidereit, CR 2017, 21-26 (E-Signing von Verträgen mittels qualifizierter elektronischer Signatur nach eIDAS)
- Feil, IT-Sicherheit 6/2012, 58 (Videoüberwachung, physische Sicherheit)
- Gaycken/Karger, MMR 2011, 3 (Entnetzung, IT-Sicherheit)
- Gehrmann/Klett, K&R 2017, 372 (Umsetzung des IT-SiG)
- Geis, K&R 2002, 59 (Singnaturverordnung)
- Gola, K&R 2017, 145 (Interpretation der DSGVO)
- Grudzien, DuD 2015, 7 (Biometrie im Banking)
- Leisterer/Schneider, K&R 2015, 681 (Staatliches Informationshandeln, IT-Sicherheit)
- Lotz/Wendler, CR 2016, 31 (TOM, Abdingbarkeit von § 9 BDSG für Betreiber von KRITIS)
- Mehrbrey/Schreibauer, MMR 2016, 75 (Ansprüche u. Haftungsrisiken von Unternehmen bei Cyberangriffen)
- Molzen, IT-Sicherheit 4/2012, 44 (Datensicherung in kleinen und mittelst. Unternehmen)
- Roßnagel, NJW 2014,3686 (Sichere elektronische Transaktionen)
- Rudolff, IT-Sicherheit 6/2012, 30 (Unternehmenssicherheit DZ-Bank)
- Schreibauer/Spittka, ITRB 2015, 240 (IT-Sicherheitsgesetz, Anforderungen für Unternehmen)
- Sosna, CR 2014, 825-832 (eIDAS-Verordnung)
- Ulmer/Rath, CCZ 2016, 142 (DS-GVO)
- Verheyen/Elgert, K&R 2015, 440 (Online-Banking, mTAN-Verfahrung, Haftung bei Angriffen)
- Weichert, DuD 2015, 16 (Datenschutz bei Banken)
-
Ergebnis 1
DIN ISO 10008:2015-01
Deutsch: Qualitätsmanagement - Kundenzufriedenheit - Leitfaden für den elektronischen Geschäftsverkehr zwischen Unternehmen und Verbrauchern (ISO 10008:2013); Text Deutsch, Englisch und Französisch
Englisch: Quality management - Customer satisfaction - Guidelines for business-to-consumer electronic commerce transactions (ISO 10008:2013); Text in German, English and French
Ergebnis 2
ISO 19092:2008-01
Deutsch: Bankwesen - Biometrie - Sicherheitsrahmen
Englisch: Financial services - Biometrics - Security framework
Ergebnis 3
ISO TS 12812-2:2017-03
Deutsch: Allgemeines Bankwesen - Mobile Finanzdienstleistungen - Teil 2: Sicherheit und Datenschutz für mobile Finanzdienstleistungen
Englisch: Core banking - Mobile financial services - Part 2: Security and data protection for mobile financial services
Ergebnis 4
ISO 13491-2:2017-03
Deutsch: Bankwesen - Sichere Verschlüsselungsgeräte (Einzelhandel) - Teil 2: Sicherheitsprüflisten für Geräte, die bei finanziellen Transaktionen verwendet werden
Englisch: Financial services - Secure cryptographic devices (retail) - Part 2: Security compliance checklists for devices used in financial transactions