In Zukunft wird NTT Data den KI-Qualitätsrahmen von TÜV SÜD einsetzen, um das Vertrauen in Künstliche-Intelligenz-Anwendungen (KI) zu stärken und sicherzustellen, dass deren Qualität gewährleistet ist.
Die Kooperationsvereinbarung beinhaltet die Verwendung des KI-Qualitätsrahmens von TÜV SÜD sowie entsprechender Analysewerkzeuge. Damit können Kunden von NTT DATA KI-Anwendungen entwickeln, die den Anforderungen des Marktes entsprechen und hohe Qualitätsstandards erfüllen.
Wachsender Markt für KI-Anwendungen
Der KI-Qualitätsrahmen von TÜV SÜD bietet Organisationen eine Orientierung und Tools, um potenzielle Risiken ihrer KI-Anwendungen zu erkennen. Dies beinhaltet Tests, um die Fairness, Erklärbarkeit und Robustheit der Anwendung zu prüfen. Zusätzlich unterstützt der IT-Dienstleister NTT DATA seine Kunden bei der Umsetzung von Maßnahmen zur Verbesserung und Sicherstellung der KI-Qualität sowie bei der Einrichtung eines Machine-Learning-Operations (MLOps)-Kreislaufs. Dieser soll sicherstellen, dass die Leistung der Anwendung im Laufe der Zeit nicht nachlässt.
Der von TÜV SÜD entworfene KI-Qualitätsrahmen bietet Unterstützung für Organisationen, die qualitäts- und marktorientierte KI-Anwendungen entwickeln oder verwenden wollen. Er orientiert sich an den geltenden Vorschriften und Standards weltweit und umfasst Grundprinzipien von hochwertigen KI-Anwendungen. Diese umfassen Aspekte wie Datenmanagement, Robustheit von KI, Lebenszyklus und Qualitätssicherung von KI-Anwendungen, Sicherheit und Zuverlässigkeit sowie Überwachung und Prüfung. Durch Analysewerkzeuge können Tests zur Fairness, Erklärbarkeit oder Robustheit der Anwendung durchgeführt werden.
Risiken von KI werden unterschätzt
Der TÜV-Verband hat in Deutschland eine repräsentative Umfrage zu den gesetzlichen Vorgaben zu KI durchgeführt. Die Ergebnisse sind eindeutig: 91 Prozent der Befragten fordern, dass der Gesetzgeber einen rechtlichen Rahmen für den sicheren Einsatz von KI schaffen sollte. Regulierung und Nutzung von KI solle sich an europäischen Werten orientieren, sagen 83 Prozent.
Allzu oft werden die Risiken der KI unterschätzt. Es kommt häufig zu systematischen Verzerrungen (Bias) von Algorithmen, die zu voreingenommenen Entscheidungen gegenüber bestimmten Personengruppen aufgrund von Alter, Geschlecht oder Herkunft führen und diese benachteiligen. Dieses Problem nicht nur beeinträchtigt das Vertrauen der Kunden, sondern es steht auch im Widerspruch zu den Werten und Gesetzen der EU, was in Zukunft mit hohen Strafzahlungen geahndet werden kann. Der EU AI Act, der voraussichtlich noch in diesem Jahr endgültig verabschiedet wird, zielt darauf ab, die negativen Auswirkungen des KI-Einsatzes zu minimieren. Er legt Regeln und Leitlinien für den Einsatz und die Entwicklung von KI-Systemen fest.
NTT DATA ist ein global agierender Anbieter von Business- und IT-Lösungen und beschäftigt sich bereits seit Jahren mit dem Thema KI. Das Unternehmen unterstützt Firmen dabei, die verschärften EU-Vorschriften zur Entwicklung und Nutzung von KI einzuhalten.
