Ethical AI: Vertrauen schaffen, Risiken managen, Chancen nutzen

Aus unserem Alltag, sowohl beruflich als auch privat, ist AI (Artificial Intelligence) nicht mehr wegzudenken und prägt grundlegend wie Unternehmen arbeiten. AI ist nicht mehr nur Effizienzhebel, sondern entwickelt sich zum strategischen Treiber für Innovation, Geschäftsmodelle und Prozessautomatisierung. (1)  

Diese Fortschritte entwickeln sich in rasantem Tempo. Viele Unternehmen erleben dabei den Druck, mit der Dynamik Schritt zu halten. Um im lokalen und globalen Wettbewerb nicht zurückzufallen, gilt es, AI gezielt in die Organisation zu integrieren. Gleichzeitig dürfen die damit verbundenen Risiken nicht zur Nebensache werden. Die Herausforderung besteht darin, neue Technologien so aufzusetzen, dass sie von Beginn an sicher, verantwortungsvoll und langfristig tragfähig sind. 

Dieser Spannungsbogen zwischen Potenzial und Verantwortung in einem sich rasch verändernden Umfeld zeigt sich besonders deutlich bei Agentic AI. Mit zunehmend autonomen Systemen stehen Unternehmen vor der zentralen Frage, wie Technologien einzusetzen, zu steuern und zu kontrollieren sind, die eigenständig Entscheidungen treffen können. (2)  

Auch Umfragen des MIT bestätigen, dass die daraus resultierende Relevanz vom verantwortungsbewussten Einsatz der Technologien von den Unternehmen erkannt wird: 87% der Führungskräfte erkennen die Bedeutung von Responsible und Ethical AI an. Funktionen wie Datenschutz und Nachvollziehbarkeit wirken inzwischen häufig als starke Produktdifferenzierungsmerkmale. (3) 

Aber auch gesellschaftlich wächst der Druck. Ein Beispiel aus Österreich hat die Debatte früh geprägt: Der vom Arbeitsmarktservice (AMS) entwickelte Algorithmus zur Bewertung von Jobchancen geriet in die Kritik, weil er bestehende Ungleichheiten etwa in Bezug auf Geschlecht und Alter in seinen Antworten reproduzierte und damit zum Teil potenziell diskriminierende Effekte hatte. Der Fall macht deutlich: AI-Systeme sind nicht immer neutral, sondern spiegeln die Daten und Annahmen, auf denen sie basieren. (4) 

Mit dem EU AI Act entstand der weltweit erste umfassende Rechtsrahmen für AI, der Antworten und Leitlinien für den verantwortungsbewussten Umgang mit AI bieten soll. Unternehmen müssen ihre Systeme somit künftig nicht nur technisch beherrschen, sondern auch ethisch und regulatorisch verantworten. 

Vor diesem Hintergrund wird eine Leitfrage zentral: Was genau verstehen wir unter Ethical AI und Responsible AI? Und welche Prinzipien sollten den verantwortungsvollen Einsatz von AI in Unternehmen leiten? 

Was ist Ethical AI?  

Der Begriff Ethical AI lässt sich nicht einheitlich definieren und wird daher in Wissenschaft, Politik und Wirtschaft themenabhängig verwendet. Dies liegt in der Natur der Sache: Ethik selbst ist ein fortlaufender Diskurs über Werte, Normen und deren Anwendung auf konkrete Situationen. (5) 

Für den praktischen Einsatz in Unternehmen verstehen wir unter Ethical AI die systematische Integration ethischer Prinzipien und Werte in Strategie, Design, Entwicklung und Einsatz von AI-Systemen. (5) 

Während akademische Ethik häufig abstrakte Prinzipien diskutiert, geht es im Unternehmenskontext um die Übersetzung dieser Prinzipien in konkrete Entscheidungen:  

• Darf ein Algorithmus diese Variable verwenden oder führt sie zu unzulässiger Diskriminierung?  

• Wer trägt Verantwortung, wenn ein AI System Schaden verursacht: Entwickler, Betreiber oder Anwender? 

• Wie werden vulnerable Nutzergruppen ausreichend geschützt? 

• … 

Diese beispielhaften Fragen vermitteln bereits einen ersten Eindruck davon, wie umfangreich und weitreichend die notwendige Auseinandersetzung mit dem Einsatz von AI in Unternehmen ist.  

Es zeigt auch auf, dass ethische Reflexion keine einmalige Pflichtübung darstellt, sondern einen kontinuierlichen Prozess, der alle Phasen des AI-Lebenszyklus durchdringt. (6) 

Abgrenzung zu verwandten Begriffen 

Zusätzliche Komplexität entsteht durch die oftmals synonyme Verwendung der Begriffe Ethical AI, Responsible AI, Trustworthy AI, AI Governance und Explainable AI. Sie bezeichnen jedoch unterschiedliche Perspektiven auf dasselbe Ziel: den verantwortungsbewussten Umgang mit AI in Unternehmen und der Gesellschaft.  

Ethical AI liefert die normative Grundlage, also die philosophische Reflexion darüber, welche Werte AI-Systeme verkörpern sollen.  

Responsible AI (RAI) übersetzt diese Werte in operative Praxis: Prozesse, organisatorische Verantwortlichkeiten und AI Governance Strukturen. Letztere bilden den institutionellen Rahmen, die ethische Prinzipien verbindlich machen. Hierunter fallen offizielle Gesetzgebungen, wie der EU AI Act bis hin zu unternehmensinternen Policies. 

Explainable AI (XAI) stellt die technischen Mittel bereit, um Transparenz und Nachvollziehbarkeit zu ermöglichen eine notwendige, aber nicht hinreichende Bedingung für ethische AI. 

Trustworthy AI schließlich ist das integrative Ziel, das alle Dimensionen vereint: AI-Systeme, denen Menschen begründet vertrauen können. (7) 

Diese Begriffe stehen nicht in Konkurrenz zueinander, sondern ergänzen sich vielmehr: Ethical AI ohne Responsible AI bleibt abstrakt, während Responsible AI ohne Ethical AI seine normative Orientierung verliert. Beide wiederum bleiben ohne Explainable AI intransparent, und ohne AI Governance fehlt letztendlich die institutionelle Durchsetzungskraft.

Dieses Zusammenspiel verdeutlicht, dass Ethical AI kein singuläres Konzept darstellt, sondern unterschiedliche Perspektiven vereint, die nur in ihrer Gesamtheit wirksam werden. (7)

Die zentralen Prinzipien: Vier Säulen vertrauenswürdiger AI 

Die Europäische Kommission hat mit ihren „Ethics Guidelines for Trustworthy AI" (6) einen Referenzrahmen geschaffen, der vier ethische Grundprinzipien benennt: Achtung der menschlichen Autonomie, Schadensvermeidung, Fairness und Erklärbarkeit. Diese Prinzipien bilden für viele Unternehmen den Ausgangspunkt ihrer ethischen Leitlinien und lassen sich in konkrete Handlungsfelder übersetzen:

Ausblick

Unternehmen, die AI verantwortungsvoll einsetzen wollen, müssen diese Dimensionen ganzheitlich denken und in ihre Strategie, Prozesse und Unternehmenskultur integrieren. Denn vertrauenswürdige AI entsteht nicht allein durch technische Lösungen oder regulatorische Compliance. Sie erfordert vielmehr ein Zusammenwirken von ethischer Reflexion, organisationaler Verankerung, institutioneller Absicherung und technischer Transparenz. Nur wer alle diese Ebenen adressiert, schafft die Grundlage für AI-Systeme, denen Kunden, Mitarbeitende und Gesellschaft langfristig vertrauen können.

Wir unterstützen Sie gerne.

Das PwC-Team begleitet Unternehmen auf dem gesamten Weg von der strategischen Ausrichtung über die Entwicklung passender Governance-Strukturen bis hin zur praktischen Implementierung. Gemeinsam schaffen wir die Grundlage für AI-Systeme, denen Ihre Kunden, Mitarbeitenden und Partner vertrauen können.