Über Künstliche Intelligenz (KI) haben Sie bestimmt schon allerhand gehört und auch hier im Blog haben wir uns bereits mit KI-Anwendungen in der Abfallbranche beschäftigt. In der gesellschaftlichen Wahrnehmung spielen beim Stichwort „Künstliche Intelligenz“ insbesondere die Themen Bild- und Sprachmodelle (Dall-E, ChatGPT etc.), die Veränderung der Arbeitswelt und sogenannte „Deep Fakes“ (manipulierte Bild- und Videodateien) eine übergeordnete Rolle.
Dabei ist die Künstliche Intelligenz (noch) nicht einmal wirklich „intelligent“. Die heutigen im Umlauf befindlichen KI-Anwendungen basieren auf Mustererkennung und liefern bestenfalls zuverlässige Abbildungen oder Vorhersagen aufgrund der ihnen bekannten Datenlage. Dieses Stadium der KI-Entwicklung wird auch als „narrow AI“ (AI = artificial intelligence) bezeichnet. Die Anwendungen sind derzeit noch auf eine einzige Aufgabe spezialisiert. Gleichwohl beeindrucken die Ergebnisse.
Im engeren Sinne intelligente Anwendungen, auch als „general AI“ bezeichnet, werden wir allerdings voraussichtlich schon in naher Zukunft erleben.
Auf unserem Weg zu diesem neuen digitalen Bewusstsein werden bereits Probleme deutlich, die mit der Entwicklung der Anwendungen einhergehen. Oftmals steht auch hier die ökologische Dimension im Vordergrund. Doch auch in der sozialen Dimension von Nachhaltigkeit gibt es berechtigte Einwände und Bedenken.
Ein kurzer Überblick: Ökologische Herausforderungen in der Lieferkette von KI-Anwendungen
KI-Systeme können dazu beitragen, Ressourcen effizienter zu nutzen und Umweltbelastungen zu reduzieren, beispielsweise durch die Optimierung von Energieverbrauch, Verkehrsflüssen und Produktionsprozessen.
Doch erfordert die Entwicklung und Implementierung von KI-Anwendungen selbst erhebliche Ressourcen, insbesondere in Bezug auf Rechenleistung und Datenverarbeitung. Dies führt zu einem erhöhten Energieverbrauch und einem größeren ökologischen Fußabdruck. Diese negativen Auswirkungen auf die Umwelt können recht einfach minimiert werden, indem z. B. erneuerbare Energien zur Stromversorgung eingesetzt, die Rechenzentren optimiert, schlanke Algorithmen programmiert und ressourcenschonende Hardware hergestellt werden.
Konkrete soziale Probleme in der Lieferkette von KI-Anwendungen
Die Entwicklung und das Training von KI-Modellen erfordern oft große Mengen an Daten, die von Menschen annotiert, gelabelt oder anderweitig verarbeitet werden müssen, um die Modelle zu trainieren. Oftmals werden diese Aufgaben an sogenannte „Data Labelers“ oder „Annotation Workers“ ausgelagert, die häufig zu niedrigen Löhnen oder unter prekären Arbeitsbedingungen arbeiten.
In vielen Fällen werden diese Arbeiten über Crowdsourcing-Plattformen angeboten, auf denen Auftragnehmende aus der ganzen Welt Aufgaben zu niedrigen Entlohnungen ausführen können. Diese Aufgaben können einfache, repetitive Tätigkeiten umfassen, wie das Identifizieren von Objekten in Bildern oder das Transkribieren von Audioaufnahmen.
Niedrige Löhne und die oft unsicheren Beschäftigungsbedingungen für diese Arbeiter*innen führen zu berechtigter Kritik, insbesondere in Bezug auf Fragen der sozialen Gerechtigkeit und Arbeitsrechte.
Soziale Fragestellungen bezüglich der Lieferkette von KI-Anwendungen
Um greifbarer und insbesondere bewusster zu machen, welche weitreichenden sozialen Fragestellungen sich aus dem Einsatz von Künstlicher Intelligenz, je nach Anwendungsfall, ergeben können, hier einige Beispiele:
- Wer entwickelt und programmiert die KI-Anwendungen? Welche Unternehmen, Forschungseinrichtungen oder Entwickler*innen sind an diesem Prozess beteiligt?
- Welche Datensätze werden zur Entwicklung und Schulung der KI-Anwendungen verwendet? Gibt es potenzielle Bias oder Verzerrungen in diesen Datensätzen, die zu unfairen oder ungenauen Ergebnissen führen könnten?
- Welche ethischen Richtlinien und Governance-Strukturen werden bei der Entwicklung und Implementierung von KI-Anwendungen eingehalten? Wie wird sichergestellt, dass die Anwendungen ethisch verantwortlich sind und die Rechte und Bedürfnisse aller Beteiligten respektiert werden?
Best Practices in der Lieferkette von KI-Anwendungen
Zu diesen Fragestellungen wird derzeit aktiv geforscht, was eine klare Beantwortung erstmal nicht möglich macht. Aus zahlreichen Unternehmensbeispielen lassen sich jedoch folgende Best Practices herauskristallisieren:
- Entwicklung und Programmierung: Die Entwicklung und Programmierung von KI-Anwendungen wird oft von Teams durchgeführt, die aus Softwareentwickler*innen, Datenwissenschaftler*innen, Ingenieur*innen und Fachleuten für maschinelles Lernen bestehen. Diese Teams können intern in Unternehmen, in Forschungsinstituten oder externen Entwicklungsstudios arbeiten. Es ist wichtig, dass diese Teams vielfältig zusammengesetzt sind und verschiedene Perspektiven und Erfahrungen einbringen, um potenzielle Bias und Verzerrungen zu minimieren.
- Datensätze und Bias: Die Datensätze, die zur Entwicklung und Schulung von KI-Anwendungen verwendet werden, können aus verschiedenen Quellen stammen, einschließlich öffentlich verfügbarer Datenbanken, firmeneigener Daten und Crowdsourcing-Plattformen. Es ist jedoch wichtig zu beachten, dass diese Datensätze oft Bias enthalten können, die zu unfairen oder ungenauen Ergebnissen führen können. Unternehmen und Entwickler*innen sollten daher Datenqualität und -integrität priorisieren und Bias-Metriken während des Trainingsprozesses implementieren, um mögliche Verzerrungen zu identifizieren und zu korrigieren.
- Ethik und Verantwortung: Bei der Entwicklung von KI-Anwendungen ist es entscheidend, klare ethische Richtlinien und Governance-Strukturen zu implementieren, um sicherzustellen, dass die Anwendungen ethisch verantwortlich sind und die Rechte und Bedürfnisse aller Beteiligten respektiert werden. Dies kann die Einrichtung von Ethikkommissionen, die Entwicklung von ethischen Richtlinien und die Integration von ethischen Überlegungen in den gesamten Entwicklungsprozess umfassen.
Unternehmenspraxis und Fazit
Die Verantwortung von Unternehmen im digitalen Raum wird als „Corporate Digital Governance“ (CDR) bezeichnet. Als eine erste Anlaufstelle für Unternehmen, die eine KI-Anwendung planen und sich vorab informieren möchten oder bereits KI-Anwendungen im Einsatz haben, ist die „CDR-Initiative“ mit ihrem Kodex zu nennen: https://cdr-initiative.de/kodex.
Grundsätzlich werden wir Menschen nur dann langfristig von den Vorteilen Künstlicher Intelligenz profitieren, wenn wir uns frühzeitig Gedanken über die ökologischen und sozialen Faktoren in der Wertschöpfungskette machen. Ebenso wie bei allen anderen Produkten und Dienstleistungen.
Dabei können wir aus Fehlern der letzten Jahrhunderte lernen: Zum ersten Mal in der Geschichte ist der Mensch in der Lage, seine eigene Schöpfung zu programmieren, und dies möglichst im Sinne aller unter Berücksichtigung von ökologischen und sozialen Kriterien, einer umfassenden „Ethik“, zu tun.