TU Berlin

Arbeitslehre/Technik und PartizipationKIDD – KI im Dienste der Diversität

Fachgebietslogo

Inhalt des Dokuments

zur Navigation

KIDD – KI im Dienste der Diversität

Lupe

Menschenzentrierte Anwendungen digitaler Systeme, insbesondere künstliche Intelligenz (KI), besitzen großes Potenzial – auch für Diskriminierung: Bewusste und unbewusste Verzerrungen können in den Regeln, die man dem Algorithmus vorgibt, oder in den Daten, die man verwendet, angelegt sein (garbage in – garbage out). Um solche Verzerrungen und das damit verbundene Diskriminierungspotenzial zu vermeiden, ist es wichtig, den Daten-Input sowie den Design-Prozess von Anwendungen digitaler Systeme zu begleiten und zu kontrollieren. Das kann nur dann wirksam gelingen, wenn unterschiedliche Perspektiven berücksichtigt werden und Menschen mit diversen Hintergründen aktiv in den Design-Prozess eingebunden sind und gehört werden. An dieser Stelle setzt das Projekt „KIDD – Künstliche Intelligenz im Dienste der Diversität“ gefördert vom BMAS unter dem Dach der Initiative Neue Qualität der Arbeit (INQA) an. In vier Pilotprojekten, den sogenannten Experimentierräumen, wird ein partizipativer Prozess zur Einführung von KI-Systemen und anderen Software-Anwendungen unter Berücksichtigung ethischer Aspekte und Diversität entwickelt und erprobt.

Ziel ist die Entwicklung eines standardisierten Prozesses und von Kriterien, die es ermöglichen, gerechte, transparente und verständliche menschenzentrierte Anwendungen digitaler Systeme, insbesondere KI, für den betrieblichen Kontext sicherzustellen. Die Entwicklung der Qualitätskriterien und des standardisierten KIDD-Prozesses findet praxisnah bei vier der im Konsortium beteiligten Unternehmen statt. Im Zentrum steht ein Panel der Vielfalt, das die Belegschaft des Unternehmens möglichst divers repräsentiert. Gemeinsam mit Software- und IT-Entwicklern berät das Panel der Vielfalt begleitend und mitentscheidend bei der Anschaffung, Modellierung und Einführung einer menschenzentrierten IT-Anwendung/KI. 

Die Partner:innen bringen ihre Kompetenz aus unterschiedlichen wirtschaftlichen Themenfeldern rund um den Einsatz menschenzentrierter Anwendungen digitaler Systeme ein: vom Onboarding neuer Mitarbeiter:innen, zum Sales Intelligence on Customers über die Bewertung von Reinigungsdienstleistungen bis hin zum Einsatz von KI im HR-Management. Dabei decken die Partner Unternehmensformen vom KMU bis hin zu international tätigen Großkonzernen ab.

Unter Einbeziehung des Panels der Vielfalt aus Mitarbeitenden und Expert:innen wird in jedem der Experimentierräume ein co-creativer Prozess bei der Einführung eines digitalen Systems erprobt. Auf Basis der gemachten Erfahrungen entstehen ein standardisierter „KIDD-Prozess“ sowie Qualitätskriterien, die in anderen betrieblichen Kontexten und Fragestellungen zu digitalen Systemen anwendbar sind. Die begleitende Ableitung eines Qualitätssicherungsverfahrens sorgt für nachhaltige Prozesssicherheit.

Die TU Berlin als Partner im Projektkonsortium übernimmt in Verantwortung eines Arbeitspaketes die wissenschaftliche Begleitforschung und Koordination der externen Evaluation von KIDD und bringt zudem Kompetenzen im Hinblick auf die geplante Verordnung der EU zu vertrauenswürdiger KI mit ein.

Konsortium:

Konsortium: 

Das KIDD-Konsortium vereint 8 Unternehmen und Partnerorganisationen, die das Forschungsprojekt im Forschungszeitraum von drei Jahren bis Oktober 2023 umsetzen.

Die Koordination liegt beim auf Kooperation spezialisierten Berliner nexus Institut für Kooperationsmanagement und Interdisziplinäre Forschung. Der gemeinnützige Verein female.vision e.V. bringt die relevanten Aspekte zu Ethik und Diversität ein und verantwortet die Bereiche Kommunikation und Nachhaltigkeit. Die TU Berlin ist federführend für die wissenschaftliche Evaluation des BMAS-Forschungsprojektes. 

Die Q_PERIOR AG ist eine international tätige Unternehmensberatung an der Schnittstelle von IT und Business mit Sitz in München.
Die bayrische msg systems AG ist ein führender deutscher IT-Dienstleister, der KI unter anderem für seine Data Analytics nutzt.
Die Münchner CHEMISTREE GmbH, die sich algorithmenbasiert, wissenschaftlich fundiert, präferenzbasiert und bedarfsspezifisch auf digitales Matching (bspw. die Bildung von Tandems innerhalb eines Unternehmens) im betrieblichen Umfeld spezialisiert hat.
Die Wehrheimer Heraeus Medical GmbH als Teil eines weltweit führenden
Technologiekonzerns und eines der größten deutschen Familienunternehmen.
Die epsum GmbH aus Hamburg als Unternehmen, das die Gebäudereinigung digital optimiert.

Auftraggeber / Förderung:

Bundesministerium für Arbeit und Soziales unter dem Dach der Initiative Neue Qualität der Arbeit (INQA

Projektlaufzeit

01.10.2021 - 30.09.2023

Ansprechpartner:

Homepage und Social Media

Navigation

Direktzugang

Schnellnavigation zur Seite über Nummerneingabe