April 2025

Content Hub: Für mehr Vielfalt in der KI

Die KI ist so gut, wie das für ihr Training zur Verfügung stehende Datenmaterial. Diese Daten reproduzieren oftmals in der analogen Welt zu beobachtende Vorurteile und Diskriminierungen. Das hat vor allem für Frauen Nachteile. Auch Minderheiten sind oft unterrepräsentiert. Es muss aktiv gegengesteuert werden, damit die KI nicht „automatisch lernt“, zu diskriminieren. Um Gerechtigkeit und Transparenz beim Einsatz digitaler Systeme in Organisationen sicherzustellen, müssen proaktiv Qualitätskriterien und Prozesse aufgesetzt werden.

Forschungsansätze wie das Projekt „KIDD – KI im Dienste der Diversität“ untersuchen, wie KI menschenzentrierter und diverser gestaltet werden kann. In dem auf drei Jahre angelegten Projekt konnte gezeigt werden, dass, um Diskriminierung zu vermeiden, bereits die zugrundeliegenden Datensätze divers sein müssen. Auch das Entwicklerteam sollte den Kriterien der Diversität gerecht werden. Für eine erfolgreiche Implementierung von KI im Unternehmen ist es ausgesprochen wichtig, bereits zu Beginn unerwünschte Stereotypen und Biases zu verhindern. Nur wenn Diversität von Anfang an berücksichtigt wird, kann Diskriminierung effektiv unterbunden werden.

KI menschenzentrierter und diverser gestalten – viel Spaß beim Eintauchen:

• Die Website des Projekts KIDD:
  https://kidd-prozess.de/
• Acht Thesen für diskriminierungsfreie KI:
  https://background.tagesspiegel.de/digitalisierung-und-ki/briefing/acht-thesen-fuer-inklusive-und-diskriminierungsfreie-ki-entwicklung
• Diskriminierung per Algorithmus erschwert Gleichstellung:
  https://www.boeckler.de/de/boeckler-impuls-vom-algorithmus-diskriminiert-47283.htm
  [letzter Abruf aller Links: 28.11.2024]*Prompt: A group of diverse people with men and women with different nationalities in a modern university room, a futuristic robot is listening and writing down notes on a laptop. Human retouch: Retusche Robotergesicht und Hände.