Im Rahmen unserer Websites setzen wir Cookies ein. Informationen zu den Cookies und wie Ihr der Verwendung von Cookies jederzeit widersprechen bzw. deren Nutzung beenden könnt, findet Ihr in unserer Datenschutzerklärung.
Die Künstliche Intelligenz steckt in einer Diversity-Krise
Apps AI 3 Min Lesezeit 12 Kommentare

Die Künstliche Intelligenz steckt in einer Diversity-Krise

KI Now, ein Forschungsinstitut, das die sozialen Auswirkungen der künstlichen Intelligenz untersucht, hat gerade eine Studie veröffentlicht. In der diagnostizieren die Experte, dass die KI-Industrie in einer "Diversity-Krise" steckt.

Hier wird sich mit Fragen befasst, die wir uns wahrscheinlich nie zuvor gestellt hatten, wenn wir über die Entwicklung der neuen Technologien nachdenken, aber sollten. Die Studie selbst heißt "Disciminating Systems" und könnt Ihr hier in der englischen Originalversion nachlesen. Nach den Ergebnissen der Studie werden mehrere Probleme bei der Entwicklung der künstlichen Intelligenz ausgemacht.

Geschlechtsspezifischen Diversität und Rasse im KI-Sektor

"Die Ungleichheit in der KI-Branche ist extrem". Achtzig Prozent der "KI-Lehrer" sind Männer, und nur 18 Prozent der Autoren auf relevanten Konferenzen in diesem Bereich sind Frauen. Die KI-Forschungsabteilung von Facebook besteht nur aus zu 15 Prozent aus Frauen, bei Google sind es nur 10 Prozent. Über den Anteil von Transgendern oder anderen Geschlechter-Minderheiten gibt es keine öffentlichen Daten in dem Berufszweig.

Für Farbige ist die Situation noch schlimmer. So sind zum Beispiel nur 2,5 Prozent der Google-Mitarbeiter farbig, während bei Facebook und Microsoft nur 4 Prozent der Mitarbeiter keine weiße Hautfarbe haben. Angesichts der jahrzehntelangen Arbeit und Investitionen zur Veränderung dieser Art von Ungleichheit ist die Situation alarmierend.

AndroidPIT 16 9 shutterstock 622521101
Die KI-Branche wird weitgehend von weißen Männern dominiert. / © AndroidPIT

Natürlich enthält der Bericht auch eine Reihe von Vorschlägen zur Verbesserung des derzeitigen Zustands. Zum Beispiel: Unternehmen könnten ihre Transparenz verbessern, indem sie Berichte über die Arbeit und ihre finanzielle Vergütung veröffentlichen, aufgeschlüsselt nach Rasse und Geschlecht. Die Veröffentlichung von Transparenzberichten über Belästigung und Diskriminierung wird ebenfalls vorgeschlagen.

Doch selbst bei der Darstellung dieser Probleme und Vorschläge bleibt der Ansatz im Bereich des Abstrakten, hat aber sehr klare Konsequenzen im täglichen Leben und im täglichen Umgang mit verschiedenen Technologien. So kann beispielsweise die Dominanz weißer Männer sehr wohl die Weiterentwicklung von Gesichtserkennungs-Software beeinflussen, die wiederum historisch marginalisierte Gruppen betreffen.

Um ein Beispiel zu nennen: Da wäre das Programm zu Bestimmung der sexuellen Orientierung von Menschen mit einem Gesichtserkennungssystem. Ein Experiment, das von Forschern der Stanford University durchgeführt wurde.

Angestellte rufen nach Veränderung

Viele Arbeitnehmer in der Technologiebranche meldeten sich zu Wort, um auf die großen Probleme bei der Entwicklung der künstlichen Intelligenz hinzuweisen. Das wiederum hat die Unternehmen, in denen sie arbeiten, dazu veranlasst, den Einsatz von Werkzeugen zu überarbeiten, die das Potenzial haben Gruppen von Minderheiten zu schaden. 

Amazon-Mitarbeiter haben beispielsweise Manager zu dem Einsatz der Gesichtserkennung im Unternehmen befragt. In jüngster Zeit erhoben sich die Google-Mitarbeiter gegen einen Ethikkontrollausschuss für die KI, da der Präsident der Heritage Foundation teil dieser Gruppe war. Die Heritage Foundation ist für ihre Lobbyarbeit gegen die Rechte von LGBT-Mitarbeitern bekannt. Als Reaktion darauf löste das Unternehmen den Vorstand vollständig auf.

Die Autoren des Berichts schließen mit der Aussage: "Die Diversity-Krise im Bereich der KI ist gut dokumentiert und sehr weitreichend. Die Symptome zeigen sich in der mangelnden Gleichheit bei den Arbeitsplätzen in Industrie und Wissenschaft, in der Ungleichheit bei Stellenangeboten und Beförderungen, in KI-Technologien, in verallgemeinernden Stereotypen und in dem Wiederaufleben des biologischen Determinismus in automatisierten Systemen.

Wie seht Ihr das Ganze? hat jemand von euch schon am eigenen Leib Diskriminierung durch ein System erfahren oder gesehen, das auf künstlicher Intelligenz basiert?

Dank ist diese Seite frei von Werbebannern

Top-Kommentare der Community

  • Sandtiger vor 5 Tagen

    In vielen Fällen der Diskriminierungsdebatte merkt man wirklich die Dekadenz einer Wohlstands- und Überflussgesellschaft.
    Oder wie meine Oma immer sagte:
    Wer keine Probleme hat, der macht sich welche.

  • Jörg W. vor 5 Tagen

    Diese ganze Debatte um das Thema Diskrimminierung finde ich nur noch lächerlich. Es wird immer das Haar in der Suppe gesucht um sich (die darüber berichten ) als Gutmensch darzustellen.
    Natürlich gibt schwerwiegende Fälle von Diskriminierung und dagegen sollte auch vorgegangen werden aber ob in einem Unternehmen mehr Männer als Frauen arbeiten und die besser bezahlt werden
    und dieses bei jeder Firma breittreten muß , ist in meinen Augen lächerlich.
    Kenne einen Mann der als einzige Putzkraft in einer großen Firma (Gebäudereinigungsunternehmen )arbeitet .Dort werden fast nur Frauen eingestellt trotzdem fühlt er sich nicht diskriminiert.

12 Kommentare

Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!

  • 3. Geschlecht?... Wer hat sich nur so ein Mist ausgedacht.... 🙄 Ich sage nicht, daß das Thema 3. Geschlecht einfach nur krank ist. Nein, wer sich nicht sicher ist, was man ist... Muss man akzeptieren.
    Mir ist es eigentlich egal ob wer mir gegenüber steht oder mit wem ich Kontakt habe, egal woher jeder kommt, egal ob männlich oder weiblich, egal welches Alter oder gesundheitlicher Zustand,.... Mir ist so ziemlich alles egal... Ich akzeptiere so ziemlich jeden. Egal ob privat oder Beruflich. Hauptsache man versteht sich, kommt gut miteinander zurecht und dann ist die Welt doch okay.


    • Alles ist dir aber scheinbar nicht egal oder warum regst du dich dann über die Einführung eines dritten Geschlechts auf? (Wer hat sich nur so ein Mist ausgedacht....)
      Schon komisch, immer die gleiche Leier bei den Leuten, "dies ist Mist und jenes ist lächerlich, aber ansonsten bin ich total tolerant".
      Wenn man wirklich tolerant wäre, würde man anderen auch zugestehen, dass sie sich frei entfalten können, selbst dann, wenn man das selbst nicht verstehen kann.


      • Keiner ist immer zu jeder Zeit immer zu 100 % Tolerant. Ich finde ihr habt beide recht. Es gibt zwei Geschlechter, kein Drittes, aber es gibt viele Mischformen und jede Form hat ihre Berechtigung und MUSS zumindest respektiert werden, aber eine Toleranz gegenüber ständigen Anpassungen an jeden Trend kann für viele zu intensiv sein, das verstehe ich auch.


      • Ich rege mich darüber nicht auf.
        Jeder kann sich so falten wie gewünscht und gewollt. Aber das Thema 3. Geschlecht ist nun mal eine Sache die vom Menschen erstellt wurde und nicht von natürlichem Ursprung. Als was soll ein Mensch bezeichnet werden der sich keiner Herkunft bewusst sein will? Ein Mensch der meint, er sei kein Europäer, kein Asiate, kein Amerikaner oder Afrikaner, einer der sich in keiner Rasse wohlfühlt, zu deutsch: nicht von dieser
        Welt. Ist das dann ein Außerirdischer 👽?....
        Zum Thema 3. Geschlecht.... Ja mag sein das sich Menschen nicht als Frau oder Mann sehen,.... Aber als was dann? Ich bin sehr tolerant vielem gegenüber und gern offen für Neues und bin auch sehr angetan von Olivia Jones. Die hab ich mehrmals schon live sehen dürfen und hab großen Respekt vor der Person. Wie sagte sie einst: "Was ich bin? Hund, Katze, Maus, Mann, Frau-keine Ahnung!“
        😅 👌


      • @Karl E
        Warum gestehst du den, wie du sie nennst, "Mischformen" oder anders formuliert: Menschen, die sich keinem der beiden Geschlechter zurodnen können oder wollen, keine eigenes Geschlecht zu?
        Der Begriff "Geschlecht" ist auch nur eine Definitionsfrage, so wie Stuhl, Auto oder Smartphone.
        Also warum nicht auch ein drittes, viertes oder x-tes Geschlecht neu definieren?
        Times are changing ... wenn dem nicht so wäre, würden wir heute noch auf Bäumen sitzen.


      • Ja Mischformen...


  • Als weißer Mann über Diskriminierung von Farbigen schreiben und dabei selbst den Rasse Begriff verwenden?
    Hoppla. Das hat Kabarett-Qualität!

    Aber mal davon abgesehen.
    Die aktuelle Verteilung in den einzelnen Berufszweigen bildet zu einem großen Teil auch immer die vergangene Verteilung in den entsprechenden Ausbildungszweigen ab.
    Im letzten jahr hatten wir in den Informatikstudiengängen gerademal 20% Frauenanteil. Wo sollen dann jetzt 50% Frauenquote im IT-Sketor herkommen?

    Nur weil es (mittlerweile bei uns) offiziell 3 Geschlechter gibt, heißt das nicht automatisch, dass man diese zu gleichen Teilen auch in einzelnen Berufszweigen findet. Dies zu erwarten ist absolut unrealistisch.

    Um das Problem zu lösen, darf man meines Erachtens nach weniger darauf schauen, wie die Diversität in bestimmten Berufen aussieht, man muss sich viel eher auf die entsprechenden Ausbildungen konzentrieren und fragen, warum dort nur xx% Frauen dieses oder jenes Fach studieren / Beruf erlernen. Und die Gründe dafür reichen meist noch weiter in der Bildungskariere zurück.


  • Diese ganze Debatte um das Thema Diskrimminierung finde ich nur noch lächerlich. Es wird immer das Haar in der Suppe gesucht um sich (die darüber berichten ) als Gutmensch darzustellen.
    Natürlich gibt schwerwiegende Fälle von Diskriminierung und dagegen sollte auch vorgegangen werden aber ob in einem Unternehmen mehr Männer als Frauen arbeiten und die besser bezahlt werden
    und dieses bei jeder Firma breittreten muß , ist in meinen Augen lächerlich.
    Kenne einen Mann der als einzige Putzkraft in einer großen Firma (Gebäudereinigungsunternehmen )arbeitet .Dort werden fast nur Frauen eingestellt trotzdem fühlt er sich nicht diskriminiert.


    • In vielen Fällen der Diskriminierungsdebatte merkt man wirklich die Dekadenz einer Wohlstands- und Überflussgesellschaft.
      Oder wie meine Oma immer sagte:
      Wer keine Probleme hat, der macht sich welche.


    • Interessant, dass so ein Blödsinn ausgerechnet immer von denen kommt, die ja bevorzugt werden. Aber da du das ja alles lächerlich findest, denke ich, du bist so ein Gutmensch, der sein Gehalt mit den Kolleginnen teilt, die weitaus schlechter verdienen.


      • Also, in meiner Firma bekommen Männer wie Frauen das gleiche Gehalt.
        Nur wenn es darum geht Stellen zu besetzen, bewerben sich mehr Männer als Frauen.
        Soll ich jetzt einen Einen Einstellungsstop für Männer verhängen damit die Geschlechterverteilung pari pari ist?
        Und wäre dies nicht auch den Männern gegenüber diskriminierend?

        Vielleicht sollte man sich einfach mal damit abfinden, daß Männer und Frauen oft unterschiedliche Interessen haben und sich dies eben auch in den Berufen niederschlägt.
        Männer und Frauen sind nun mal unterschiedlich.
        Das bedeutet nicht das man die einen oder anderen diskriminieren muss.
        Unterschiede sollte man aber nicht einfach so neiderbügeln.


      • Da muß ich Sandtiger rechtgeben. Ich finde z.B. Zwangsquoten auch nicht Zielführend. Ein schönes Beispiel für Willfährige Besetzung ist z.B. unsere Verteidungsministerin. Die hatte Ihr Lebtag nichts mit Millitär und Verteidung zu tun und wurde über Nacht Oberhaupt der Truppe weil es die Politik so wollte. Wenn das Gleichberechtigung ist, dann ist das Kappes !

        Ansonsten sehe ich die niedrige Quote bei Frauen eher darin begründet, das Frauen in einem gewissen Alter andere Prioritäten setzen , Hauptpunkt dabei : Kinder. Ich respektiere es aber absolut wenn Männer sich dazu entschliessen Zuhause zu bleiben und sich um die Familie zu kümmern und Ihrer Frau die Karriere zu ermöglichen und das sollte dann das Umfeld auch zu akzeptieren lernen.

Dank ist diese Seite frei von Werbebannern