Diskriminierung durch Technische Systeme und Algorithmen

Einleitung

• Sicherheitsschlange am Flughafen von Detroit: Problematik der Körperscanner
  • Diskriminierung von Transgender-Personen
  • Beispiel von Sasha: Unangemessene Behandlung aufgrund nicht-binärer Geschlechtsmerkmale

Künstliche Intelligenz (KI) und Algorithmen

• Einfluss auf das tägliche Leben
  • Nachrichten, Kaufverhalten, Kredite, Partnerschaften
• Kritische Betrachtung algorithmischer Systeme
  • Experiment "Imagenet Roulette" von Trevor Plin
  • Algorithmen und Vorurteile
  • Algorithmen in Polizei und Banken

Fallbeispiel: Häusliche Gewalt und der Algorithmus Viogen

• Viogen in Spanien: Risikoanalysesystem
  • Probleme mit der Risikoeinschätzung
  • Fallbeispiel von Macarena und Ija
  • Kritik an der Abhängigkeit von Algorithmen bei der Polizei

Bildungsungleichheit durch Algorithmen

• Fallbeispiel Frankreich: Parcoursup
  • Studienplatzvergabe beeinflusst durch algorithmische Entscheidungen
  • Herausforderungen für Schüler aus benachteiligten Verhältnissen
  • Geheimhaltung der Auswahlkriterien

Soziale Medien und psychische Gesundheit

• Einfluss von Algorithmen auf Jugendliche
  • Beispiel von Marie: Magersucht
  • Rolle von Youtube-Algorithmen

Arbeitswelt und Überwachungsalgorithmen

• Fallbeispiel Amazon
  • Arbeitsbedingungen und Mitarbeiterüberwachung
  • Einsatz von AI zur Produktivitätssteigerung

Algorithmische Ungerechtigkeit im Sozialwesen

• Fallbeispiel Niederlande: Betreuungsgeldaffäre
  • Diskriminierung durch algorithmische Risikoeinschätzung
  • Konsequenzen für betroffene Familien

Regulierung und Verantwortung

• Notwendigkeit der Regulierung von Algorithmen
  • EU-Gesetzesinitiativen
  • Herausforderungen durch Lobbyarbeit
• Einbindung von Soziologie, Politik und Geschichte in die Entwicklung von AI

Fazit

• Künstliche Intelligenz und Algorithmen sind nicht neutral
• Verantwortung für den Einsatz und die Auswirkungen algorithmischer Systeme liegt bei den Menschen
• Aufruf zu mehr Transparenz und Ethik im Umgang mit Technologie

[Musik] [Applaus]