Seminar "Fair AI"

Information
Classification: 
Master Informatik/Wirtschaftsinformatik/IST
Credits: 
5
Exam: 
Anwesenheit in allen Veranstaltungen, Vortrag & Diskussion
Regular Dates: 
Donnerstag, 9.45 IZ 161
Kickoff: Donnerstag, 22.10.2020 9.45 IZ 161
Contents
Contents: 

Aktuelles

  • Verfügbare Seminarplätze: 8

Inhalt

Künstliche Intelligenz, wie z.B. Machine- oder Deep Learning, erobern Wirtschaft und Industrie im Sturm. In Zuge dessen werden mehr und mehr Entscheidungen vom Menschen an datengetriebene Algorithmen abgegeben. Klassische Beispiele hierfür finden sich in der Versicherungsbranche, bei Sprachassistenten oder der Bewerberauswahl. Wie aber kommen diese Algorithmen zu einer Entscheidung? Eine erste Intuition ist oft, dass Algorithmen per Konstruktion objektiv und daher automatisch "fair" sind. Ausgehend von diesem Gedanken untersuchen wir im Seminar "Fair AI" die folgenden Themengebiete:

  • Fairness-Metriken (stochastische Eigenschaften, Kausalität nach Pearl)
    • Wie kann Fairness definiert und gemessen werden? Welche Limitationen gibt es?
  • Data Preprocessing: Bias Mitigation
    • Grundidee: Algorithmen sind fair, wenn sie auf fairen Daten lernen.
  • Fairness by Construction
    • Können Algorithmen per Konstruktion fair sein?
  • Post-hoc explanations
    • Können Entscheidungen von Algorithmen im Nachhinein anhand der Input-Daten erklärt oder belegt werden?

Es ist vorgesehen pro Themenblock jeweils zwei Seminarplätze anzubieten.

 

Themen & Literatur

  1. Group Fairness

    1. Hardt, M., Price, E., & Srebro, N. (2016). Equality of opportunity in supervised learning. Advances in Neural Information Processing Systems, 3323–3331. https://arxiv.org/pdf/1610.02413.pdf
    2. Friedler, S. A., Scheidegger, C., & Venkatasubramanian, S. (2016). On the (im)possibility of fairness. im, 1–16. http://arxiv.org/abs/1609.07236
  2. Individual Fairness

    1. Dwork, C., Hardt, M., Pitassi, T., Reingold, O., & Zemel, R. (2012). Fairness through awareness. ITCS 2012 - Innovations in Theoretical Computer Science Conference, 214–226. https://doi.org/10.1145/2090236.2090255
    2. Ilvento, C. (2019). Metric Learning for Individual Fairness. http://arxiv.org/abs/1906.00250
  3. Causal Fairness

    1. Kusner, M., Loftus, J., Russell, C., & Silva, R. (2017). Counterfactual fairness. Advances in Neural Information Processing Systems, 2017-Decem(Nips), 4067–4077. https://arxiv.org/pdf/1703.06856.pdf
    2. Salimi, B., Rodriguez, L., Howe, B., & Suciu, D. (2019). Interventional fairness: Causal database repair for algorithmic fairness. Proceedings of the ACM SIGMOD International Conference on Management of Data, 793–810. https://doi.org/10.1145/3299869.331990
  4. Pre-processing algorithms

    1. Hajian, S., & Domingo-Ferrer, J. (2013). A methodology for direct and indirect discrimination prevention in data mining. IEEE Transactions on Knowledge and Data Engineering, 25(7), 1445–1459. https://doi.org/10.1109/TKDE.2012.72
    2. Calmon, F. P., Wei, D., Vinzamuri, B., Ramamurthy, K. N., & Varshney, K. R. (2017). Optimized pre-processing for discrimination prevention. Advances in Neural Information Processing Systems, 2017-December(Nips), 3993–4002. http://papers.nips.cc/paper/6988-optimized-pre-processing-for-discrimination-prevention.pdf
  5. In-processing algorithms

    1. Zemel, R., & Swersky, K. (2013). Learning Fair Representations. 28. https://www.cs.toronto.edu/~toni/Papers/icml-final.pdf
    2. Zafar, M. B., Valera, I., Rodriguez, M. G., & Gummadi, K. P. (2017). Fairness constraints: Mechanisms for fair classification. Proceedings of the 20th International Conference on Artificial Intelligence and Statistics, AISTATS 2017, 54. https://arxiv.org/pdf/1507.05259.pdf
  6. Post-processing

    1. Hardt, M., Price, E., & Srebro, N. (2016). Equality of opportunity in supervised learning. Advances in Neural Information Processing Systems, 3323–3331. https://arxiv.org/pdf/1610.02413.pdf
    2. Kamiran, F., Karim, A., & Zhang, X. (2012). Decision theory for discrimination-aware classification. Proceedings - IEEE International Conference on Data Mining, ICDM, 924–929. https://doi.org/10.1109/ICDM.2012.45
Materials
  Date Topic Material
       
1 22.10.2020 Kick-Off

Kickoff.pdf

Presentation_Aspects.jpg

2 29.10.2020 Talk Analysis I

Stoiber about Transrapid
Steve Jobs (IPhone launch)

Benjamin Zander (classical music)

Günther Oettinger on Globalisation

Clifford Stoll ... on everything

Seminarkriterien

3 05.11.2020 Talk Analysis II Hans Rosling (boxes and population growth)

Lawrence Lessig (telling stories)

Simon Sinek (what, how, why)
4 12.11.2020 Talk Analysis III

James Geary (metaphorically speaking)

Brian Greene (free talk plus videos)

Merlin Mann (sad panda)

Merlin Mann (Flocked Up)

5 19.11.2020 Präsentationsübungen 1: Rethorics Slides.pdf
6 26.11.2020 Präsentationsübungen 2: Associations Slides.pdf
7 03.12.2020 Präsentationsübungen 3: Suggestions Slides.pdf
8 10.12.2020 Übungsvorträge  
9 17.12.2020 Übungsvorträge  
10 14.1.2021 Q&A  
11 21.1.2021 Vortrag: Group Fairness  
12 28.1.2021 Vortrag: Individual Fairness  
13 4.2.2021 Vortrag: Pre-processing  
14 11.2.2021    

 

AttachmentSize
Kickoff.pdf543.88 KB
IMG_20201022_110730.jpg2.65 MB
Rhetoric1.pdf1.56 MB
Rhetoric2.pdf1.2 MB
Rhetoric3.pdf1.28 MB