mit ihrem Projekt "Ethik der Algorithmen"  versucht die Bertelsmann Stiftung, den Einfluss von automatisierten Entscheidungen auf unser Leben zu erklären. Am heutigen Montag hat sie im Rahmen dieses Projekts, zusammen mit der Stiftung Neue Verantwortung, ein lesenswertes Paper zum Einsatz von Algorithmen im Personalwesen  veröffentlicht.

Dieser Einsatz nämlich finde längst statt, heißt es darin, "von der Analyse des Arbeitsmarktes und seiner Entwicklung über Tools, die die Wechselwilligkeit von potenziellen Mitarbeiter:innen berechnen, bis hin zu automatisierten Lösungen, die Bewerbungen filtern oder gar (Vor-)Auswahlgespräche führen". Mit anderen Worten: Die wenigen Jobs, die uns Software künftig nicht ohnehin wegnimmt, verteilt eine andere Software unter uns.

Allerdings, heißt es in dem Paper von Carla Hustedt und Tobias Knobloch, wüssten nur 35 Prozent der Deutschen, dass Algorithmen bereits bei der Personalauswahl verwendet würden. Ich empfehle die Lektüre deshalb vor allem den anderen 65 Prozent.

Mir gab ein Abschnitt besonders zu denken. Darin geht es um ein "maschinelles Wettrüsten zwischen den Algorithmen der Stellenanbieter und denen der Stellensuchenden" - nämlich dann, wenn Bewerber "ihre Lebensläufe mithilfe von Algorithmen für maschinelle (Vor-)Auswahlsysteme optimieren, was tatsächlich zunehmend der Fall ist." Es ist eine neue Form der Suchmaschinenoptimierung: Bewerber versuchen zu erkennen, wie ein Arbeitgeber-Algorithmus funktioniert, und richten ihre Bewerbung darauf aus, dass sie in dessen Ergebnissen möglichst weit oben landen.

Ralph Müller-Eiselt von der Bertelsmann Stiftung hat mir ein besonders raffiniertes Beispiel genannt: "Bewerber schreiben mit weißer Schrift so etwas wie Harvard-Universität in ihren Lebenslauf" - für das menschliche Auge nicht zu sehen, aber maschinenlesbar.

Bemerkenswert finde ich, dass die Entwickler der Software mit derartigen Täuschungsversuchen die Intransparenz der algorithmischen Entscheidungsfindung rechtfertigen. Im Bertelsmann-Paper heißt es dazu: "Die Angst vor einem möglichen Austricksen ('Gaming') der Systeme ist ein unter Anwenderorganisationen verbreitetes Argument, um die Forderung nach Nachvollziehbarkeit abzuwehren." Sprich: Die Entwickler wollen nicht erklären, wie ihre Recruitingsysteme zu einem Ergebnis kommen, damit niemand eventuelle Schwächen darin erkennt und ausnutzt. Vertrauenswürdiger werden sie dadurch nicht gerade.

Allerdings gäbe es durchaus Ansätze, wie eine gewisse Transparenz für Bewerber geschaffen werden könnte, auch ohne alle Details eines Systems offenlegen zu müssen. Einer davon sind die "Counterfactual Explanations": Sie zeigen, welche Eingaben anders hätten sein müssen, um im Bewerbungsprozess eine Runde weiterzukommen.

Ich frage mich aber auch, ob das "Gaming" von Algorithmen nicht sogar eine gesellschaftlich wünschenswerte Qualifikation wäre. Es ist eine Form des Hackings, die mir jedenfalls erstrebenswerter erscheint als das wehr- und ahnungslose Hinnehmen von automatisierten (Vor-)Entscheidungen über die eigene Zukunft.

Seltsame Digitalwelt: Meine Nerd-Folgschaft

Kürzlich sind mir die Ideen ausgegangen, welches Buch ich als nächstes lesen könnte. Also habe ich meine Twitter-Follower nach ungewöhnlichen Romanen gefragt . Das hat vor zwei Jahren schon einmal vorzüglich geklappt, und auch dieses Mal wurde ich nicht enttäuscht. Nach wenigen Stunden hatte ich eine Liste von zehn Büchern, die für mich tatsächlich infrage kommen.

Gleichzeitig hat mir die Umfrage vor Augen geführt, wie hoch der Nerd-Anteil unter meinen Followern sein muss. Deutlich mehr als die Hälfte aller Vorschläge waren Science-Fiction-Romane - oder irgendwas von Terry Pratchett. Das fand ich geradezu klischeehaft. Vielleicht habe ich mich auch deshalb erst einmal für "Freshwater" von Akwaeke Emezi  entschieden - und es nicht bereut.

App der Woche: "Bring You Home"
getestet von Tobias Kirchner