Letzte Woche war ich auf dem Event Ethics of Algorithms, veranstaltet von der Forschungsstelle Internet & Menschenrechte. Leider konnte ich nur Dienstagmorgen dabei sein. Aber so habe ich zumindest die Keynote von Zeynep Tufekci mitbekommen. Hier ein paar Gedanken zu dem Vormittag.
Talking about ethics of algorithms apparently makes for lots of awkward laughter in the room #EOA2015— Johannes Kleske (@jkleske) March 10, 2015 Das war ein sehr seltsames Phänomen. Jedes Mal, wenn Tufekci eine besondere Einsicht hervor hob, lachten zwei, drei Personen im Raum peinlich berührt auf. Kann es sein, dass wir dazu tendieren zu lachen, wenn wir nicht wissen, wie wir sonst reagieren sollen? Wahrscheinlich produziert ein Thema wie die Ethik der Algorithmen besonders viele solcher Momente, weil wir einfach noch keinen Weg gefunden haben, die Erkenntnisse zu verarbeiten.
#eoa2015 – On the gambling industry research: The Addiction Algorithm: An interview with Natasha Dow Schüll http://t.co/jYJZYu9Uyk— Johannes Kleske (@jkleske) March 10, 2015
Tufecki hat kurz die großartige Forschungsarbeit von Natasha Dow Schüll erwähnt, die in Las Vegas untersucht hat, wie Casinos auf den Flow-Zustand der Spieler optimieren. Ihre Erkenntnisse lassen sich auf viele andere Aspekte des (digitalen) Lebens übertragen. Z.B. das endlose Scrollen des Facebook Newsfeeds oder des Tumblr Dashboards.
Not a single reference to Person of Interest at #eoa2015 so far. #EthicsOfAlgorithms— Johannes Kleske (@jkleske) March 10, 2015
Kaum eine (Technologie-)Diskussion mit Igor in diesen Tagen, in denen er keinen Bezug auf die TV-Serie Person of Interest nimmt. Es geht um Algorithmen und Machine Intelligence. Matt Jones meinte neulich in einem Vortrag, dass er die Serie inzwischen mehr als Dokumentation sieht. Ich hol‘ dann mal nach…
Q for the #EOA2015 panel: How do we move from algorithm anthropomorphization to algorithm ethnology?— Johannes Kleske (@jkleske) March 10, 2015
Das Problem der „Vermenschlichung der Maschinen“ habe ich ja neulich schon mal angeschnitten. Gerade im Kontext der technologiebedingten Arbeitslosigkeit begegnet es mir immer wieder. Das Problem ist aber nicht nur, dass wir die Maschinen vermenschlichen und dabei gerne die Menschen hinter den Maschinen übersehen. Vielmehr sorgen Entwicklungen wie Machine Learning dafür, dass wir in der Tat nicht mehr genau verstehen wie Maschinen Entscheidungen fällen. Zumindest soweit ich das gerade verstehe. Deswegen braucht es vielleicht so etwas wie Algorithmus Ethnologie.
Whoever it was who first suggested to hear it as “dada” whenever someone says “data,” you've broken me forever #eoa2015— Johannes Kleske (@jkleske) March 10, 2015
Irgendein Sprecher mit deutschem Akzent auf der Transmediale ist für diesen Witz verantwortlich.
In Die Granulare Gesellschaft @chkucklick suggested an institution similar to financial auditors to audit algorithms #EOA2015— Johannes Kleske (@jkleske) March 10, 2015
Ich fand das eine interessante Idee von Kucklick. Aber wie Daniel Kirsch richtig anmerkte: „How does it even work to audit a 40 million parameter neural net?“
It's fascinating how much this discussion on ethics is dependent on our in-depth technological understanding of algorithms #eoa2015— Johannes Kleske (@jkleske) March 10, 2015
This is already true for many more parts of public discourse than we're willing to admit. #EOA2015
— Johannes Kleske (@jkleske) March 10, 2015<
p>Es war wirklich faszinierend zu sehen, wie die Qualität der Diskussion schwankte, je nachdem wie konkret oder abstrakt sie sich zu den konkreten technologischen Details von Algorithmen und Machine Learning bewegte. Kein Wunder, dass sich unsere Gesellschaft so schwer damit tut, diese Themen zu greifen. Gleichzeitig gibt es aber keine Alternative. Das hat dieses Symposium gut gezeigt. Zutiefst technologielastige Themen wie Algorithmen gehören von ihrer Relevanz in die Mitte der gesellschaftlichen Diskussion.
Mein Fazit: Als nächstes die Details von Machine Learning deutlich besser verstehen.
Wer Algorithmen besser verstehen will, dem empfehle ich zum Einstieg die Wired-Kolumne von tante: