SHIFT happens: Wenn Maschinen Moral brauchen

on 28.04.2023 by Dr. Ramona Greiner, André Hellemeier

FELD M hat in diesem Jahr bereits zum dritten Mal an der „SHIFT – Konferenz zur Digitalen Ethik” teilgenommen, die am 20. April im X-TRA in Zürich/Schweiz stattfand. Nach zwei Jahren der digitalen Ausnahmesituation konnten die rund 220 Konferenzteilnehmenden 2023 wieder live und in Farbe diskutieren. Auf der Konferenz sprachen zahlreiche hochkarätige Redner*innen, die ihr Fachwissen und ihre praxisorientierte Sichtweise zu den drängendsten Ethikthemen der Digitalisierung darlegten; in mehreren Breakout-Sessions konnten Einzelthemen tiefgreifender und interaktiv analysiert werden.

 

Die Intitiatorin und Gastgeberin der SHIFT Cornelia Diethelm (links am Mikrofon), das Abschluss-Panel und die Moderatorin Patrizia Laeri (Mitte). (c) Foto: Louis Rafael Rosenthal.

Die Intitiatorin und Gastgeberin der SHIFT Cornelia Diethelm (links am Mikrofon), das Abschluss-Panel und die Moderatorin Patrizia Laeri (Mitte). (c) Foto: Louis Rafael Rosenthal.

 

 

 

Die Themen der diesjährigen SHIFT-Konferenz

Im Zentrum der Diskussionen standen die Herausforderungen und Chancen, die sich durch die rasanten technologischen Fortschritte der letzten Jahre und Monate ergeben – vor allem, na klar, Artificial Intelligence und Maschinelles Lernen, Robotik und wie/wo Roboter ethisch vertretbar eingesetzt werden können, manipulative Design Patterns auf Websites und Apps, aber auch die Darstellung von Künstlichen Intelligenzen in den Medien oder das immer wichtiger werdende Thema der Face Recognition. Nachhaltigkeit als Wettbewerbsvorteil wurde ebenso thematisiert wie der kontrovers diskutierte AI Act. Der Datenschutz kam selbstredend auch nicht zu kurz, bildet er doch in vielen Unternehmen die Schnittstelle zwischen Corporate Compliance und Corporate Ethics.

Das Programm der SHIFT 2023.

 

 

Die Take-Aways für FELD M

Bei FELD M beschäftigen wir uns seit einigen Jahren mit den Themen der Digitalen Ethik – von AI-Ethik über Data for Good bis hin zu Dark Patterns im Consent Management und zu technischen Lösungen für ein sauberes Data Sharing. Daher war es umso spannender, dass wir unsere Sichtweisen zum Teil bestätigt fanden, zum Teil aber auch mit überraschenden Erkenntnissen konfrontiert wurden.

 

Digital Literacies

AI-Literacy, Data Literacy, Tool-Literacy und Privacy-Literacy sind nur wenige von sehr vielen Literacies, also Kompetenzen, die im 21. Jahrhundert zur Grundausstattung eines jeden Menschen gehören sollten, der in digitalen (oder nicht-digitalen!) Berufen arbeitet. Mit den neuen Technologien kommen wir schließlich alle auf die ein oder andere Weise in Berührung. Wir müssen abschätzen können, welche Folgen der Einsatz sogenannter „Künstlicher Intelligenz“ auf ihren (Arbeits-)Alltag hat. Wir müssen Diagramme und Tabellen lesen können. Das hat nicht zuletzt die Covid19-Pandemie gezeigt. Wir müssen wissen, wie Daten erhoben und genutzt werden, um sie im Beruf entweder als Grundlage für datengetriebene Entscheidungen heranziehen zu können oder um uns im Privaten vor Datenmissbrauch zu schützen. Wir müssen mit verschiedenen Anwendungen umgehen können: verstehen, wie wir sie bedienen sollen, wo sie versuchen, uns hinters Licht zu führen, wie wir Anwendungen dazu kriegen, das zu tun, was wir von ihnen wollen, oder wie wir verhindern, dass genau das Gegenteil passiert. Dazu gehört auch eine gewissenhafte Folgenabschätzung beim Einsatz von digitalen Technologien.

Diese Literacies wurden in den Keynotes immer wieder erwähnt und auch abseits des offiziellen Konferenzprogramms wurde angeregt darüber diskutiert, wie diese Literacies in der Bevölkerung, vor allem aber auch in den Unternehmen, strategisch und konsequent gefördert werden können. FELD M hilft mit seinen Services vielen Kund*innen, datengetriebener zu arbeiten, doch dafür braucht es in den Unternehmen besagte Literacies, die eine data-driven Organisation überhaupt erst ermöglichen – noch bevor man sich für den geeigneten Tool-Stack oder das beste Tracking-Setup entscheidet.

 

Dark Patterns und Deceptive Designs

Spätestens seit dem Auftauchen der Consent-Banner auf allen Websites hatte es jede und jeder schon mit sogenanntem Dark Patterns zu tun – manipulativen Techniken, die es unattraktiv machen, seine Einwilligung zur Datenverarbeitung NICHT zu geben. Durch irreführendes Wording, viele Banner-Ebenen, durch die man sich klicken müsste, um der Verarbeitung zu widersprechen, oder durch optische Hervorhebung der Optionen, die für die Unternehmen gut, die datenschutzaffinen Nutzenden aber eher schlecht sind. (Zu diesen Dark Patterns im Consent Management findet ihr auch einen spannenden Artikel mit Whitepaper auf unserem Blog.) Diese manipulativen Design Patterns finden sich jedoch nicht nur auf den Consent-Bannern, sondern auch bei Reiseportalen, wo regelmäßig angezeigt wird, dass in der ausgewählten Kategorie nur noch ein einziges Zimmer verfügbar ist und Sie daher lieber sehr schnell buchen sollten.

Auf der Konferenz wurde eine Studie vorgestellt, die überraschende Einsichten brachte: Die meisten Menschen nehmen die Manipulation gar nicht als schlecht war, sondern erwähnten beispielsweise lobend, dass beim Online-Shopping ohne eigenes Zutun noch eine kostenpflichtige Transportversicherung in den Warenkorb geschmuggelt wurde. Was die Erkenntnisse dieser Studie bedeuten, darüber wird zu sprechen sein. Klar ist, dass auch hier bei der Digital Literacy angesetzt werden muss, damit Menschen darüber informiert sind, wenn sie gerade manipuliert werden.

 

Datenräume und Data Sharing

Trusted Data Centers, Trusted Data Services, Data Clean Rooms, Datenräume und Data Sharing – wer bei diesen Begriffen glaubt, den Überblick verloren zu haben, ist nicht allein. Die Begriffe tauchen seit Längerem mit zunehmender Häufigkeit auf und eine klare Abgrenzung ist schwierig – auch weil dahinter grundlegend unterschiedliche Konzepte liegen können und zum Teil hochkomplexe Technologien wie Differential Privacy zum Einsatz kommen. Etablierte Use Cases und Beispiele aus der Praxis sind derzeit außerdem noch schwer zugänglich.

Bei FELD M haben wir ein gemeinsames Verständnis der Technologien entwickelt, auch weil sie von unseren Kund*innen dafür eingesetzt werden können, eine schlechtere Datengrundlage durch AdBlocker oder niedrige Einwilligungsraten beim Consent-Management zu kompensieren. Eine ausführliche Aufschlüsselung führt hier zu weit, allerdings haben wir von der Konferenz mitgenommen, dass es zahlreiche öffentliche Bestrebungen in diesem Bereich gibt, die perspektivisch für Standards und die notwendige Sicherheit beim Datenteilen sorgen können. Diese Entwicklungen gilt es weiter zu verfolgen.

 

Unser Kollege André Hellemeier in einer der Breakout-Sessions.

Unser Kollege André Hellemeier in einer der Breakout-Sessions. (c) Foto: Louis Rafael Rosenthal.

Fazit

Wir haben hier nur exemplarisch einige Themen herausgenommen, die unmittelbaren Bezug zu unserer Arbeit bei FELD M haben und zu dem, womit wir uns auch auf strategischer Ebene gerade beschäftigen. Die Konferenz hat Kontakt zu weiteren Expert*innen hergestellt, die sich mit denselben Problemstellungen konfrontiert sehen und hat einen Abgleich der eigenen Ideen und Entwicklungen mit denen anderer Fachleute ermöglicht. Dieser Abgleich mit verschiedenen Perspektiven ist entscheidend, damit sich ein technologisch-ethischer Kompass immer wieder und bestmöglich einnorden kann. Wir werden auch 2024 bei der Shift nach neuen Perspektiven, innovativen Ideen für Altbekanntes und neuen Erkenntnissen suchen, denn „Maschinen“ – im weitesten Sinn – durchdringen und bestimmen mehr und mehr unser Leben und brauchen daher Moral.

 

Wenn Sie Fragen haben oder sich Sparring Partner rund um die Themen Daten-Ethik und Corporate Digital Responsibility wünschen, freut sich unser Team von Ihnen zu hören:

Sie möchten zu diesen Themen am Ball bleiben und mitbekommen, wie wir Digitale Ethik in die Praxis umsetzen? In unseren Newsletter informieren wir (un-)regelmäßig über die unterschiedlichsten Themen, die uns und unsere Kunden bewegen: Hier direkt anmelden!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert