DAT419 KI: Demokratie, Macht und Regulierung (Angela Müller)

Sprecher: Willkommen bei den Datenschutz-Plaudereien.

Sprecher: Aktuelles, Bemerkenswertes und Persönliches rund um den Datenschutz und verwandte Themen.

Martin Steiger: Guten Tag, mein Name ist Martin Steiger. Willkommen bei den Datenschutz-Plaudereien.

Martin Steiger: Heute sind wir zu Gast am Forum KI-Recht in Zürich. Eine ganz spannende Veranstaltung.

Martin Steiger: Wer uns im Podcast zuhört, kennt diese Veranstaltung bereits. Wir haben auch schon darüber gesprochen.

Martin Steiger: Heute aber mit einem Spezialgast aus dem Bereich KI, Dr. Angela Müller,

Martin Steiger: Geschäftsleiterin von AlgorithmWatch, einer NGO, auch in der Schweiz.

Martin Steiger: Angela, herzlich willkommen.

Martin Steiger: Sag doch mal, wer Du bist und was AlgorithmWatch ist?

Angela Müller: Ja, herzlichen Dank für die Einladung.

Angela Müller: Ich freue mich sehr, heute hier zu sein,

Angela Müller: sowohl im Podcast als auch als Gast an der Veranstaltung.

Angela Müller: Ich bin Angela, ich bin die Geschäftsleiterin.

Angela Müller: Wir sind eine NGO in Zürich, wir haben auch eine Schwesterorganisation in Berlin, und setzen uns dafür ein, dass Technologie uns allen zugutekommt und nicht nur ein paar wenigen.

Martin Steiger: Technologie, heute natürlich der Fokus auf KI. Was beschäftigt Dich bei der KI im Moment schwerpunktmässig?

Angela Müller: Uff.

Angela Müller: Wir werden ja überrollt von all den Nachrichten.

Angela Müller: Die kommen ja mit einer gewissen Regelmässigkeit, auch über das Sommerloch.

Angela Müller: Das ist sicher, weil diese Technologie so wahnsinnig wichtig ist,

Angela Müller: aber vielleicht auch, weil diese PR-Abteilungen so wahnsinnig gut sind.

Angela Müller: Ich glaube, es gibt ganz verschiedene Themen.

Angela Müller: Was uns aber schon begleitet – was ich sagen würde – ist so der rote Faden,

Angela Müller: der uns begleitet in unserer Arbeit bei verschiedenen Themen,

Angela Müller: ist halt schon, dass nicht unbedingt die Technologie im engeren Sinne,

Angela Müller: sondern wer steht dahinter.

Angela Müller: Und diese riesige Machtkonzentration bei einigen wenigen Firmen – über unsere Grundrechte, Demokratie, Gesellschaft – die macht uns eigentlich, oder die macht mir persönlich vielleicht eher Angst als die Technologie im eigentlichen Sinne, die ich eigentlich ziemlich faszinierend finde.

Martin Steiger: Nennen wir doch diese Unternehmen beim Namen.

Angela Müller: Ja, genau. Wir kennen sie alle. Es sind eine Handvoll Unternehmen.

Angela Müller: Ich würde sagen: Google, Microsoft und so weiter.

Angela Müller: Dann kommen natürlich die Plattformen, Suchmaschinenanbieter, Meta.

Angela Müller: Dann kommen die Infrastrukturanbieter, also Nvidia und so weiter.

Angela Müller: Das ist ja inzwischen ein ziemliches Geflecht, muss man sagen.

Angela Müller: Die arbeiten ja alle sehr eng zusammen, investieren ineinander und so weiter.

Angela Müller: Es sind dann am Schluss doch eine Handvoll – ich glaube – mit so einer Peripherie noch von anderen.

Martin Steiger: Du hast gesagt, die beeinflussen uns stark. Das macht ja am ehesten Angst.

Martin Steiger: Wie wirkt sich das aus?

Angela Müller: Der Bereich, wo ich das am eindrücklichsten finde und der uns vielleicht am meisten als Organisation beschäftigt, ist der Bereich der Meinungsbildung und der Demokratie. Ich glaube, wir erleben ja alle tagtäglich, dass sich unsere Informationswelt ziemlich verändert.

Angela Müller: Das eine ist, dass wir mit einer riesigen Flut von Inhalten konfrontiert werden – tagtäglich.

Angela Müller: Es wird zunehmend schwierig, sowohl persönlich als auch gesellschaftlich, Inhalte wirklich noch wahrzunehmen, die relevant sind.

Angela Müller: Weil wir auch einfach wahnsinnig viele Katzenvideos sehen und sonstigen AI-Slop.

Angela Müller: Und wie sich das alles verändert – einfach diese Flut von synthetischen Inhalten.

Angela Müller: Ja, als Gesellschaft brauchen wir Zugang zu verlässlichen Informationen.

Angela Müller: Als demokratische Gesellschaft brauchen wir auch irgendwo eine gemeinsame Faktenbasis,

Angela Müller: auf die wir uns beziehen können.

Angela Müller: Und wenn das alles so langsam verschwindet und irgendwie so ausfranst,

Angela Müller: dann glaube ich schon, ist das eine riesige Macht eben auch über unseren ganzen Diskurs.

Martin Steiger: Gehen wir davon aus, dass man Deine Diagnose teilt. Was machen wir mit dieser Situation?

Angela Müller: Ich glaube, als erstes ist es wichtig zu sagen: Das ist ja keine Naturgewalt, oder?

Angela Müller: Das ist ein Produkt, und ganz viele Menschen und Unternehmen verdienen an diesem Produkt.

Angela Müller: Auch manchmal – so glaube ich – dass es auch

Angela Müller: wichtig ist zu sagen, es geht nicht darum,

Angela Müller: ob wir jetzt für oder gegen diese

Angela Müller: Technologie sind. Und ich finde, auch vier Jahre

Angela Müller: nach dem Launch von ChatGPT ist die

Angela Müller: Diskussion manchmal immer noch so

Angela Müller: Ja, ist man jetzt dafür oder dagegen, und wenn man

Angela Müller: dafür ist, dann bitte

Angela Müller: alles zulassen – und darum geht es

Angela Müller: Also kann es doch irgendwie nicht mehr so gehen, oder?

Angela Müller: Es ist doch völlig klar, dass wir mit

Angela Müller: Technologie, verschiedene Arten von Technologie

Angela Müller: leben wollen als Gesellschaft,

Angela Müller: als Individuen, aber dass wir

Angela Müller: trotzdem uns einfach dafür einsetzen

Angela Müller: sollten, dass es eine gemeinwohlorientierte,

Angela Müller: eine gute Technologie ist, die

Angela Müller: sich an gesellschaftlichen Bedürfnissen

Angela Müller: ausrichtet und nicht irgendwie

Angela Müller: an technisch machbaren,

Angela Müller: auch wenn uns das manchmal so präsentiert wird.

Martin Steiger: Nun haben wir das praktische Problem, dass die erwähnten mächtigen Unternehmen

Martin Steiger: die sitzen ja im Ausland, häufig in den USA, zum Teil in China.

Martin Steiger: Wie bringen wir das denen bei, wenn wir selbst mal den Konsens gefunden haben, was wir wollen?

Angela Müller: Ja, das ist eine gute Frage. Und die Frage ist auch: Was wollen sie sich beibringen lassen?

Angela Müller: Aber ich finde es schon wichtig, als Mitarbeiter

Angela Müller: um auch den Exkurs zu machen, dass diese Firmen

Angela Müller: angesprochen, dass wir uns auch

Angela Müller: beschäftigen, wirklich eben nicht nur

Angela Müller: was denn die Produkte sind, die irgendwie rauskommen,

Angela Müller: sondern auch, was da steckt

Angela Müller: und das ist, ehrlich gesagt, auch ein bisschen

Angela Müller: das Gruselige dran, wenn man sich

Angela Müller: diese Firmen anschaut,

Angela Müller: die Investoren – nicht geändert –

Angela Müller: dahinter,

Angela Müller: aber die Führungsregeln

Angela Müller: und so weiter – also, wie ideologisch

Angela Müller: aufgeladen das ist, ich könnte jetzt hier Namen

Angela Müller: nennen, aber ich glaube, wir kennen sie alle, was

Angela Müller: da dahintersteckt, und ich glaube schon, dass

Angela Müller: dann – verwandelt auch noch mit politischer Macht.

Angela Müller: Und wir nehmen diese Produkte,

Angela Müller: wie sie da so aus der Cloud fallen

Angela Müller: oder vom Himmel fallen, wie wir so denken,

Angela Müller: und adaptieren die im Kern unserer Unternehmen,

Angela Müller: im Kern unserer Verwaltungen,

Angela Müller: im Kern unserer demokratischen Debatte

Angela Müller: um Meinungsbildung – aber auch.

Angela Müller: Ja, inzwischen ist es Google,

Angela Müller: der entscheidet – oder: das Unternehmen Google –

Angela Müller: das entscheidet, welche Quellen relevant sind

Angela Müller: für meine Meinungsbildung,

Angela Müller: weil ich ja die Übersicht kriege,

Angela Müller: präsentiert. Und dieser ganze ideologische Unterbau in Kombination mit diesen Abhängigkeiten,

Angela Müller: in denen wir uns begegnen – ich glaube, so ein bisschen sollte uns das schon Geschmuch sein.

Martin Steiger: Der letzte Punkt, sehr wichtig – Du hast gesagt, wir begeben uns in diese Abhängigkeit. Wir

Martin Steiger: haben jetzt im Prinzip mit dem Finger auf diese Unternehmen gezeigt.

Martin Steiger: Aber wir nutzen das ja, obwohl wir streng genommen nicht müssten – oder: Wir nutzen es auf ganz unterschiedliche Art und Weise. Heute teilweise viel, oder – ja, häufig auch das Stichwort Faulheit. Es ist der Weg des geringsten Widerstands, es ist bequem – liegt die Verantwortung nicht zuerst mal bei uns?

Angela Müller: Natürlich, das sind ja wahnsinnig wichtige Punkte – wie gehen wir damit um? Ich glaube schon, ich fände es so einfach, zu sagen: Es ist einfach unsere Verantwortung. Weil es wird uns ja auch präsentiert, im Sinne von: Die wichtigste Kompetenz, die wir eigentlich im Moment entwickeln müssen, ist KI-Kompetenz – sonst wäre es wichtig.

Angela Müller: Ist man den Job los in mindestens fünf Jahren – und sowieso abgehängt.

Angela Müller: Und ich glaube, auch solche Narrative –

Angela Müller: die geben uns ja auch das Gefühl, dass es das Wichtigste ist.

Angela Müller: Ich finde KI-Kompetenz auch wahnsinnig wichtig,

Angela Müller: aber ich glaube, es gibt auch in unserer Gesellschaft

Angela Müller: sehr viele andere Kompetenzen, die wir gerade auch dringend brauchen würden.

Angela Müller: Nebst der KI-Kompetenz –

Angela Müller: Und das andere ist – einfach nein. Ich finde, in Anbetracht dieser Machtasymmetrie dieser Unternehmen und der individuellen Nutzerin kann es nicht sein, dass sie sagen: Die Verantwortung ist dann halt beim Individuum.

Angela Müller: Weil eben die ganze Kette von Unternehmen damit massiv Geld verdient.

Martin Steiger: Wäre es ein Unterschied, wenn diese Unternehmen primär europäisch, primär schweizerisch wären?

Angela Müller: Ich glaube, welches Land da draufsteht, interessiert mich nur sekundär.

Angela Müller: Wem dient das, mit wem – was ist die Idee dahinter, an welche Regeln hält sich ein Unternehmen oder muss es sich halten?

Angela Müller: Oder, zum Beispiel, wenn wir jetzt von digitaler Souveränität usw. sprechen – ich glaube, wir sollten …

Angela Müller: dann vielleicht auch nicht zu sehr in Jurisdiktionen denken – oder jetzt einfach,

Angela Müller: dass «Schweiz» draufsteht, finde ich weniger entscheidend, als dass zum Beispiel vielleicht draufsteht,

Angela Müller: da ist die öffentlich finanzierte Forschung im Driver's Seed.

Angela Müller: Und dann muss man kollaborieren, über Grenzen hinweg.

Angela Müller: Ich glaube, deshalb spielt weniger das eine Rolle,

Angela Müller: sondern, dass man einfach nicht nur auf den Goodwill einzelner Unternehmen angewiesen ist und dem ausgeliefert.

Martin Steiger: Diese KI-Kompetenz,

Martin Steiger: der verantwortungsvolle Einsatz von KI –

Martin Steiger: wollen wir mal auf die persönliche

Martin Steiger: Ebene gehen. Wie lebst Du

Angela Müller: denn das? Das ist eine schwierige

Angela Müller: Frage. Nein –

Angela Müller: wirklich, tatsächlich, ich bin

Angela Müller: fasziniert. Ich

Angela Müller: Ich würde jetzt sagen: Nicht mal Technologie oder Digitalisierung.

Angela Müller: Ich glaube, wir als Organisationen würden es ja nicht geben,

Angela Müller: wenn wir nicht wahnsinnig fasziniert werden

Angela Müller: von den digitalen und technologischen Möglichkeiten.

Angela Müller: Und das geht mir auch so.

Angela Müller: Ich bin keine Power-Userin, auch nicht zum Beispiel von Plattformen.

Angela Müller: Da bin ich für mich selbst sehr restriktiv unterwegs

Angela Müller: und irgendwie auch dankbar dafür.

Angela Müller: Aber natürlich interessiert es mich.

Angela Müller: Und es ist manchmal ein bisschen schwierig,

Angela Müller: irgendwie zu sprechen.

Angela Müller: Zu navigieren, das geht Dir wahrscheinlich ähnlich, kann ich mir vorstellen.

Angela Müller: Ich nutze das jetzt für meine oder unsere Zwecke und bin immer ein bisschen in dieser Metarolle

Angela Müller: und schaue mit der Brille drauf, auch auf mein eigenes Nutzungsverhalten.

Angela Müller: Und deswegen ist es vielleicht weniger entspannt als bei anderen.

Martin Steiger: Ja, für mich persönlich sehe ich immer so Grenzüberschreitungen, sage ich mal.

Martin Steiger: Die sieht man im persönlichen Kontakt, in der Beratung, beruflich, aber auch privat oder auf Social Media.

Martin Steiger: Gerade auf LinkedIn: Du liest so eine Beschreibung und Du weisst einfach, das funktioniert zum Beispiel nur, wenn die jetzt vollen Zugriff auf ihre E-Mail gegeben haben.

Martin Steiger: Also einen KI-Agenten. Du weisst gleichzeitig, das ist doch hoch riskant,

Martin Steiger: gleichzeitig sehr bequem.

Angela Müller: Ja, und dann gibt es auch immer wieder Bereiche,

Angela Müller: wo ich selbst einfach inkonsequent bin,

Angela Müller: zum Beispiel die Navigation.

Angela Müller: Also da muss ich Dir gestehen,

Angela Müller: dass ich da meine datenschutzrechtlichen Bedenken

Angela Müller: regelmässig ein bisschen hinten anstelle.

Martin Steiger: Gut, das ist ja dieser Deal, Daten gegen Gratisleistung.

Angela Müller: Ja, und das ist ja wirklich so der Käfig, in dem wir uns befinden, oder?

Angela Müller: Es ist ja schon auch nicht einfach so, dass man sich dem entziehen kann.

Angela Müller: Und auch nicht gerade wegen der Suchmaschinen. Ja, also kann man sich auch nicht einfach entziehen, und das …

Angela Müller: Das wollen wir auch nicht.

Angela Müller: Es geht einfach darum: Ist die Technologie, wie sie uns jetzt im Moment vorgesetzt wird,

Angela Müller: die einzige mögliche Art von Technologie?

Angela Müller: Und kann man jetzt einfach dazu Ja oder Nein sagen

Angela Müller: und muss dann eben all seine Bedenken oder all seine Überlegungen hinten anstellen?

Angela Müller: Oder wollen wir uns nicht einfach dafür einsetzen,

Angela Müller: ob der Kampf verloren ist oder nicht, mal dahingestellt,

Angela Müller: aber dass es eben Alternativen gibt,

Angela Müller: die nicht jetzt nur so daherkommen, wie sie im Moment halt daherkommen.

Martin Steiger: Ein aktuelles KI-Thema für mich sind diese Spannerbrillen von Meta.

Martin Steiger: Ich schaue mich hier im Publikum um, ob jemand so eine Brille trägt.

Martin Steiger: Auf den ersten Blick getraut sich niemand.

Martin Steiger: Es blinkt zumindest keine LED.

Martin Steiger: Diese Brillen – müssen wir sie verbieten?

Martin Steiger: Oder sitzen in fünf Jahren alle, die heute hier sind, mit so einer Brille im Publikum?

Angela Müller: Also, die Brille – ich finde, das ist dasselbe Thema: die Brille, wie sie uns jetzt präsentiert wird.

Angela Müller: Wenn wir einfach sagen, okay, take it or leave it, das ist die Variante, dann sage ich: ja, leave it.

Angela Müller: Aber ich glaube, es könnte ja auch andere Formen geben, wo man nicht gleich alle noch ausziehen kann,

Angela Müller: hinter den Brillengläsern und so weiter.

Angela Müller: Also das ist ja das, was stört, oder?

Angela Müller: Wir sind einfach – entweder nehmen wir das Produkt, es wird gehypt, es ist

Angela Müller: eine riesige Marketingabteilung dahinter.

Angela Müller: Und dann können wir nur noch entscheiden: ja oder nein.

Angela Müller: Und ich glaube, das ist das Problem.

Angela Müller: Das andere, ich sehe schon, das ist so,

Angela Müller: wir haben ja auch zum Glück diese Diskussion über Deepfakes und so weiter.

Angela Müller: Ich meine, Sexismus entsteht nicht durch Technologie,

Angela Müller: aber es kann natürlich mit digitalen und technologischen Mitteln

Angela Müller: auch einfach fortgeführt werden, im Online-Raum fortgeführt werden.

Angela Müller: Und das sehen wir nicht erst jetzt bei den Smart Glasses.

Angela Müller: Wer ist da vor allem betroffen?

Angela Müller: Und da, finde ich, müssen wir uns schon fragen, inwiefern dient das wirklich einem gesellschaftlichen Interesse, solche Brillen zu haben?

Angela Müller: Abgesehen davon, auch bei den Deepfakes, da verdienen ganz viele Firmen eine Menge Geld dran.

Angela Müller: Das ist nicht einfach so – huch, das passiert – und alle Unternehmen sind total entsetzt.

Martin Steiger: Wie finden wir die Antworten auf diese Fragen?

Martin Steiger: Du hast jetzt viele Fragen aufgeworfen,

Martin Steiger: und klar könnte man in der Schweiz sagen,

Martin Steiger: hier haben wir die Demokratie, den parlamentarischen Prozess,

Martin Steiger: aber konkret, wie kommen wir auf Antworten,

Martin Steiger: auf verbindliche Antworten vor allem,

Martin Steiger: die dann eben auch für alle gelten

Martin Steiger: und nicht bloss eine Meinung sind?

Angela Müller: Ja, mit demokratischen Mitteln – da sind wir auch dran, und das finde ich auch wichtig.

Angela Müller: Und das braucht halt manchmal auch seine Zeit.

Angela Müller: Kann man kritisieren, und machen wir ja zum Teil auch. Aber ich meine trotzdem, irgendwie auch mit legitimen Mitteln, oder?

Angela Müller: Weil ich schon finde, es geht ja nicht darum, dass wir sagen müssen: Wie wird Technologie genau entwickelt?

Angela Müller: Also diese Rahmenbedingungen müssen wir schon schaffen.

Angela Müller: Und was mich da so ein bisschen stört, ist,

Angela Müller: Ich finde es super, dass jetzt eben diese Regulierungsdiskussion, wie wir sie heute geführt haben,

Angela Müller: das ist ja wahnsinnig wichtig, aber ich glaube, was zum Teil ein bisschen die Gefahr ist,

Angela Müller: ist, dass wir die so ganz fragmentiert führen.

Angela Müller: Im Moment diskutieren wir: Ist jetzt Wasserzeichen sinnvoll oder nicht?

Angela Müller: So eine kleine Stellvertreterdiskussion.

Angela Müller: Dann diskutieren wir ein bisschen über Plattformen, vielleicht ein bisschen regulieren,

Angela Müller: und dann irgendwie Urheberrecht und so.

Angela Müller: Aber dass das alles Teil eines Ganzen ist, finde ich, kommt

Angela Müller: manchmal zu kurz. Das hat gute Gründe,

Angela Müller: weil man das ja irgendwie rechtlich auch

Angela Müller: irgendwo ansiedeln muss. Aber ich finde

Angela Müller: trotzdem, eigentlich sollten wir uns überlegen,

Angela Müller: was wollen wir als Gesellschaft, wie wollen

Angela Müller: wir mit diesem Wandel,

Angela Müller: auch mit dieser technologischen Entwicklung

Angela Müller: umgehen, und das gehört da alles dazu.

Angela Müller: Und dann überlegen, was sind die Puzzleteile

Angela Müller: und wie passen die auch zusammen.

Angela Müller: Ich finde immer, ein passendes Beispiel ist: Wir sprechen von Plattformregulierung und KI-Regulierung, weil viele Menschen immer noch sagen, auf Social Media sei ja keine KI, das seien ja Algorithmen, die da eingesetzt werden.

Angela Müller: Okay.

Angela Müller: Und so – dass man das gar nicht zusammendenkt, dahinter sind ja auch wieder dieselben Unternehmen.

Angela Müller: Und ich glaube, diese Fragmentierung spielt diesen Unternehmen in die Hände.

Angela Müller: Wir gehen Ihnen ein bisschen auf den Leim, wenn wir Minidiskussionen über Wasserzeichen führen,

Angela Müller: statt das grosse Ganze anzuschauen.

Martin Steiger: Ist das, was wir in der Schweiz machen mit der Regulierung, vielleicht auch heute, ein wenig Beschäftigungstherapie?

Martin Steiger: Wir haben hier ganz viele smarte, erfahrene Personen im Raum.

Martin Steiger: Wir haben intensiv diskutiert.

Martin Steiger: Aber am Ende des Tages geht die Entwicklung an uns vorbei, wird im Ausland geprägt.

Martin Steiger: Wir haben heute erfahren, die Vernehmlassung für die neue KI-Regulierung der Schweiz soll wohl im März 2027 beginnen.

Martin Steiger: Das ist dann erst der Anfang, dann läuft mal die Vernehmlassungsfrist und so weiter und so fort.

Martin Steiger: Also wenn wir irgendeine KI-Regulierung kriegen, dann, ich weiss nicht, 2030 optimistisch.

Martin Steiger: Wenn wir jetzt einfach zurückblicken, so vier, fünf Jahre,

Martin Steiger: wie müssen wir davon ausgehen, in weiteren vier, fünf Jahren ist die Welt ja eine ganz andere.

Angela Müller: Ja, also Beschäftigungstherapie würde ich nicht sagen.

Angela Müller: Ich bewundere das auch – wirklich, ich finde das wahnsinnig faszinierend,

Angela Müller: auch, wie sich diese Expertise, die rechtliche Expertise, ja auch in all diesen Bereichen entwickelt hat.

Angela Müller: Ich kann das ja gar nicht mehr überblicken, all diese Spezialbereiche, wo die KI auch relevant ist.

Angela Müller: Und ich glaube, das braucht es unbedingt. Ich glaube aber, was halt auch wichtig ist, ist: Ich bin ja ein grosser Fan des Rechts, und ich finde das ein wahnsinnig wichtiges Mittel, um diese Rahmenbedingungen für technologische Entwicklung zu gestalten – aber ohne jetzt in rechtsphilosophische Diskussionen abzudriften, was ich auch gerne mache, aber ohne das zu tun. Aber gleichzeitig finde ich, es braucht noch so viel anderes.

Angela Müller: Ich finde, zu KI-Regulierung, ein Teil von AI-Governance ist zum Beispiel auch Journalismusförderung.

Angela Müller: Weil wenn wir keinen starken Journalismus mehr haben, dann können wir noch so lange darüber diskutieren, wie wir die Meinungsmacht von Big Tech brechen.

Angela Müller: Aber wir haben dann halt die Alternativen nicht.

Angela Müller: Oder eben Bildung gehört da immer mit rein, aber eben auch so etwas wie Demokratiekompetenz – nicht nur KI-Kompetenz. Auch Demokratiekompetenz, Schulen, das ist doch ein Teil von AI-Governance, weil es darum geht, dass wir wissen, was es bedeutet, in einer Demokratie Zugang zu verlässlichen Informationen zu haben, warum das wichtig ist – und, und, und.

Angela Müller: All diese Einordnungen.

Angela Müller: Und ich finde, deswegen geht das eigentlich viel weiter.

Angela Müller: Und ich glaube, all diese Dinge,

Angela Müller: denen müssen wir auch einfach ihren Raum geben,

Angela Müller: nebst den regulatorischen Diskussionen,

Angela Müller: die halt manchmal auch Zeit brauchen.

Martin Steiger: Ich bin jetzt ein wenig hartnäckig.

Martin Steiger: Was Du sagst, weckt ja keinerlei Widerspruch bei mir.

Martin Steiger: Im Gegenteil.

Martin Steiger: Aber irgendwie der Pfad.

Martin Steiger: Sehen wir da ganz hinten irgendwo das Ziel, diese Ideen usw.?

Martin Steiger: Wie kommen wir tatsächlich dorthin?

Angela Müller: Ja, das finde ich wahnsinnig schön, weil – ehrlich gesagt – das ist schon nicht so zuoberst auf der Agenda.

Angela Müller: Dieses Anliegen für eine konstruktive Demokratie, und dass das im Moment wirklich eines unserer – finde ich – dringendsten Anliegen sein sollte, wenn man sich auf der Welt umschaut.

Angela Müller: Ich finde, das steht wirklich nicht so oben auf der politischen Agenda, sondern es sind dann Stellvertreterdiskussionen oder ganz andere, und das finde ich wirklich bedenklich. Ich glaube, es ist auch immer noch – finde ich – dieses Framing bedenklich, dass man sagt, ja, wenn man jetzt technologiefreundlich ist, kann man ja all diese Regulierung nicht wollen. Dass es irgendwie immer noch das Framing ist – das finde ich gerade bedenklich.

Angela Müller: Weil ich glaube, die Gesellschaft bräuchte, oder unsere Demokratie braucht jetzt gerade eine ziemliche Stärkung und ein ziemliches Doping, und nicht eben solche stellvertretende Skousen.

Martin Steiger: Andere auf der Welt haben schon reguliert. Gibt es Vorbilder, an denen wir uns orientieren können, sollten, müssen?

Angela Müller: Sprichst Du einsam?

Angela Müller: Nein, ich finde, wir sollten uns gut überlegen, was es braucht.

Angela Müller: Und natürlich muss man sich da inspirieren lassen.

Angela Müller: Und ich meine, realpolitisch muss man auch sagen,

Angela Müller: natürlich, jetzt gerade im Bereich Plattformregulierung,

Angela Müller: sollten wir nicht den Fehler machen, die EU auszublenden,

Angela Müller: weil man sich am Schluss, glaube ich, gegenseitig stärken kann,

Angela Müller: wenn man koordiniert.

Angela Müller: Und gerade auch in der Aufsicht, wenn man sich da wirklich austauscht,

Angela Müller: aber am Schluss bleibt es: Wenn demokratische Legitimität wichtig ist, dann müssen wir diese Diskussion ernsthaft führen und nicht nur Copy-Paste machen.

Angela Müller: Aber ich glaube, man darf sich inspirieren lassen, auch von den Learnings, was bisher rundherum nicht so gut funktioniert.

Martin Steiger: Was wären das für Learnings? Hast Du mir ein Beispiel, was nicht gut funktioniert?

Angela Müller: Ja, ich glaube, zum Beispiel, was man sicherstellen muss, ist, dass Regulierung nicht am Schluss wieder die Grossen bevorzugt und den Kleinen gar nicht das Umfeld ermöglicht, um diese Alternativen, von denen wir gesprochen haben, wirklich zu entwickeln.

Angela Müller: Ich glaube, das ist schon eine Knacknuss, auf die ich keine fertige Antwort habe, auf die wahrscheinlich niemand eine fertige Antwort hat, aber ich glaube, das ist ein wichtiger Punkt.

Angela Müller: Dann glaube ich auch, wenn man in Richtung EU schaut, was von Anfang an, glaube ich, Fragen aufwirft: Kann man wirklich Grundrechte mit Produktsicherheitsregulierung schützen?

Angela Müller: Da finde ich ein gewisses Spannungsfeld.

Angela Müller: Wird sich zeigen, ob das geht. Und gleichzeitig kann man auch nicht ausblenden, dass es Produkte sind – und, und, und.

Angela Müller: Aber da dieser Ansatz.

Angela Müller: Das hat auch spezifisch mit der EU zu tun, mit dem Binnenmarkt und so weiter.

Angela Müller: Aber ich finde trotzdem, diesen Ansatz kann man mit guten Gründen auch hinterfragen,

Angela Müller: ob das jetzt der zielführende ist.

Angela Müller: Aber irgendwo mal anfangen ist ja vielleicht trotzdem gut.

Martin Steiger: Okay, sehr schön.

Martin Steiger: Ich habe gehört, wir haben die Möglichkeit, das Publikum mit einzubeziehen.

Martin Steiger: Also beziehen wir doch mal das Publikum mit ein.

Martin Steiger: Vielleicht gibt es auch gute Ideen, aber auch Fragen an Dich natürlich, Angela.

Martin Steiger: Schauen wir mal, was da kommt.

Stimme aus dem Publikum: Ich vermute, es fehlt hier in der Schweiz politisches Leadership.

Stimme aus dem Publikum: Auf der politischen Ebene haben wir niemanden, der sich wirklich für diese Themen engagiert und sich auskennt.

Stimme aus dem Publikum: Wir haben Politiker, die über Monate über eine Anpassung von einem Steuersatz von 3 % mehr oder weniger reden,

Stimme aus dem Publikum: weil die genau wissen, es verändert nicht.

Stimme aus dem Publikum: Aber diese Grundsatzentscheidung brauchen wir.

Stimme aus dem Publikum: Die EU hat die getroffen, haben sie auch gesagt.

Stimme aus dem Publikum: Aber in der Schweiz sind wir noch nirgendwo

Stimme aus dem Publikum: und wir wollen immer gut mit allen sein.

Stimme aus dem Publikum: Und Tatsache ist, die Leute haben auf dieser Ebene,

Stimme aus dem Publikum: auf der politischen höchsten Ebene, die Ausbildung nicht.

Stimme aus dem Publikum: Also, Ausbildung auf der höchsten Etage – und Entschuldigung.

Martin Steiger: Angela, ich übersetze das jetzt.

Martin Steiger: Unsere politische Führung, die führt nicht

Martin Steiger: und ist zumindest bei KI hochgradig untergebildet.

Martin Steiger: Meine Worte.

Angela Müller: Über den Bildungsstand unseres Bundesrates würde ich mich nie wagen, auszulassen.

Angela Müller: Nein, aber ich glaube schon, wo ich Dir recht geben würde,

Angela Müller: ist auch so, es fehlt meiner Meinung nach eben auch diese Gesamtstrategie

Angela Müller: oder auch diese Vision, dass dazu eben nicht nur so diese Puzzleteile gehören,

Angela Müller: ich meine, das ist auch schwierig. Wir kennen die Institutionen und so weiter, dass das nicht einfach ist, nicht so einfach, gesagt als getan.

Angela Müller: Das ist ein bisschen auch unsere Rolle. Wir können einfach Dinge sagen, andere müssen sie tun.

Angela Müller: Aber das finde ich schon auch, dass diese Gesamtstrategie irgendwo fehlt.

Angela Müller: Eben bezüglich Bildung, ich glaube, es braucht einfach eine sehr diverse Art von Expertise.

Angela Müller: Da würde ich jetzt einfach auch sagen, dass es nicht nur die technische Expertise braucht, sondern ganz, ganz verschiedene.

Angela Müller: Also, wie wir irgendwie heute im Raum auch sehen.

Angela Müller: Was ich aber vielleicht noch anschliessen möchte an Deine Frage, Martin – es hat auch damit zu tun,

Angela Müller: wir haben jetzt lange über diese Machtkonzentration dieser Firmen gesprochen, was kann man dann konkret tun,

Angela Müller: so ein bisschen KI-Regulierung da, ein bisschen Plattformregulierung da.

Angela Müller: Ich glaube, was schon so ein bisschen ein Elefant im Raum ist, finde ich,

Angela Müller: es ist ja eine extreme Konzentration von Meinungsmacht und Marktmacht, die diese Firmen vereinen.

Angela Müller: Und ich glaube, diese spezifische Kombination ist für eine Demokratie eine besondere Herausforderung.

Angela Müller: Marktmacht haben wir schon viele Unternehmen in der Geschichte gesehen.

Angela Müller: Aber diese Kombination – sie stellen Zugmaschinen bereit, Social-Media-Plattformen, KI-Tools, die Software, Infrastruktur von Schulen, Verwaltungen, Unternehmen und so weiter.

Angela Müller: Ich glaube, diese Kombination ist besonders bedenklich, und deswegen – finde ich – sollten wir auch darüber nachdenken.

Angela Müller: Wie gehen wir diese Marktmacht dieser Unternehmen an?

Angela Müller: Und gibt es nicht da auch einen enormen Handlungsbedarf?

Angela Müller: Und an dem wird wahrscheinlich so eine Transparenzkennzeichnungspflicht nicht so viel ändern.

Martin Steiger: Okay, das heisst, als Schweiz spalten wir OpenAI,

Martin Steiger: Google, Microsoft auf.

Angela Müller: Ja, wäre doch mal eine Idee.

Angela Müller: Ja, ich glaube da wiederum, ich finde es wichtig, dass wir in der Schweiz darüber nachdenken.

Angela Müller: Diese Firmen sind wesentlich tätig auf dem Schweizer Markt und für Schweizer Nutzer,

Angela Müller: sei es Unternehmen oder Individuen, was wir da zulassen.

Angela Müller: Es ist schon nicht so, dass uns da einfach nur die Hände gebunden sind.

Angela Müller: Und andererseits braucht es da natürlich Kooperation über Grenzen hinweg, absolut.

Angela Müller: Und ich glaube, ja, das sollten wir angehen.

Martin Steiger: Wenn man sich jetzt einfach den politischen Prozess anschaut, dann sind wir jetzt anders unterwegs. Das ist fragmentarisch. Wir regulieren KI im Urheberrecht. Es kommt zu einer Art KI-Regulierung irgendwann. Sektoriell nennt man das und Selbstregulierung und so weiter.

Martin Steiger: Wir sind jetzt schon nach Deinen Worten so falsch abgebogen.

Martin Steiger: Und ich weiss nicht, ob es ein Geleise ist, wo wir nicht mehr wegkommen,

Martin Steiger: oder eine Strasse, wo wir wieder irgendwie umkehren können, abbiegen können.

Angela Müller: Nein, ich glaube überhaupt nicht, wir sind falsch abgebogen.

Angela Müller: So überhaupt nicht.

Angela Müller: Sondern ich glaube, was man ja auch tun kann, ist, zuerst

Angela Müller: all diese Bottom-up-Sachen,

Angela Müller: die da irgendwo entstanden sind, nicht nur so wirklich

Angela Müller: Bottom-up, aber einfach auch in ein

Angela Müller: Ganzes bringen und

Angela Müller: dann überlegen, was braucht es eben auch

Angela Müller: für Massnahmen drumherum, die auf dem ersten

Angela Müller: Blick gar nicht so viel mit Technologie zu tun haben,

Angela Müller: aber die wir uns eben auch überlegen

Angela Müller: sollten. Ich glaube, dass

Angela Müller: wie gesagt, eine Gesamtstrategie zuerst zu entwickeln ist schön und gut.

Angela Müller: Ich weiss auch, dass es realpolitisch nicht so realistisch ist.

Angela Müller: Aber trotzdem finde ich, wir sollten nicht mit Scheuklappen über diese regulatorischen Debatten nachdenken,

Angela Müller: sondern das öffnen und auch überlegen, was braucht es für Massnahmen,

Angela Müller: was braucht es in puncto Forschungsförderung, was braucht es bezüglich Journalismus,

Angela Müller: wie kommen wir dahin, dass wir Alternativen entwickeln können oder dass Alternativen entwickelt werden, wie zum Beispiel auch im Bereich Plattformen, über die sich Menschen informieren können, wo der Zugang zu verlässlichen Informationen im Vordergrund steht, die demokratieförderlich sind und nicht demokratieschädlich und so weiter.

Angela Müller: Also ich glaube, dass man das öffnet, auch diesen Strauss an regulatorischen und nicht regulatorischen Blickwinkeln, aus dem Ganzen.

Martin Steiger: Was ist, wenn wir Menschen oder die Mehrheit der Menschen gar nicht mitspielt?

Martin Steiger: Ich frage auch: Du hast die Journalismusförderung erwähnt.

Martin Steiger: Das können wir ja machen, wir haben breit diskutiert.

Martin Steiger: Aber was ist, wenn da nur noch eine kleine Minderheit sagt:

Martin Steiger: «Oh, dieser geförderte Journalismus, super toll, ich informiere mich,

Martin Steiger: ich bin auch für unsere Demokratie kompetent,

Martin Steiger: aber der Grossteil der Menschen in der Schweiz, der beachtet das gar nicht. Vielleicht auch, weil es zu anstrengend ist, weil man Besseres zu tun hat. Was machen wir damit? Also, wenn mit den Füssen eine Abstimmung stattfindet, obwohl in der Sache eigentlich klar wäre, dass es vielleicht der falsche Weg ist.

Angela Müller: Ja, darauf habe ich keine Antwort. Und das ist schon auch das, was, glaube ich, uns beschäftigen sollte und eine Priorität sein sollte – um nochmals darauf zurückzukommen, wir haben vorhin davon gesprochen, es sollte uns schon beschäftigen.

Angela Müller: Also wie schaffen wir es, dass wir alle uns bewusst sind, was eine Demokratie bedeutet, warum sie für uns alle wichtig ist, warum kollektive Autonomie auch für individuelle Autonomie wichtig ist – und, und, und.

Angela Müller: Das, glaube ich, ist ein enorm wichtiges Thema.

Angela Müller: Und die Convenience, ich meine, das merken wir ja alle, die ist so stark.

Angela Müller: Und diese – muss man ja auch sagen – wir sehen jetzt die Gerichtsurteile in den USA und so,

Angela Müller: das Design dieser Produkte ist auch einfach wahnsinnig gut gemacht, oder?

Angela Müller: Dass das eben auch aufgeht.

Angela Müller: Und ich habe keine Antwort darauf.

Angela Müller: Ich glaube, was wir aber vielleicht alle tun können – oder sollten –

Angela Müller: dass wir, es gibt ja

Angela Müller: vielleicht seit ungefähr vier Jahren diesen wahnsinnigen

Angela Müller: Pathos für KI. Es gibt auch

Angela Müller: diese TED-Talk-Präsentationen.

Angela Müller: Ich weiss nicht, ob Ihr die kennt, so

Angela Müller: flashy Pathos für KI und vielleicht

Angela Müller: sollten wir mal ein bisschen Pathos für die

Martin Steiger: Demokratie, welches total dafür

Martin Steiger: zu haben. Sehr schön.

Martin Steiger: Ich würde noch gerne das Publikum fragen, wer von Euch ist denn optimistisch?

Martin Steiger: Stimmen wir kurz ab.

Martin Steiger: Optimistisch aufstrecken, bitte, dass wir das meistern, was wir diskutiert haben.

Martin Steiger: Was würdest Du sagen? Wie viele? So ein Drittel?

Angela Müller: Ja, würde ich sagen, ja.

Martin Steiger: Ein Drittel. Gut, ist der Rest pessimistisch oder Enthaltung?

Martin Steiger: Pessimistinnen aufstrecken?

Martin Steiger: Ja, weniger als ein Drittel.

Angela Müller: Ja, ja.

Martin Steiger: Und der Rest …

Martin Steiger: «It's convenient».

Martin Steiger: Das ist ein schönes Wort für Faulheit.

Martin Steiger: Das hast Du jetzt gesagt.

Martin Steiger: Ja, ich darf das.

Martin Steiger: Ja, Angela, vielen Dank für den spannenden Austausch.

Martin Steiger: Schauen wir, wo wir zum Beispiel in fünf Jahren stehen.

Martin Steiger: Ich denke, Du bist eher optimistisch unterwegs.

Martin Steiger: Vielleicht sollten wir uns den Termin merken, heute in fünf Jahren.

Angela Müller: Genau, sollten wir uns treffen, ob hier oder wo anders, und zurückschauen.

Martin Steiger: Danke Angela, das gilt. Vielen Dank auch dem Publikum.