DAT406 Dürfen wir KI überhaupt nutzen? (David Rosenthal, Teil 1)

00:00:01: Sprecher: Willkommen bei den Datenschutz-Plaudereien, Aktuelles, Bemerkenswertes und Persönliches rund um den Datenschutz und verwandte Themen.

00:00:13: Martin Steiger: Guten Tag, meine Damen und Herren, Martin Steiger.

00:00:15: Willkommen bei den Datenschutz-Plaudereien. Mein heutiger Gast ist nicht nur ein Spezialgast, sondern auch ein Wiederholungsgast,

00:00:20: David Rosenthal.

00:00:22: David, herzlich willkommen.

00:00:24: Das Thema, über das wir heute sprechen wollen,

00:00:26: klar,

00:00:26: KI.

00:00:27: Und letztlich als Einstieg: KI,

00:00:30: benutzen wir das irgendwie,

00:00:31: glaube ich, alle,

00:00:32: aber dürfen wir das überhaupt rechtlich gesehen?

00:00:35: David Rosenthal: Ja, sali Martin.

00:00:36: Darum ist es mir eine Freude, wieder mal bei dir zu sein.

00:00:39: Ja, dürfen wir das? Ja, ich.

00:00:41: Ich sage ja, wir dürfen das.

00:00:43: Also ich gehöre zu denen,

00:00:45: die nicht primär Bedenken haben wegen dem,

00:00:47: sondern eigentlich eher die Frage ist, wie muss man es machen.

00:00:51: Und es ist auch spannend, dass sich die Frage eigentlich gewandelt hat in den letzten Jahren.

00:00:57: Eine Anfangsfrage war so ein bisschen,

00:00:59: die Frage war,

00:01:00: muss man den Leuten sagen, dass man KI einsetzt oder können sie noch dabei sein? Die Diskussion, zum Beispiel beim Bias, ist völlig verschwunden und heute hat man eigentlich eine ganz andere Diskussion, vor allem, welche Tools darf ich anwenden, darf ich das machen vom Datenschutz her mit den Daten, die ich einem Provider gebe? Das ist heute im Moment die Diskussion, die läuft. Und ja,

00:01:20: man darf, aber man muss eine Reihe von Hausaufgaben machen.

00:01:24: insbesondere dann, wenn man es im geschäftlichen Umfeld einsetzt.

00:01:28: Und das sind auch die meisten Fragen, die uns im Moment erreichen in unserer Behörde. Die meisten Leute kommen und sagen, ich will das einsetzen,

00:01:34: ich will jetzt Anthropic einsetzen,

00:01:35: darf ich das?

00:01:36: Also das ist die gleiche Frage,

00:01:37: die sich stellt in der Frage vor allem, wie tue ich das jetzt mit dem Provider?

00:01:41: Martin Steiger: Also David,

00:01:42: ich finde ja manchmal erstaunlich, dass überhaupt noch gefragt wird,

00:01:45: weil mein Gefühl ist doch, dass da eine Abstimmung mit der Führung stattfindet und die Führung, die läuft.

00:01:51: Es gibt ganz schnell und ganz umfangreich zu den gängigen Anbietern, die man so kennt.

00:01:56: Also vor allem OpenAI,

00:01:58: kein ChatGPT, aber jetzt auch Codex.

00:02:00: Und dann natürlich vor allem der Hype-Anbieter der aktuellen Zeit,

00:02:04: Anthropic mit Claude Code,

00:02:06: Claude Code Work und natürlich auch Chatbot.

00:02:09: Aber eben, es gibt die, die noch fragen, nicht einfach machen.

00:02:11: Also es gibt die, die nicht einfach den KI-Dienst ihrer Wahl mit gerade allem verbindet, was sie an Daten haben.

00:02:16: Ja,

00:02:17: wie macht man es denn richtig? Wo fängt man an, David?

00:02:20: David Rosenthal: Ja, es ist ja vielleicht noch bei euch auf das hineingekommen noch spannend zu sehen,

00:02:24: es ist ja auch differenziert.

00:02:25: Es gibt ja nicht einfach nur den KI-Anbieter, sondern was ja heute passiert, ist, dass man diese KI-Systeme miteinander vernetzt und mit anderen Systemen vernetzt. Also das heisst, manche von den Fragen sind heute bei uns nicht mehr, darf ich jetzt irgendwie einfach ChatGPT oder Copilot nutzen, sondern darf ich das Ding auch mit irgendwie Claude zum Beispiel mit M365

00:02:49: Wenn wir von zwei von beiden umfassenden Netzwerken sprechen,

00:02:53: und das ist auch das, was wir sicher noch darauf eingehen werden, was man sieht in der Diskussion sehr häufig, ist, dass neben dem Kern KI-System,

00:03:02: also so im Hirn, wenn man so sagen will,

00:03:04: im LLM, vor allem eine Diskussion darum, was sind so die ganzen Um-Systeme, die dem Zeug Daten anhängen, was Daten abgreift und wie das funktioniert. Aber ich glaube,

00:03:15: es gibt wiederum zwei Bereiche. Es gibt auf der einen Seite, dass es die Leute privat machen.

00:03:20: Und dass es die Leute privat machen,

00:03:21: du sagst es, die machen einfach.

00:03:25: Man hat es auf dem Handy drauf.

00:03:26: Man kann manchmal,

00:03:27: und das ist etwas, was ich sehe,

00:03:29: ist es heute häufig sehr viel schwieriger, es nicht zu benutzen, als es zu benutzen, als das Zeug abzuschalten. Ich ärgere mich jedes Mal, wenn ich in Word das aufmache und den Copilot nicht wegkriege. Wieso will der nicht?

00:03:42: Das mögen vielleicht die gerne, die es cool finden, aber ich will es auch nicht bei mir haben.

00:03:45: Ich kann das Ding nicht wirklich abschalten.

00:03:47: Und das ist, glaube ich, etwas, was man sieht.

00:03:49: Und so ähnliche Sachen sieht man bei WhatsApp und an anderen Orten auch.

00:03:52: Und im privaten Bereich,

00:03:54: ich glaube, dort müssen wir gar nicht so wahnsinnig viel darüber reden, weil dort kann ich häufig schon kostenmässig und aufgrund der Verträge gar nicht wirklich die Kontrolle, sondern ich kann es einfach entweder nutzen und vertrauen und hoffen,

00:04:08: dass nichts passiert.

00:04:08: Nicht passiert, vielleicht schauen,

00:04:10: was es für Einstellungen gibt und that's it.

00:04:13: Wo wir die Diskussion sehen, ist vor allem in den Unternehmen und dort läuft es so,

00:04:17: da gibt es auf der einen Seite die einen Leute,

00:04:20: die lieben auch den Copilot.

00:04:22: Warum lieben sie? Weil es auch dort einfacher ist, das einzuschalten als das auszuschalten.

00:04:27: Und dann gibt es viele Unternehmen,

00:04:29: die haben so ein bisschen die Haltung,

00:04:30: ja wir müssen unseren Leuten irgendetwas eingeben und das Ding ist auch so praktisch, das ist ja schon praktisch da.

00:04:36: Und dann müssen wir es einschalten, dann kommt irgendwo der Datenschutz oder der Rechtsab-

00:04:40: teilt einfach zu den Optionen, was alles geht und alles ein bisschen schnell.

00:04:43: Und dort sind wir dann in dieser Diskussion drin,

00:04:46: weil es gibt immer noch viele,

00:04:47: aber vielleicht sind das einfach diejenigen, die mehr zur Kenntnis nehmen, wir zwei,

00:04:51: weil die werden sich quasi diese Leistungen weiss leisten.

00:04:54: Die können fragen,

00:04:55: darf ich das wirklich?

00:04:55: Und es gibt sicher ganz viele, die das überhaupt nicht machen.

00:04:58: Und dann gibt es noch die andere Art von Produkt,

00:05:02: und das ist das, was du angesprochen hast, das Claude.

00:05:04: Das ist jetzt ein Hype-Produkt, das die Techies vor allem cool finden.

00:05:08: Ich glaube, da darf man nicht überbewerten. Es gibt ganz viele Leute,

00:05:11: die nicht auf dieser Hypewelle drauf sind. Aber bei den Technikern und denen,

00:05:16: die so gerne die neuen Sachen ausprobieren, ist es natürlich ein cooles Ding.

00:05:19: Also ich finde es auch cool,

00:05:20: aber es ist etwas, was dann halt so praktisch wie privat genutzt wird,

00:05:25: wenn du unterwegs bist in den Unternehmen.

00:05:27: Und weil es von der technischen Seite her kommt, ist es auch einfacher eingeführt. Ich sehe, wenn ich mit den Juristen und Juristinnen diskutiere, die hätten...

00:05:34: die jetzt alles hochsensibel genommen haben, die wollen das nicht ohne Weiteres haben.

00:05:38: Und da ist man so ein bisschen in einem komischen Modus drin,

00:05:42: wo dann an gewissen Orten einfach gemacht wird und die Leute auch die fertigen Sachen im Büro einsetzen.

00:05:48: Das nennt man dann hier die Shadow AI,

00:05:50: wenn man so den englischen Begriff verwenden will, dass die Leute die Dinge einfach benutzen.

00:05:56: Martin Steiger: Die Frage, die man gesagt hat, ist, schafft die IT?

00:05:58: Heute haben wir, schafft die KI?

00:06:00: Das ist für mich auch immer ein Thema.

00:06:01: Wir reden jetzt natürlich über KI,

00:06:03: aber ich habe das Gefühl,

00:06:04: die meisten Fragen sind eigentlich gar nicht so neu,

00:06:06: sondern am Ende des Tages geht es häufig um uralte Fragen,

00:06:09: nämlich, nutze ich Outsourcing?

00:06:11: Mache ich Sachen auf eigenen Systemen?

00:06:13: Wenn ich Outsourcing nutze, was sind das für Anbieter?

00:06:16: Sind sie im Ausland?

00:06:17: Sind sie in welchem Land?

00:06:18: Auch generell, was habe ich überhaupt für Daten?

00:06:21: Und letztlich, wie muss ich diese Daten schützen?

00:06:23: Jetzt,

00:06:23: mein Datenschutz-Thema.

00:06:24: Also, was auch immer in der Anwaltei haben wir Berufsgeheimnis,

00:06:28: aber wir haben auch sonstige Vertraulichkeitsverpflichtungen im Gesetz.

00:06:31: Oder was aus meiner Sicht sehr gerne vergessen geht, sind die berühmten, berüchtigten Non-Disclosure Agreements, NDAs, häufig noch mit einer Konventionalstrafe.

00:06:39: Da wissen viele Leute, glaube ich, gar nicht mehr, dass sie damit etwas unterschrieben haben.

00:06:42: Wie lösen wir das auf, David?

00:06:45: David Rosenthal: Ja, ich glaube, das ist genau das, was du vorher gesagt hast. Das ist eigentlich...

00:06:49: Dasselbe gilt auch beim Provider, da vertraue ich gewisse Sachen an und dort muss man die Verträge prüfen. Man kann vielleicht nicht viel verhandeln,

00:06:58: Martin Steiger: Aber man kann immerhin Optionen wählen, und von denen gibt es mehr, als einem lieb sind in diesem Bereich.

00:07:04: Und ich glaube auch,

00:07:06: das ist genau die Richtung,

00:07:08: wo es jetzt auch immer mehr hingeht.

00:07:10: Wir haben auf der einen Seite gewisse rechtliche Vorgaben, und dann gibt es gewisse Risiko-Themen, wie will man...

00:07:17: ...damit umgehen.

00:07:18: Ein gutes Beispiel:

00:07:19: Auch noch gewisse Aspekte sind neu dazugekommen. Also natürlich, es ist einfach ein Providervertrag, könnte man sagen,

00:07:26: genauso wie wenn ich jetzt in die Cloud gehe,

00:07:28: und das meiste ist in der Cloud.

00:07:29: Aber es gibt gewisse neue Sachen,

00:07:31: wie zum Beispiel die ganze Geschichte mit dem Training mit den Daten.

00:07:35: Das ist so die Hauptangst, die die Leute haben, dass ihre Daten zum Training benutzt werden,

00:07:39: was in der Praxis eigentlich das geringste Problem ist.

00:07:43: Aber auch so Sachen wie zum Beispiel Abuse Monitoring, wenn man dem so sagt, auch wieder so ein Anglizismus,

00:07:49: das ist, wenn Provider schauen,

00:07:52: macht jetzt einer irgendeine Schweinerei und dann nachher die Daten anschauen, was ja sonst nie passieren würde.

00:07:57: Also ich kenne keinen Provider, der sagt, du, wenn du in deiner E-Mail irgendetwas schreibst, was unanständig ist, dann gehe ich mir das vielleicht anschauen. Aber bei der KI ist das noch so,

00:08:07: dass Provider sagen,

00:08:08: wenn du irgendwie in meiner KI...

00:08:10: ...einen Prompt schreibst, der irgendwie komisch daherkommt, dann behalten wir uns vor, das anzuschauen, und dass irgendein Mitarbeiter das anschaut und nachschaut,

00:08:20: das ist natürlich ein Problem rechtlich gesehen, vor allem in unseren Branchen, also wenn wir vom Berufsgeheimnis gedeckt sind oder bei den Behörden, aber auch sonst kann das ein Issue sein.

00:08:30: Und das ist speziell für die KI.

00:08:32: Ich kann mir gut vorstellen,

00:08:34: dass das vielleicht in zwei, drei Jahren kein Thema mehr ist,

00:08:37: aber die Leute haben heute immer noch Angst als Provider, dass ihnen nachher irgendwelche Vorwürfe gemacht werden, die KI hat jetzt irgendwie ein Bild generiert, was nicht hätte sollen, oder irgendeinen Text produziert, was nicht hätte sollen, und man deshalb noch wie Zusatzmassnahmen hat. Aber sonst sind wir in einem Bereich, wo es genau um die gleichen Fragen geht wie bei jedem Provider auch.

00:08:55: Wir haben Datenschutz, wir haben...

00:08:57: ...und eben auch noch Geheimhaltungspflichten, weil nicht alles Personendaten sind.

00:09:01: Es gibt auch viele Themen, wie zum Beispiel Betriebsgeheimnisse,

00:09:06: die man schützen muss.

00:09:07: Und zum Teil nicht einmal, wenn es ein NDA hat,

00:09:09: einfach, weil man will, dass das Zeug geheim bleibt.

00:09:12: Und dann natürlich in unserem Spezialbereich mit Berufs- und Amtsgeheimnis. Das sind natürlich die erhöhten Geschichten.

00:09:18: Und das ist spannend daran, dass meistens der Datenschutz im eigentlichen rechtlichen Sinn

00:09:25: das Kleinste ist. Also da kommen wir eigentlich fast überall, nicht überall gleich gut,

00:09:31: aber plus/minus gelöst,

00:09:32: mit ein paar Spezialausnahmen von ein paar sehr grossen Anbietern, die dann hartnäckig ihre eigenen Touren machen.

00:09:40: Andreas Von Gunten: Da finde ich, bei diesem Abuse Monitoring,

00:09:42: ich muss sagen, ich kenne das Problem auch schon länger, als es KI schon vorkam.

00:09:45: Und zwar halt bei amerikanischen und auch kanadischen Anbietern, aber vor allem die Amerikaner sind wichtig.

00:09:51: Und man kennt das vor allem im Sinne von Verboten gegen Pornografie, Verboten gegen Gewaltdarstellung,

00:09:57: also die amerikanische Chatkontrolle,

00:09:59: wo es dann auch pro Jahr tausende Meldungen von amerikanischen Behörden gibt,

00:10:03: dort ans National Center for Missing and Exploited Children.

00:10:06: Nicht selten, wo dann der Schweizer bei Fedpol landet und dann zu Durchsuchungen führt.

00:10:10: Das ist aber noch spannend,

00:10:12: weil mit KI hat es eine neue Dimension angenommen.

00:10:15: Du hast schon gesagt,

00:10:16: jetzt ist man kein Straftäter oder keine Straftäterin oder potenziell jemand, der in das Netz geraten ist, sondern man ist schlicht Anwältin oder Anwalt von einer Person unter Verdacht.

00:10:26: Und dann ist es natürlich ein Problem, wenn man zum Beispiel anfängt bei einem herkömmlichen KI-Dienst.

00:10:32: Angst,

00:10:32: wenn man eine Chronologie hat,

00:10:34: sollte man jemandem schreiben zu so einem Fall.

00:10:36: Oder wenn man vielleicht auch Leittext-Inhalt drin hat, wo man dann eben in so einen Filter kann reinlaufen.

00:10:41: Aber ich kenne ja die Überwachung, wenn man es so nennen will,

00:10:44: oder Monitoring, die kenne ich tatsächlich schon länger.

00:10:48: Vielleicht auch,

00:10:48: weil ich mit entsprechenden Fällen zu tun hatte.

00:10:50: Darum habe ich manchmal das Gefühl, dass mit KI das Problem einfach grösser geworden ist.

00:10:54: Martin Steiger: Ja, was sich vor allem verändert hat, ist, es gilt jetzt auch für Geschäftskunden.

00:10:59: In diesem privaten Bereich haben wir das schon immer gehabt.

00:11:03: Dort muss man auch damit rechnen, dass, wenn ich auf einem privaten OneDrive oder irgendeinen Online-Speicherservice etwas drauf tue, privat, dass das aktiv durchsucht wird nach bestimmten Inhalten. Im geschäftlichen Umfeld ist das bisher aber tabu gewesen.

00:11:18: Also das heisst, wenn ich ein Geschäftskonto habe,

00:11:20: ist das eigentlich ein No-Go, dass das passiert, ausser es gäbe irgendwie einen konkreten...

00:11:25: ...Verdacht, dort dürfte jemand irgendein Delikt begehen, hätte dort irgendwelche Sachen auf seinem System, das ich benutze, dass man dann normalerweise das nicht macht. Aber jetzt ist es eben auch im geschäftlichen Bereich so.

00:11:35: Also das kann ganz banales Zeug sein.

00:11:37: Mit unserer Lösung kann ich z.B.

00:11:39: transkribieren,

00:11:40: Speech.

00:11:40: Ich habe einen Test an einem Podcast,

00:11:42: wie gut er das macht.

00:11:44: An einer bestimmten Stelle, an der er irgendetwas über eine Agrarchemikalie gesagt hat,

00:11:49: ist immer die Transkription nicht mehr gelaufen.

00:11:51: Und ich habe gedacht, das ist ein technisches Problem, bis ich dann realisiert habe,

00:11:55: das ist irgendwie ein automatischer Filter,

00:11:57: welcher wahrscheinlich irgendwie in irgendeiner Gemeinde heisst, es bedeutet irgendetwas, was verboten ist, und hat dann das gesperrt.

00:12:04: Und das ist auch ein geschäftlicher Grund und dort wird es eben genau ein Problem,

00:12:08: weil wir haben natürlich in unserem Job immer mit irgendwelchen Schweinereien zu tun, wenn wir einen Klienten haben, der irgendein Problem hat.

00:12:17: Da will man natürlich nicht, dass das gesehen wird.

00:12:20: Und ich merke auch bei anderen Kunden,

00:12:22: sie wollen eigentlich das Abuse Monitoring nicht. Und spannenderweise ist es jetzt ein Beispiel so, dass beim Copilot das Abuse Monitoring nicht drin ist, weil dann könnte es wahrscheinlich solche Beispiele nicht geben.

00:12:35: Wenn ich aber von Microsoft normale KI-Modelle direkt abfrage,

00:12:40: dort muss ich ein eigenes quasi wie...

00:12:43: ...Opt-out haben, und das ist in der Praxis zwar erhältlich heute.

00:12:48: Also die haben auch gemerkt,

00:12:49: das geht nicht.

00:12:50: Und wenn ich zum Beispiel bei uns in der Kanzlei keine Endpoints hätte, dann haben wir ein Abuse-Monitoring-Opt-out.

00:12:56: Das heisst, das wird nicht gemacht.

00:12:57: Aber um das zum Beispiel bei bestimmten Providern zu kriegen,

00:13:00: ist immer noch ein bisschen ein Affentanz, und das muss sich irgendwo normalisieren.

00:13:05: Und das ist etwas,

00:13:06: was momentan durchgeht, was sich entwickelt.

00:13:08: Und ich gehe davon aus, in zwei, drei Jahren wird...

00:13:11: ...auch das jetzt kein Problem sein, weil im Moment ist es bei Microsoft schwierig zu bekommen.

00:13:15: Ob das jetzt hier anzuklicken, könnte man das irgendwie einfacher machen.

00:13:18: Andreas Von Gunten: Eben, also da darf ich, glaube ich, nicht mehr Klartext reden.

00:13:20: Das sind wir heute noch weit davon entfernt, dass es irgendwie eine Standardfunktion ist, dass es überhaupt bei allen Providern erhältlich ist, sondern es gibt wenige, aus meiner Sicht im Wesentlichen Google und Microsoft, wo du unter gewissen Bedingungen gewisse Sachen allenfalls bekommst.

00:13:36: Aber ich kann jetzt nicht einfach sagen,

00:13:38: hallo, ich nutze euren KI-Dienst.

00:13:39: Wenn ich klicke, klicke ich unter deine Bedingungen oder unter deinen Gründen, möchte ich das bekommen, sondern es ist noch ein rechter Tanz.

00:13:48: Martin Steiger: Das ist schon so, und es gibt natürlich grob gesagt drei Möglichkeiten, die ich habe, wenn ich sicher sein will.

00:13:55: Wenn ich bei den grossen Cloud-Providern sein will,

00:13:58: dann sind es heute im Moment nur Microsoft und Google,

00:14:02: wie du sagst, die für mich faktisch in Frage kommen.

00:14:05: Und bei beiden ist es gerade für kleinere Firmen und mittlere, ich rede nicht von einem grossen Konzern, ist es heute schwierig, teilweise auch unmöglich.

00:14:15: Man hat so versucht,

00:14:16: es dem Kanton Zürich zu vermitteln im Legal-Bereich.

00:14:19: Haben wir es jetzt auch können, aber es ist immer noch ein bisschen gekämpft.

00:14:24: Und das bedeutet, dass für viele eigentlich das, was jetzt gerade bei diesen erhöhten Anforderungen drin ist beim Berufsgeheimnis, sehr schwierig ist, an diese Sachen hinzukommen, was eigentlich schade ist.

00:14:35: Ich hoffe, ich bin ein Optimist, dass das vielleicht in zwei,

00:14:38: drei Jahren oder in einem Jahr schon sehr viel besser ist.

00:14:41: Das muss auch mit einem Klick gehen,

00:14:42: aber wenn ich jetzt zum Beispiel Anthropic sehe oder OpenAI,

00:14:46: die interessiert das nicht einmal, weil das ist für sie wahrscheinlich nicht ihr

00:14:50: wirkliches Business,

00:14:52: weil die haben irgendeine andere Sache.

00:14:53: Das heisst, wenn ich dort nachfrage nach Berufsgeheimnis-Verträgen,

00:14:57: dann kriege ich nicht einmal eine Antwort.

00:14:59: Und das ist eigentlich,

00:15:01: das kann es nicht sein.

00:15:02: Andreas Von Gunten: Das Zweite, was es aber gibt,

00:15:04: sind noch Schweizer Provider.

00:15:06: Das darf man nicht vergessen.

00:15:07: Es gibt eine Reihe von Anbietern aus der Schweiz,

00:15:09: die KI-Dienstleistungen anbieten,

00:15:12: die das dann mit Open-Source-Modellen machen.

00:15:14: Und das ist eine Variante, die sind natürlich dann durchaus bereit.

00:15:18: Nein, das ist ja ihr USP sozusagen, die entsprechenden Verträge anzubieten.

00:15:22: Wir haben auch mal eine Musterklausel publiziert zu diesem Thema,

00:15:25: wo dann alle diese Sachen drinstehen.

00:15:27: Und die sind auch bereit, das zu akzeptieren. Und die dritte Variante ist, dass ich mir natürlich selber so eine Kiste hinstelle.

00:15:33: Das kostet ungefähr irgendwie so 10'000 bis 20'000,

00:15:36: ist aber auch wiederum etwas, was natürlich eine Investition ist,

00:15:40: die nicht alle machen wollen.

00:15:41: Immerhin, wir sehen,

00:15:43: wir testen es immer wieder.

00:15:45: Dass die Qualität von diesen Open-Source-Modellen inzwischen recht gut ist,

00:15:51: spricht.

00:15:51: Martin Steiger: Spannend ist, wenn man davon spricht,

00:15:53: dass ihre Anfragen zum grossen Teil weniger von irgendwelchen Anwälten kommen,

00:16:00: sondern von Industrieunternehmen, die Angst haben, ihre Daten nicht wegen dem Berufsgeheimnis, sondern wegen Industriespionage irgendwo zu einem Cloud-Provider zu geben, sie aber trotzdem KI benutzen, wenn sie dann quasi ihre Airgap-Systeme haben, die irgendwo nicht mit dem Internet verbunden sind oder so und trotzdem KI benötigen.

00:16:19: Noch eine andere grosse Macht für diese Sachen ist der Behördenmarkt,

00:16:23: der im Moment etwas in die Cloud-Systeme führt,

00:16:26: auch wenn das rechtlich unbegründet ist, aber rechtspolitisch tabu ist.

00:16:30: Bottom line: Vor allem ist es viel zu kompliziert. Da kann ich nicht einfach hingehen und sagen,

00:16:35: ich möchte gerne ein Kilo von dem haben und dann bekomme ich quasi die KI,

00:16:40: sondern man muss eine wahnsinnige, man muss aufwendige Betriebe, man muss verstehen, man muss das anschauen.

00:16:47: Und für diejenigen, die jetzt alle sagen, dass die KI mit allem eingesetzt ist, ist doch recht erstaunlich, dass wir dort eigentlich nicht weiter sind.

00:16:55: Und ich weiss auch nicht, wie viel es hier noch braucht, um hier in der Schweiz.

00:16:58: In der Schweiz sind wir wahrscheinlich sogar noch weiter als in anderen Ländern.

00:17:01: Ich habe zum Beispiel auch mit einer Anwaltskanzlei in den USA geredet.

00:17:04: Die haben das Zeug, was wir hier bei uns haben,

00:17:06: die haben zum Teil nicht einmal die gleichen guten Verträge, wie wir sie hier haben, ohne Abuse Monitoring abgedeckt.

00:17:11: Die Kleinen gibt es da nicht,

00:17:12: oder die Mittleren.

00:17:14: Also das heisst, es ist alles noch ein bisschen unterentwickelt.

00:17:16: Und vielleicht hat es halt auch damit zu tun, dass jetzt erst allmählich so ein bisschen Verständnis für das aufkommt.

00:17:24: Andreas Von Gunten: Gut, der Markt ist unterentwickelt.

00:17:25: Auch dieses Problem kenne ich schon lange.

00:17:27: Also, es geht auch nicht nur um irgendwie einen Dienst oder zwei Dienste, sondern wenn man so eine Cloud-Software-Landschaft anschaut,

00:17:33: dann geht es schnell um 20, um 30 Dienste, die man nutzen will, auch spezialisierte Dienste.

00:17:38: Die gibt es häufig nicht in der Schweiz oder die Anbieter in der Schweiz,

00:17:41: die sind häufig für Behörden oder sind es Anbieter oder ‹call me›,

00:17:45: ‹call our sales› und so,

00:17:46: also die auch grössere Kunden bedienen, was auch wirtschaftlich

00:17:49: Sinn macht.

00:17:51: Aber wenn man jetzt wirklich sinnvoll mit Datenschutz, aus welchem Grund auch immer,

00:17:55: also wenn ich sage mal, was du schnell bekommst,

00:17:57: ist der Auftragsbearbeitungsvertrag, ein Data Processing Agreement oder Addendum, das bekommst du noch schnell mal über,

00:18:02: aber eben, dann hast du Personendaten und das ist dann mehr ein Pro forma. Also das kennen wir alles,

00:18:06: aber immerhin ist es schon mal gut,

00:18:07: ist ja gut, wenn nicht mal die Schweiz vielleicht erwähnt wird oder so.

00:18:10: Aber wenn ich wirklich Geheimnisschutz will,

00:18:12: dann habe ich es doch einfach sehr schwierig.

00:18:15: Und bislang auch schon ohne KI.

00:18:18: Das ist natürlich der Alltag für ganz viele.

00:18:20: Und eben, es gibt ja nicht nur Anwältinnen und Anwälte und Ärztinnen und Ärzte und so, sondern es gibt ganz viele, die Geheimnisschutz wollen oder haben müssen,

00:18:26: ist halt einfach irgendeine Prinzip-Hoffnung gewesen in der Praxis.

00:18:30: Also wenn man einfach das Ganze anschaut,

00:18:33: erleben doch Kunden bei vielen Anbietern,

00:18:35: kommen sie einfach schlicht nicht über, wie auch in Zukunft nicht überkommen.

00:18:39: Klar, da gibt es einen kleinen Markt,

00:18:40: wo man dann diesen besonderen Bedürfnissen bedienen kann.

00:18:43: Wobei, eigentlich so klein ist dieser Markt

00:18:44: Martin Steiger: meint gar nicht. Also wenn ich mir überlege, wenn man doch weiter als Amts- und Berufsgeheimnis denkt oder jetzt auch im neuen DSG,

00:18:50: was sogenannte kleine Berufsgeheimnisse und gesetzliche Geheimhaltungspflichten auch für KI-Personen, also in der Schweiz müsste eigentlich ein grosser Teil der Unternehmen,

00:19:00: und die sind ja primär KMU und jetzt wieder primär kleinste Unternehmen,

00:19:03: ein grosser Teil davon bräuchte eigentlich aus ganz verschiedenen Gründen einen verbesserten Geheimnisschutz als einfach die Absicherung der Auftragsbearbeitung.

00:19:10: Weiter.

00:19:11: Andreas Von Gunten: Ja, das ist richtig,

00:19:13: aber das geht natürlich einher auch mit der Frage,

00:19:16: wie sehr denn sich Unternehmen tatsächlich dann nachher auch zum Beispiel mit der Informationssicherheit auseinandersetzen und was steckt dort dahinter.

00:19:26: Für uns zum Beispiel,

00:19:28: wir würden jetzt nicht gerne alle unsere Daten, die wir haben,

00:19:31: für irgendeinen Legal-Tech-Provider hochladen müssen und abspeichern.

00:19:37: Der mag vielleicht die Cloud hintendran nutzen, aber wer hat sein Zeug im Griff?

00:19:41: Ich habe keine Idee.

00:19:42: Und wir sehen so viel bei unseren Kunden, wir haben viele aus dem Bankensektor,

00:19:46: wirkliche Provider, die zu denen kommen,

00:19:48: die sagen dann,

00:19:49: wir sind super sicher,

00:19:50: weil wir haben ein Data Center bei Microsoft.

00:19:52: Aber was ist dazwischen?

00:19:54: Es gibt ja noch das, was der Provider macht.

00:19:56: Und dort sehen wir heute Diskussionen und das ist genau das, was...

00:20:00: Martin Steiger: Ob natürlich eben plötzlich weitere Player im Spiel sind, wo man dann muss schauen, wie gehen die mit diesen Sachen um.

00:20:05: Und dort merke ich allerdings auch, dass bei vielen Unternehmen,

00:20:10: die haben die Concerns nicht.

00:20:12: Also das ist für sie,

00:20:13: wenn es im Vertrag irgendwie schön drin steht,

00:20:16: ist die Sache erledigt. Ich merke das auch bei mir selber.

00:20:19: Wir haben ja selber Sachen entwickelt in diesem Bereich.

00:20:23: Wie kann ich das anbieten? Ich habe zuerst gemeint, der Haupt-

00:20:25: Chnorz sei, ist die Software sicher oder ist das irgendwie so, obwohl es ganz transparent ist, Open Source, kannst du alles anschauen.

00:20:32: Das ist praktisch nicht die Diskussion, sondern es sind andere Themen.

00:20:36: Es sind eher so praktische Themen wie,

00:20:38: wie einfach kann ich irgendetwas installieren,

00:20:40: wie komme ich an die KI-Verträge ran oder wie ist das mit der Funktionalität.

00:20:46: Das ist das, was die Leute interessiert und das ist eigentlich schade.

00:20:51: Wir müssen irgendwo damit umgehen und ich glaube, die Lösung besteht in der Standardisierung, weil das hat natürlich die Cloud-Industrie gebracht.

00:21:03: Wenn ich jetzt die beiden Grossen, die du vorher gesagt hast, anschaue und denen noch Amazon dazu,

00:21:07: die auch einer der Grossen ist und die hatten auch keine Einsicht, für die wenigsten klingt es jung,

00:21:12: aber die haben auch ihre Sachen.

00:21:14: Die sind natürlich gross geworden, weil sie...

00:21:17: die nicht KI-Unternehmen angeboten haben,

00:21:20: sondern die ganzen sonstigen Cloud-Leistungen. Vor allem auch zum Beispiel in der Schweiz haben wir viele solche Projekte begleitet. Die sind immer noch im Bereich der Banken.

00:21:28: Und die kommen natürlich mit ganz anderen Anforderungen. Das heisst, auch Microsoft hat eine enorme Winkelgüte durchmachen müssen, nicht weil sie das lustig fanden,

00:21:35: sondern weil dann irgendwie Bank X dann gesagt hat, wenn ihr das nicht macht und dort nicht macht usw.

00:21:41: und Google und AWS genau gleich.

00:21:43: Wir haben diese Verträge verhandelt.

00:21:44: Da hat es wahnsinnige Entwicklungen gegeben.

00:21:46: Und die haben natürlich heute inzwischen einen Standard erreicht,

00:21:50: den sie auch überall anbieten.

00:21:53: Das heisst, ich als kleines Unternehmen profitiere natürlich von diesem Standard, weil die ihre Rechenzentren überall gleich machen. Die können nicht für die Bank X ein anderes nehmen als für die anderen.

00:22:04: Also das heisst,

00:22:04: ich profitiere heute eigentlich von dieser Maturität und auch von den Verträgen, weil die Verträge, die man dort einnimmt,

00:22:12: dies jetzt, ich komme nochmals auf die Postbank, die Postbank ist sowieso,

00:22:16: bei Microsoft oder Google oder bei anderen,

00:22:20: die stammen aus diesen Verhandlungen,

00:22:23: die wir dort geführt haben mit Grossbanken und mit anderen und die hätten nachher einfach Microsoft gefunden, wenn wir sie den Grossen reingeben, können wir sie den Kleinen auch geben,

00:22:30: Andreas Von Gunten: einfach standardmaessig und jetzt haben wir das.

00:22:33: Also das ist eigentlich der positive Effekt davon und ich glaube, da wird auch etwas.

00:22:38: Beim Springen wollen die es jetzt quasi wieder mehr splitten, weil es sein muss.

00:22:43: Und wenn man das dann eben nutzt, hat man das wieder dabei.

00:22:47: Aber die meisten unterscheiden noch nicht, für mich zum Beispiel, einen riesigen Gap zwischen dem, was jetzt Microsoft,

00:22:53: Google oder AWS macht security-maessig und dem, was zum Beispiel OpenAI an den Start bringt.

00:22:58: Die sind für mich weltenunterschiedlich.

00:23:01: Das nehmen aber die Leute dann auch wieder nicht mehr so wahr.

00:23:04: Also ist es am Schluss wieder ein bisschen...

00:23:05: Jetzt gleich hoch.

00:23:06: Wie gehen wir damit um und sagen sie sich, ich kann das jetzt machen.

00:23:11: Wir haben zum Beispiel unsere Kanzlei, die wir im Moment jetzt Cloud nicht einsetzen. Wir nutzen allenfalls oder wir nutzen eigentlich die Modelle ueber Google.

00:23:20: Wir koennen die dort ueber unsere Vertraege in ihren Rechenzentren nutzen. Aber fuer uns kommt jetzt zum Beispiel OpenAI oder Anthropic selber fuer die Personendaten nicht in Frage.

00:23:30: Martin Steiger: Ja, das ist tatsaechlich ein grosses Thema.

00:23:33: Allenfalls bestraft man sich ein bisschen, wenn man dem Thema Beachtung schenkt.

00:23:37: Also zum Teil habe ich das Gefuehl,

00:23:39: die, die da voellig unbeschwert durch den Alltag sind und heute keine Welt untergeht,

00:23:43: die machen sich das Leben haeufig viel einfacher, als wenn man anfängt, sich darum zu kuemmern.

00:23:47: Weil wenn die anfangen, sich darum zu kuemmern, dann fangen sie schon sehr tief und sehr lange an zu graben.

00:23:53: Andreas Von Gunten: Genau, und dann hast du so Themen,

00:23:55: zum Beispiel eines von den...

00:23:56: Fuer die Themen, die uns sehr viel beschaeftigen und ich glaube fast, wo geht die KI an sich,

00:24:02: der Grundlevel bei Microsoft und Co. gut ist,

00:24:05: machen eben dort auch unsere Issues. Wenn wir graben gehen, zum Beispiel bei Microsoft, ist das der wunde Punkt und ich mag es nicht gerne,

00:24:14: ist zum Beispiel ihr Web Grounding. Das heisst, wenn du einem Copilot sagst, geh suchen etwas ueber den Steiger oder ueber den Rosenthal.

00:24:22: Also dann geht der ins Internet oder in die hauseigene Suche bei Microsoft.

00:24:28: Und spannend ist,

00:24:29: dort gelten dann die ganzen vertraglichen Zusagen, die normalerweise gelten, eben nicht.

00:24:35: Weil sie aus irgendeinem Grund, den sie nicht wollen oder koennen offenlegen,

00:24:39: nicht in der Lage sind,

00:24:40: dort ihre Zusagen einzuhalten. Sie kommen mit anderen Sachen, die alle nicht so klar sind, was sie dort machen.

00:24:46: Sie sagen, wir speichern nichts und Zeug und Sachen. Aber es bleibt, dass dort halt einfach noch ein Wunder Punkt bleibt.

00:24:51: Punkt ist, und das ist zum Beispiel keine Auftragsbearbeitungsvereinbarung fuer den Suchteil,

00:24:56: der ja eigentlich in der gleichen Firma ist, also datenschutzrechtlich und vom Punkt der Geheimhaltung ein Problem.

00:25:03: Aber, wenn ich jetzt natuerlich mich entscheiden muss, wie gehe ich damit um,

00:25:08: dann bedeutet das, dass ich entweder den Leuten sagen muss,

00:25:11: ihr duerft jetzt die Websuche nicht haben, ich schalte das ab,

00:25:15: dann ist das Produkt einfach viel,

00:25:17: viel schlechter, weil das ist einfach so.

00:25:19: Wenn man will, dass...

00:25:21: Und wenn ich ihnen sage, ihr schaltet das jetzt auf, dann muss ich irgendwo entweder sagen, ihr koennt das ohne Weiteres benutzen, aber dann verletze ich den Datenschutz, weil dann habe ich die ADV zum Beispiel nicht in diesem Bereich.

00:25:32: Das kann ich vielleicht, wenn die Leute das selber machen, geht ja das noch, weil es ist ja aehnlich so, wie wenn ich im Internet suche, aber ich kann es ja nicht als Unternehmen bewusst so zur Verfuegung stellen. Oder ich gehe hin und sage, ja, ihr Benutzer muessen dann selber schauen, dass ihr dort nichts Heikles reingebt.

00:25:48: Diese Schiebe ich einfach auf die Leute ab. Und das ist auch kein neues Phaenomen.

00:25:53: Das haben wir, ich denke, bei M365 in diversen, zum Beispiel in der oeffentlichen Verwaltung,

00:25:57: die gesagt hat, wir fuehren das ein,

00:25:59: aber nicht so richtig,

00:26:00: sondern wir sagen, wir duerfen einfach keine heiklen Daten reingeben, wo dann die Leute irgendwie voellig frustriert sind, weil sie das gar nicht umsetzen koennen, vernuenftig.

00:26:08: Man hat auf dem Papier irgendwo einen Kompromiss, aber es ist irgendwie unbefriedigend. Das haben wir dort zum Beispiel auch. Aber...

00:26:15: Das ist halt das,

00:26:17: wo wir irgendwo damit leben muessen.

00:26:19: Und dann gibt es viele,

00:26:19: die dann halt genau das machen,

00:26:21: was du auch gesagt hast,

00:26:22: sie wollen sich eigentlich nicht so genau damit beschaeftigen.

00:26:26: Weil wenn sie sich mal anfangen zu beschaeftigen, dann fragen sie sich, wie sollen sie damit umgehen.

00:26:32: Wir haben jetzt zum Glueck eine andere Loesung.

00:26:33: Wir machen das ueber Google.

00:26:34: Dort haben wir jetzt eine Suchmoeglichkeit,

00:26:37: wo das Problem sich nicht stellt.

00:26:38: Aber ich finde das natuerlich unbefriedigend.

00:26:42: Warum? Als Optimist sage ich mir,

00:26:44: das ist eine Frage der Zeit, bis das auch Microsoft jetzt in diesem Fall hinbekommt,

00:26:49: aber es ist natuerlich,

00:26:51: es ist unbefriedigend.

00:26:54: Martin Steiger: Dafuer moechte ich noch zwei, drei Erklaerungen nachschieben.

00:26:57: Du hast AWS oder AWS erwaehnt.

00:27:00: Das sind Amazon Web Services fuer diejenigen, die das nicht kennen.

00:27:03: Also die klassische Vorstellung, sage ich, wenn man aelter ist, der Buchhaendler im Internet.

00:27:08: Natuerlich schon lange ein riesiger Anbieter, vielleicht der groesste Anbieter von digitaler Infrastruktur ist.

00:27:13: Dort gibt es auch vor allem diese Plattform Amazon Bedrock.

00:27:16: Dort kann man dann zum Beispiel auch ueber Amazon Bedrock selber und auch ueber...

00:27:20: damit mehr konfektionierte, allenfalls auch vertraegliche Moeglichkeiten auch die Modelle der grossen Anbieter nutzen,

00:27:25: also auch die Modelle von Anthropic kann man dort zum Beispiel nutzen.

00:27:28: Bei Google ist, wie immer, die Produktlandschaft aendert sich staendig irgendwie,

00:27:32: aber Google hat so eine Cloud-Plattform, frueher hat das zum Teil einmal Vertex AI geheissen,

00:27:38: also dort kann man auch als Geschaeftskunde ganz viel nutzen. Ich sage mal so, die User-Facing-AI-Produkte von Google, die sind eher noch grotesk.

00:27:47: Andreas Von Gunten: Vielleicht mit der Ausnahme von NotebookLM,

00:27:49: aber gerade die Workspace-Version des Gemini-Chatbots ist recht grausam im Vergleich zur Konkurrenz, aber eben da sind sicher zwei gute Moeglichkeiten, wo man unbedingt hinschauen sollte,

00:27:59: zumal auch beides fuer kleine Geschaeftskunden recht gut zugaenglich ist, muss man sagen.

00:28:04: Es ist dann haeufig mehr die Frage, wie viel willst du zahlen, als wie gross du bist.

00:28:09: Einfach noch die beiden Ergaenzungen hier,

00:28:12: weil mir ist immer wieder aufgefallen,

00:28:14: Martin Steiger: Das Ziel haben halt immer noch die, die fokussieren auf Microsoft.

00:28:17: Da gibt es auch etwas Aehnliches, Microsoft Foundry,

00:28:20: wobei man sich hintenherhinkt nach meinem Gespuer gegenueber Google Cloud Platform und Amazon Bedrock.

00:28:24: Aber es gibt nicht nur Microsoft in dieser Landschaft, wobei notduerftig, gerade wegen AI,

00:28:29: natuerlich auch ganz viel jetzt interessanterweise die Welt ausserhalb von Microsoft entdeckt,

00:28:33: wo in einem groesseren Unternehmensumfeld dann aber haeufig die heute schon erwaehnte Shadow AI schon dann privat eingesetzt wird.

00:28:41: Andreas Von Gunten: Man muss allerdings auch sagen, dass man nicht jeden Hype muss mitmachen. Wir setzen zum Beispiel auch zum Coden nicht im Moment ein Anthropic-Modell ein.

00:28:53: Warum nicht?

00:28:54: Weil sie mir nicht so wahnsinnig viel Nutzen bringen fuer das, was ich will,

00:28:58: aber sauteuer sind.

00:29:00: Und es gibt jetzt viele, die laufen jetzt voellig in den Hammer hinein, weil sie super Sachen damit machen koennen.

00:29:05: Und das Zeug ist gut, technisch.

00:29:08: Aber es hat eben auch wahnsinnig viel gekostet.

00:29:11: Wir nutzen jetzt die Google-Modelle, allerdings ohne die Google-Oberflaeche,

00:29:17: weil wir haben ja unsere eigenen Sachen gemacht.

00:29:18: Und die genuegen fuer viele Sachen voellig.

00:29:22: Also man kann auch mit normalen Modellen coole Sachen machen. Man muss nicht immer jetzt einfach diese modernen Sachen haben.

00:29:30: Aber es ist natuerlich so,

00:29:32: dass dort ein wahnsinniger, auch soll ich jetzt sagen,

00:29:36: ein Druck in den Unternehmen ist, die Sachen irgendwo und irgendwie einzusetzen. Das ist ja auch der Grund, warum ein Copilot so erfolgreich ist.

00:29:45: Weil halt man irgendwie etwas machen muss,

00:29:49: was aber dabei auf der Strecke bleibt,

00:29:52: ist, dass die Leute eben dann auch lernen,

00:29:54: das Zeug richtig einzusetzen und diese Sachen dann auch so einzusetzen, dass es eine Art wie nutzenbringend ist.

00:30:01: Das fuehrt mehr zu solchen Themen wie zum Beispiel...

00:30:03: zum Beispiel die ganzen Agenten, die jetzt alle irgendwie verrueckt machen.

00:30:07: Ich muss sagen,

00:30:08: wir haben bei uns gespart,

00:30:09: wir koennen mit diesem super coole Sachen machen,

00:30:11: aber es ist etwas,

00:30:13: was man muss verstehen,

00:30:14: wie es funktioniert und laeuft und nicht einfach jetzt alles einkauft und in diesem Sinne einsetzt und das hat.

00:30:21: Und wenn man dort so ein bisschen zurueckhaltender wird,

00:30:25: wird es auch, was jetzt die Provider-Auswahl betrifft, nicht mehr so ein wahnsinnig grosses Problem. Also wie schon gesagt, wir koennen bei uns verstehen.

00:30:32: Verschiedene Modelle, die hier sind, aber wir arbeiten jetzt in diesem Sinne eigentlich fuer die meisten Arbeiten, nutzen wir Modelle, die jetzt ungefaehr ein Jahr alt sind, also die jetzt absolut nicht die neuesten sind.

00:30:44: Wenn man das effizient macht, kommt man auch dort sehr weit.

00:30:47: Aber das Wichtigste ist schon unsere Informationssicherheit und das geht eigentlich vor.

00:30:52: Und von daher glaube ich, fahren wir nicht schlecht. Ich habe auch den Eindruck, dass viele Leute...

00:30:58: Mit anderen Worten geht es nicht um die Technik, sondern um alles Subjektive.

00:31:03: So will man zwar versuchen,

00:31:05: die Programme zu markieren, mit einem Web Grounding und all diese Dinge,

00:31:07: sondern der grosse Teil der Leute ist eigentlich mit sehr wenig Technik zufrieden.

00:31:17: Sprecher: Haben dir die Datenschutz-Plaudereien gefallen?

00:31:21: Wir freuen uns über deine Bewertung,

00:31:24: deinen Kommentar oder deine Rueckmeldung.