DAT414 Noch mehr KI in der Anwaltskanzlei trotz Berufsgeheimnis (Teil 2)

Sprecher: Willkommen bei den Datenschutz-Plaudereien.

Sprecher: Aktuelles, Bemerkenswertes und Persönliches

Sprecher: rund um den Datenschutz und verwandte Themen.

Martin Steiger: Das dritte Thema sind lokale Modelle.

Martin Steiger: Also, dass man die selber nutzt, auf dem eigenen Computer, auf dem eigenen Server.

Martin Steiger: Ja, sei es wirklich auf dem eigenen physischen Computer.

Martin Steiger: Das maximale MacBook Pro ist in dem Sinn im Moment sehr beliebt,

Martin Steiger: weil das mit 128 GB kombiniertem Arbeitsspeicher ziemlich gut tauglich ist.

Martin Steiger: Es ist aber ziemlich teuer.

Martin Steiger: Es gibt auch kleine KI-Computer.

Martin Steiger: Üblicherweise haben sie 128 GB kombinierten Speicher,

Martin Steiger: also für CPU und GPU,

Martin Steiger: also weil der Prozessor und die Grafikkarte vereint sind.

Martin Steiger: Also vielleicht eine hübsche Anzahl Cores, Kerne,

Martin Steiger: dazu eine SSD mit 2 TB, besser 4 TB.

Martin Steiger: Das ist ein Standard-Setup.

Martin Steiger: Wenn Du es als KI-Computer kaufst, also ohne ein MacBook Pro mit Bildschirm und Tastatur usw.,

Martin Steiger: dann landest Du da im Bereich von 5'000 Franken, vielleicht unterdessen 6'000 Franken.

Martin Steiger: Das maximale MacBook Pro kostet unterdessen, ich weiss gar nicht, 8'000 oder 9'000 Franken.

Martin Steiger: Also nicht günstig von der Hardware her.

Martin Steiger: Und was man dort eben sagen muss: Es ist faszinierend, was die Modelle lokal können, oder?

Martin Steiger: Aber mit diesen 128 GB Arbeitsspeicher machst Du dann noch längst nicht alles.

Martin Steiger: Also dort musst Du Dich dann auch noch erheblich einschränken,

Martin Steiger: weil man gerne vergisst: Du brauchst nicht nur Arbeitsspeicher fürs Modell,

Martin Steiger: sondern das System muss mal noch ein bisschen laufen, oder so.

Martin Steiger: Dann brauchst Du Arbeitsspeicher für die Tools, für das Kontextfenster.

Martin Steiger: Du willst vielleicht auch mehr als ein KI-Modell nutzen.

Martin Steiger: Und so weiter und so fort.

Martin Steiger: Und das Schlimmste ist wirklich, wenn es aus dem Arbeitsspeicher rausgeht,

Martin Steiger: wenn der ausgelagert wird, auch wenn das schnelle SSDs sind.

Martin Steiger: Das ist also nicht lustig, meiner Erfahrung nach.

Martin Steiger: Dann läuft eigentlich gar nichts mehr.

Martin Steiger: Die lokalen Modelle können wirklich, finde ich, viel.

Martin Steiger: Aber man redet immer noch von vergleichsweise kleinen Large Language Models.

Martin Steiger: Die kann man einsetzen, aber es wird sofort anstrengend.

Martin Steiger: Es fehlen dann zum Teil solche Tools, an die Du Dich gewöhnt bist.

Martin Steiger: Wenn ich jetzt eine Claude-App nutze oder Claude Code oder so,

Martin Steiger: ist das alles schon vorhanden, man muss sich um nichts kümmern.

Martin Steiger: Und da nimmst Du dann vielleicht Open WebUI,

Martin Steiger: aber dann musst Du Dich wieder um Web Grounding kümmern.

Martin Steiger: Und eben, Du kannst auch nicht einfach beliebig Modelle wechseln,

Martin Steiger: was ja ein Tool wie jetzt Claude Code natürlich je nachdem automatisch macht.

Martin Steiger: Also auch damit kommt man da ständig weiter.

Martin Steiger: Ich finde das lässig zum Ausprobieren.

Martin Steiger: Man kann das übrigens auch mit viel bescheidenerer Hardware ausprobieren.

Martin Steiger: Es gibt halt ein bisschen kleinere Modelle, es ist eine Frage der Geschwindigkeit.

Martin Steiger: Aber wenn man halbwegs genug RAM hat, also sagen wir, 36 GB wären gut oder so,

Martin Steiger: als Minimum, dann kannst Du es einmal ausprobieren.

Martin Steiger: Aber Du kommst nicht auf einen grünen Zweig, wenn wir ehrlich sind.

Martin Steiger: Im Vergleich dazu liefern Dir die grossen Anbieter das heute natürlich einfach für relativ wenig Geld.

Andreas Von Gunten: Genau, also fürs Geld macht man es nicht mit dem lokalen Modell, habe ich das Gefühl.

Andreas Von Gunten: Klar, selbst wenn Du zu viel brauchst.

Andreas Von Gunten: Ich habe zuerst gemeint, es sei vor allem auch zum Token-Sparen,

Andreas Von Gunten: aber im Moment überhäufen sich die Anbieter mit Spezialangeboten.

Andreas Von Gunten: Da hat man eigentlich gar nicht so ein Problem.

Andreas Von Gunten: Es ist tatsächlich so: Wenn Du es lokal laufen lässt,

Andreas Von Gunten: dann ist es vor allem ein gutes Gefühl, einfach zu wissen:

Andreas Von Gunten: Es läuft jetzt alles auf Deiner Maschine, es verlässt sie nie.

Andreas Von Gunten: Das ist schon attraktiv, aber in der Praxis dann gleich viel weniger attraktiv.

Andreas Von Gunten: Ich habe jetzt tatsächlich so ein MacBook, wie Du geschrieben hast, so ein voll ausgestattetes MacBook Pro.

Andreas Von Gunten: Aber auch der wird so heiss, und die Fans laufen wie verrückt.

Andreas Von Gunten: Jetzt in dieser Hitze zum Beispiel, wenn ich den bei mir auf dem Schoss habe.

Andreas Von Gunten: Und wenn ich irgendetwas mache, wird er richtig heiss.

Andreas Von Gunten: Das ist nicht lustig.

Andreas Von Gunten: Und er wird auch laut.

Andreas Von Gunten: Und Du merkst schon, er muss arbeiten wie verrückt,

Andreas Von Gunten: um selbst auf einer so ausgebauten Maschine

Andreas Von Gunten: ein relativ kleines Modell laufen zu lassen.

Andreas Von Gunten: Was schon etwa 32 GB RAM braucht.

Andreas Von Gunten: Das ist nämlich etwas, was die meisten vergessen.

Andreas Von Gunten: Für das Kontextfenster brauchst Du immer noch viel Speicher.

Andreas Von Gunten: Ja, also, es ist, wie Du sagst, nicht so einfach.

Andreas Von Gunten: Vielleicht aber noch schnell zum Wechseln des Modells.

Andreas Von Gunten: Das ist heute wirklich noch gut gelöst, wenn man dann noch

Andreas Von Gunten: einen Harness, einen Client hat,

Andreas Von Gunten: den man sowohl für

Andreas Von Gunten: API-Provider wie auch

Andreas Von Gunten: die lokalen Modelle gleichzeitig nutzen kann, das geht eigentlich schon.

Andreas Von Gunten: Aber das Wechseln von einem lokalen Modell zum anderen

Andreas Von Gunten: ist dann auch wieder viel Aufwand.

Andreas Von Gunten: Für mich ist es eine Spielerei,

Andreas Von Gunten: ich nutze es für ganz wenige Fälle

Andreas Von Gunten: lokal in der Praxis.

Andreas Von Gunten: Es ist wirklich zum Herausfinden und Ausprobieren.

Andreas Von Gunten: Ich habe auch viel zum Thema gelernt,

Andreas Von Gunten: wie man die Modelle verkleinern kann,

Andreas Von Gunten: wie das funktioniert und wie viel Qualitätsverlust es da gibt.

Andreas Von Gunten: Das ist schon spannend und gut zu wissen.

Andreas Von Gunten: Ich glaube, es wird in Zukunft eine solche Kombination sein.

Andreas Von Gunten: Einen Teil wird man lokal haben,

Andreas Von Gunten: ein Teil wird in der Cloud sein.

Andreas Von Gunten: Und das wird man gar nicht merken,

Andreas Von Gunten: wann was passiert.

Andreas Von Gunten: Davon gehe ich aus.

Martin Steiger: Genau, man wird es nicht merken,

Martin Steiger: weil es heute schon damit anfängt:

Martin Steiger: Du musst ein Modell auswählen.

Martin Steiger: Du hast ganz viele Modelle zur Verfügung,

Martin Steiger: also musst Du erst einmal herausfinden,

Martin Steiger: welches Modell überhaupt taugt.

Martin Steiger: Das ist gar nicht so einfach. Und dann gibt es pro Modell eben x Varianten, oder?

Martin Steiger: Eine 4-Bit-Variante, und dann eben – da fängt es schon an.

Martin Steiger: Eben, Du musst noch das Tool dazu haben.

Martin Steiger: Es ist tatsächlich vieles möglich. Ja, Computer werden dann heiss, oder?

Martin Steiger: Bei der tatsächlichen Nutzung kannst Du Dich also nicht darauf verlassen, dass Dein MacBook Pro

Martin Steiger: irgendwie die Batterie 12 Stunden durchhält, wie Du es sonst vielleicht gewohnt bist.

Martin Steiger: Und eben die Qualität: Es gibt viele Experimente, bei denen man die Modelle nicht einem Feintuning unterzieht, sondern nur die sogenannten Harness anpasst.

Martin Steiger: Das heisst, wie Antworten geprüft werden, ist letztlich auch eine Form von Prompting, und damit kommt man sehr weit, aber auch das ist nicht alles standardisiert.

Martin Steiger: Es gibt in dem Bereich für meinen Geschmack auch noch viel zu wenig Tools, die man direkt nutzen kann.

Martin Steiger: Ein bekanntes Beispiel für mich, das gut funktioniert, ist MacWhisper für die Transkription auf dem Mac.

Martin Steiger: Dort steckt, wie der Name sagt, das bekannte Whisper-Modell drin.

Martin Steiger: Du kannst aber auch andere Modelle nehmen, da gibt es heute immer bessere Sachen.

Martin Steiger: Du kannst auch weitere über APIs, Dritt- und Cloud-Dienste einbinden.

Martin Steiger: Das ist für mich eines der wenigen Beispiele, wo es einfach zack, direkt funktioniert.

Martin Steiger: Dann hat Apple auch eigene Modelle integriert, die im Hintergrund laufen.

Martin Steiger: Zum Teil kannst Du selber darauf zugreifen, das sind einfach kleine Modelle, die kann man auch nutzen.

Martin Steiger: Aber ich glaube, so muss es sein. Auch für eine kleine Anwaltskanzlei

Martin Steiger: ist es sofort sehr teuer, für Legal-Tech-Anbieter zu zahlen,

Martin Steiger: und wenn sie anfängt, selber Software zu bauen, trotz Vibe-Coding und allem,

Martin Steiger: ja, ist es sofort sehr aufwendig. Das geht irgendwie nicht oder nur in Grenzen.

Martin Steiger: Und eben, wie gesagt, wenn Du Schweizer Anbieter hast,

Martin Steiger: die natürlich auch solche offenen Modelle hosten,

Martin Steiger: die grossen chinesischen Modelle und all diese Sachen,

Martin Steiger: preislich sehr unterschiedlich,

Martin Steiger: aber eben auch da zeigt eine Übersicht von Fischer für zwei Anbieter.

Martin Steiger: Und wir haben dazu kürzlich in der Datenschutz-Akademie von Datenschutzpartnern gehört,

Martin Steiger: auch dort ist es nicht einfach so toll mit den Verträgen.

Martin Steiger: Und eben, ich sage es immer wieder: Für viele Mandantinnen und Mandanten in der Schweiz,

Martin Steiger: bei einer Anwältin oder einem Anwalt, sind die Schweizer Behörden der Hauptgegner.

Martin Steiger: Also zu sagen, es liegt in der Schweiz und es kommen nur die Schweizer Behörden an die Daten an,

Martin Steiger: ist vielleicht gar nicht gut, wenn man weiss, wie bei uns der Überwachungsstaat funktioniert,

Martin Steiger: wie das Recht auf Siegelung völlig entkernt ist und all das.

Martin Steiger: Also das ist vielleicht nicht unbedingt beruhigend.

Andreas Von Gunten: Ja, darüber habe ich schon ein paar Mal gesprochen.

Andreas Von Gunten: Ich glaube, was schon in Zukunft öfter auftauchen könnte:

Andreas Von Gunten: Du hast schon mal OpenRouter erwähnt,

Andreas Von Gunten: natürlich auch nur ein Router, aber es gibt auch immer mehr Anbieter,

Andreas Von Gunten: die grosse Open-Source- und Open-Weights-Modelle verfügbar machen.

Andreas Von Gunten: Die kommen schon recht gut.

Andreas Von Gunten: Da ist gerade von Moonshot das Kimi K2 gezeigt worden,

Andreas Von Gunten: das wieder ganz nah an die heutigen Modelle herankommt.

Andreas Von Gunten: Und dass wir wenigstens die in einem europäischen Setting haben,

Andreas Von Gunten: die wir via API aufrufen können.

Andreas Von Gunten: Wenn das einmal gewährleistet ist: Es gibt zum Teil

Andreas Von Gunten: aber immer noch Firmen, die es in Amerika

Andreas Von Gunten: und Kanada gibt und sonst nirgends.

Andreas Von Gunten: Und die haben immer am Tag nach der Veröffentlichung

Andreas Von Gunten: diese Modelle nachher bereit.

Andreas Von Gunten: Du kannst sie gerade brauchen. In Europa

Andreas Von Gunten: kann es nachher wieder drei Monate dauern,

Andreas Von Gunten: bis dann so ein Ding überhaupt noch einmal da ist.

Andreas Von Gunten: Es ist einfach noch zu wenig gut, aber

Andreas Von Gunten: eigentlich könnte man das machen, und eigentlich

Andreas Von Gunten: wären die grossen Cloud-Anbieter

Andreas Von Gunten: wie Hetzner und so weiter prädestiniert,

Andreas Von Gunten: um das anzubieten.

Andreas Von Gunten: Es ist einfach auch da. Ich staune einfach, wie fest

Andreas Von Gunten: Europa schläft.

Martin Steiger: Und dann ist es auch ein Kostenthema, da ich gerade ein wenig von Hetzner daran erinnert werde.

Martin Steiger: Hetzner gilt vielleicht traditionell als günstiger Anbieter, aber auch bei denen sind die Hostingpreise explodiert.

Martin Steiger: Nämlich natürlich vor allem beim teuren Speicher, also das ist auch nicht mehr so lustig.

Martin Steiger: Da ist übrigens auch eine Befürchtung, die ich habe, dass die Bewegung, die es durchaus gibt,

Martin Steiger: lokale KI einzusetzen und nicht die grossen Dienste zu nutzen, gerade einen erheblichen Rückschlag erlebt.

Martin Steiger: Es ist viel teurer, mitzumachen. Das heisst, die Community ist nicht so gross, wie sie sein könnte.

Martin Steiger: Einfach aus finanziellen Gründen, weil viele ausgesperrt sind, weil sie nicht das Budget für genügend Speicher und auch für die Grafikkarte haben.

Martin Steiger: Das ist auch eine Entwicklung, dass man aus Kostengründen fast gezwungen ist, in die Cloud reinzugehen, weil Du bei den grossen Modellen viel weniger bezahlst.

Martin Steiger: Okay, Andi, das war vielleicht eher pessimistisch.

Martin Steiger: Darum würde ich gerne auf einen optimistischen Teil umschwenken.

Martin Steiger: Du, Andi, Du bist zwar kein Jurist von der Ausbildung her, aber unterdessen ein Halbjurist,

Martin Steiger: bei dem, was wir mit den Datenschutz-Plaudereien schon alles zusammen gemacht haben.

Martin Steiger: Und was vielleicht viele nicht wissen: Du bringst auch Juristinnen und Juristen bei,

Martin Steiger: wie sie KI einsetzen können.

Martin Steiger: Das wäre jetzt die Idee vom positiven Teil,

Martin Steiger: dass Du dort mal aus dem Nähkästchen plaudern kannst.

Martin Steiger: Für die, die noch nicht bei Dir im Kurs waren, ist das gut.

Andreas Von Gunten: Also, das ist interessant, das stimmt.

Andreas Von Gunten: Das ist wirklich spannend.

Andreas Von Gunten: Ein Aspekt ist der wissenschaftliche Teil.

Andreas Von Gunten: Wie kann man es wissenschaftlich nutzen?

Andreas Von Gunten: Das ist eigentlich der klassische Recherchenteil.

Andreas Von Gunten: Also, es ist leider nicht nur positiv.

Andreas Von Gunten: Aber man kann doch ein bisschen Hoffnung finden.

Andreas Von Gunten: Das eine ist natürlich

Andreas Von Gunten: die Frage, die immer auftaucht: Wie kann ich auf Literatur zugreifen?

Andreas Von Gunten: Also die Hoffnung, mit der sie zu mir kommen, dass ich ihnen den Heiligen Gral geben kann,

Andreas Von Gunten: wie sie auf die Literatur zugreifen können.

Andreas Von Gunten: Und das weisst Du: In der Juristerei hat man all die Kommentare, die von Verlagen herauskommen.

Andreas Von Gunten: Und das ist fast alles hinter Paywalls verborgen.

Andreas Von Gunten: Und Open-Access-Literatur ist noch dünn gesät.

Andreas Von Gunten: Es gibt immer mehr, aber es ist immer noch dünn gesät.

Andreas Von Gunten: Und das Problem ist tatsächlich: Ich muss immer alle enttäuschen, es gibt das im Moment nicht wirklich.

Andreas Von Gunten: Also Du hast nicht wirklich Zugang zu dieser Literatur, oder?

Andreas Von Gunten: Das Beste, was Du machen kannst, ist, dass Du das Zeug selber zusammensuchst und dann Deiner KI verfügbar machst.

Andreas Von Gunten: Und dann wissen Du und ich: Dann hast Du aber gerade wieder ein Urheberrechtsproblem.

Andreas Von Gunten: Aber darüber schaut man dann einfach hinweg, ehrlich gesagt.

Andreas Von Gunten: Und macht es halt, weil man ja arbeiten können muss, oder?

Andreas Von Gunten: Der Hoffnungsschimmer dort ist eine Technologie,

Andreas Von Gunten: über die wir kurz vorhin schon gesprochen haben.

Andreas Von Gunten: Die nennt sich MCP.

Andreas Von Gunten: Und im Rahmen meiner Kurse, die ich gegeben habe,

Andreas Von Gunten: an der rechtswissenschaftlichen Fakultät zu diesem Thema,

Andreas Von Gunten: ist das gerade so ein bisschen aufgetaucht.

Andreas Von Gunten: Und da gibt es zwei Cases, die ich immer bringe.

Andreas Von Gunten: Der eine ist opencaselaw.ch.

Andreas Von Gunten: Das ist ein Anwalt, der möglichst viele der schweizerischen Urteile in eine Datenbank

Andreas Von Gunten: geschmissen hat, von möglichst vielen Gerichten. Das sind über 900'000 Urteile, die

Andreas Von Gunten: er zusammengeführt hat und die via MCP-Server verfügbar macht.

Andreas Von Gunten: Und anhand von dem, und da gibt es noch einen, der Fedlex heisst, wo man die ganzen Gesetzestexte

Andreas Von Gunten: über MCP verfügbar machen kann.

Andreas Von Gunten: Und das ist so ein Beispiel, wo ich dann den Leuten zeigen kann: Wenn man vom Inhalteanbieter

Andreas Von Gunten: einen MCP-Server hat, dann kann man ...

Andreas Von Gunten: das mit seiner KI verbinden und kann so recherchieren.

Andreas Von Gunten: Und zwar recht gut. Das ist dann wirklich die Ergänzung

Andreas Von Gunten: vom Kontext, was das eigentlich gut macht.

Andreas Von Gunten: Das ist im Prinzip ein bisschen wie RAG

Andreas Von Gunten: und macht eigentlich das Ergebnis wirklich reliable

Andreas Von Gunten: und brauchbar. Und da gehen auch die Halluzinationen

Andreas Von Gunten: runter, wie Ihr das sehen könnt.

Andreas Von Gunten: Und dort ist jetzt meine Hoffnung, der positive Aspekt, oder meine Hoffnung ist die, dass die Verlage, und wenn ich es da jemandem sagen darf, das begreifen, dass sie ihren Kunden von mir aus zahlbar, das wäre nicht einmal ein Problem, einen MCP-Zugang geben.

Andreas Von Gunten: Also dort sehe ich übrigens auch die grosse Chance für Verlage jeglicher Art, dass sie eigentlich ihren Inhalt monetarisieren können.

Andreas Von Gunten: Indem sie ihren Kundinnen und Kunden ein Abo anbieten.

Andreas Von Gunten: Und Du bekommst dafür nicht ein E-Paper oder ein PDF,

Andreas Von Gunten: sondern Du bekommst einen MCP-Zugang auf die Daten,

Andreas Von Gunten: zu denen Du Zugriff gekauft hast.

Andreas Von Gunten: Und dann kannst Du das bei Dir integrieren.

Andreas Von Gunten: Und das wäre viel der bessere Weg,

Andreas Von Gunten: wenn die einzelnen Userinnen und User

Andreas Von Gunten: entscheiden können: Welche Quellen brauche ich?

Andreas Von Gunten: Kaufe ich das als MCP-Zugang ein?

Andreas Von Gunten: Anstatt dass jetzt im Moment passiert,

Andreas Von Gunten: dass die grossen Anbieter versuchen,

Andreas Von Gunten: eigene KI-Systeme zu bauen,

Andreas Von Gunten: was für mich absolut keinen Sinn macht.

Andreas Von Gunten: Also muss man bei jedem Verlag nachher

Andreas Von Gunten: ein eigenes KI-Abo abschliessen

Andreas Von Gunten: und dann dort mit den Inhalten chatten.

Andreas Von Gunten: Dort habe ich wirklich die Hoffnung,

Andreas Von Gunten: dass dieser Weg eine neue Möglichkeit bietet

Andreas Von Gunten: für die wissenschaftliche Arbeit,

Andreas Von Gunten: nicht nur in der Juristerei,

Andreas Von Gunten: aber gerade auch in der Juristerei.

Martin Steiger: Ganz kurz zu opencaselaw.ch,

Martin Steiger: also opencaselaw.ch.

Martin Steiger: Das ist der superverdienstvolle Jonas Hertner,

Martin Steiger: der das gebaut hat.

Martin Steiger: Ich glaube, es gibt über eine Million Fälle.

Martin Steiger: Er sagt auch, das soll die vollständige Sammlung der Schweizer Rechtsprechung sein.

Martin Steiger: Genau, also Gesetze kann man auch noch abprüfen.

Martin Steiger: Also wirklich sehr lässig.

Martin Steiger: Was es dann auch noch gibt, ist entscheidssuche.ch.

Martin Steiger: Ein Verein, der sich schon lange damit befasst, möglichst viele Entscheide zu sammeln.

Martin Steiger: Die bilden dann zum Teil auch wieder Quellen für andere Tools,

Martin Steiger: weil dort wirklich sehr viel zugänglich ist.

Martin Steiger: Es hat unterdessen auch einen MCP-Server als Beta-Version.

Martin Steiger: Also im Prinzip: Wenn man so ein KI-Tool verwendet,

Martin Steiger: das MCP-Server unterstützt,

Martin Steiger: dann ist es als Schweizer Jurist sinnvoll,

Martin Steiger: opencaselaw.ch einzubinden und entscheidssuche.ch einzubinden.

Martin Steiger: Das findet man online.

Martin Steiger: Am besten ist das in Claude,

Martin Steiger: dort auch in jeder Zahlversion.

Martin Steiger: Bei ChatGPT nicht in jeder Zahlversion, muss man sagen, seltsamerweise. Aber das ist sicher sinnvoll. Und ja, Verlage, Andi, Stichwort ist, glaube ich, bezahlbar. Also ich glaube nicht daran, dass die ihre Daten über MCP-Server öffnen, und wenn, dann viel zu teuer.

Martin Steiger: Nehmen wir das Beispiel der aktuellen Preise von Swisslex.

Martin Steiger: Da gibt es jetzt Swisslex 6.0 mit so KI-Funktionen, wie Du es beschrieben hast.

Martin Steiger: So eine eigene Plattform.

Martin Steiger: Das kostet, wenn Du ein Nutzer bist, 200 Franken.

Martin Steiger: Es wird nachher sehr schnell günstiger.

Martin Steiger: Also zwei Nutzer sind dann 260.

Martin Steiger: Ja, und irgendwann zahlst Du nur noch 30 oder 25 Franken pro Nutzer.

Martin Steiger: Also die Verlage haben wieder kein Herz für kleine Anwaltskanzleien.

Martin Steiger: Als kleine Anwaltskanzlei zahlst Du viel mehr Grundgebühren.

Martin Steiger: Und pro Nutzer hast Du dann 15 Dokumente pro Monat inbegriffen.

Martin Steiger: Fünfzehn.

Martin Steiger: Das ist also nicht so viel, wenn man an die Nutzung eines MCP-Servers denkt.

Martin Steiger: Und nachher kosten eigentlich alle lizenzierten Inhalte, also Kommentare, Zeitschriften, Bücher, ganz unterschiedlich gestückelt.

Martin Steiger: Das kostet dann 5 bis 11 Franken pro Dokument.

Martin Steiger: Also so eine typische Abfrage, die dann bei einer Recherche irgendwie lohnt.

Martin Steiger: Da muss man nicht mehr diskutieren, ob irgendwie KI-Tokens teuer sind oder nicht.

Martin Steiger: Also das ist dann irgendwie eine Goldwaage.

Martin Steiger: Du kannst es irgendwie auch nicht so kontrollieren.

Martin Steiger: Also weisst Du, wenn es jetzt ein MCP-Server wäre mit dieser Preisstruktur.

Martin Steiger: Das funktioniert einfach nicht.

Martin Steiger: Und was ich noch eine lustige Entwicklung finde:

Martin Steiger: Weil die Schweizer Literatur zu einem grossen Teil hinter Paywalls ist,

Martin Steiger: entwickelt sich gerade eine völlig neue Abstützung auf Case Law.

Martin Steiger: Man kann es natürlich nutzen, opencaselaw.ch, entscheidsuche.ch,

Martin Steiger: und wenn Du die Literatur nicht hast,

Martin Steiger: die ja eigentlich nur Gesetz und Rechtsprechung wiedergibt,

Martin Steiger: wäre das natürlich unterschiedlich hilfreich.

Martin Steiger: Ein Kommentar hat seinen Wert, logisch,

Martin Steiger: oder auch Dissertationen und all diese Sachen.

Martin Steiger: Wenn Du es halt nicht hast, musst Du auf das Case Law gehen.

Martin Steiger: Das führt zu ganz kuriosen Ergebnissen.

Martin Steiger: Zum Teil werden dann Fälle ausgegraben, die mässig relevant sind.

Martin Steiger: Oder zum Teil sind Tools auch noch nicht so gut.

Martin Steiger: Okay, ja, ein interessanter Entscheid, aber ist er rechtskräftig? War er in dieser Form?

Martin Steiger: Je nachdem steht bei Bundesgerichtsentscheiden oder anderen Entscheidungen der halbe Sachverhalt gar nicht drin,

Martin Steiger: weil er irgendwie zu Tode gekürzt ist und so weiter.

Martin Steiger: Aber das führt zu einer zwangsläufigen Entwicklung hin zum Case Law.

Martin Steiger: Und ich muss auch sagen: Ganz viele in der Schweiz haben gratis Zugang zu den juristischen Anbietern, weil sie beim Staat arbeiten.

Martin Steiger: Also Behörden haben das, Juristinnen und Juristen inbegriffen; wer studiert, wer an einer Uni arbeitet, also wenn ich auch wieder Behörden habe,

Martin Steiger: aber die haben das häufig inbegriffen, oder dann ist zum Teil gar nicht klar, was die Paywall für die bedeutet, die das Geld selber zahlen müssen.

Martin Steiger: Am Schluss kriegt man es nicht zugänglich, selbst wenn es gratis ist. Es ist dann nicht zugänglich, und dann nutzt man die Quellen oder tatsächlich Web Grounding, die Websuche und vor allem die MCP-Server.

Martin Steiger: Ich denke, opencaselaw.ch ist heute auch wirklich der Standard in der Schweiz.

Andreas Von Gunten: Also, wir haben da fast schon kritische Infrastruktur, die an einer verdienstvollen, aber letztlich doch einzelnen Person hängt.

Andreas Von Gunten: Ja, und da hoffe ich natürlich, dass der Initiant dieser Geschichte auch irgendwo eine gute Lösung findet,

Andreas Von Gunten: um das in Zukunft auch nachhaltig betreiben zu können.

Andreas Von Gunten: Weil das bei mir schon immer die Frage war: Wie soll das dann weitergehen?

Andreas Von Gunten: Irgendjemand muss das ja zahlen. Das wird man auch noch schauen.

Andreas Von Gunten: Ich glaube aber wirklich, es wird Modelle geben, bei denen man für MCP-Services zahlt, davon bin ich überzeugt.

Andreas Von Gunten: Swisslex ist natürlich ein Paradebeispiel. Ich darf das wahrscheinlich als Nichtjurist und einer, der das nicht brauchen muss, sagen: Das Pricing von Swisslex ist einfach absurd. Das war schon immer so. Das zeigt sich auch jetzt gerade sehr schön. Das kann man so gar nicht aufrechterhalten.

Andreas Von Gunten: Das habe ich noch nie in einer anderen Branche gesehen.

Andreas Von Gunten: Das habe ich noch nie gesehen.

Andreas Von Gunten: Mich erstaunt, dass die vereinigten Anwältinnen und Anwälte nicht schon längstens auf den Barrikaden sind,

Andreas Von Gunten: um Swisslex zu Fall zu bringen.

Andreas Von Gunten: Das ist absolut absurd, wie das funktioniert.

Andreas Von Gunten: Das kann ich nicht ändern.

Andreas Von Gunten: Ich habe die Hoffnung, und ich glaube schon, dass der Markt in diesem Fall tatsächlich ...

Andreas Von Gunten: Du weisst, immer mehr stützt man sich dann halt auf die Fälle, die man holen kann.

Andreas Von Gunten: Und es geht immer mehr in Richtung Open Access.

Andreas Von Gunten: Und irgendwann kommt vielleicht die Erkenntnis, dass man sagt:

Andreas Von Gunten: Hey, vielleicht ist es ein bisschen gescheiter, wenn man das Zeug verfügbar macht

Andreas Von Gunten: und das Geld nimmt, das wir noch bekommen,

Andreas Von Gunten: weil Ihr einfach untergeht in einem System,

Andreas Von Gunten: das zwar sehr teuer ist, aber niemand mehr nutzt.

Andreas Von Gunten: Weil das wird am Schluss das Ergebnis sein.

Andreas Von Gunten: Swisslex wird das nicht überleben, das kann ich jetzt schon sagen. Es wird das nicht überleben, wenn es nicht anfangen würde ...

Martin Steiger: Mein Verdacht ist natürlich, dass diese Plattform von wenigen grossen Kunden lebt.

Martin Steiger: Also einerseits vom Staat, also Bibliotheken. Wir kennen das Thema von den Wissenschaftsverlagen, das ist da vermutlich nicht anders.

Martin Steiger: Also, es sind wohl so Pakete. Müssen wir mal schauen, ob man da etwas herausfinden kann, Öffentlichkeitsgesetz als Thema.

Martin Steiger: Und dann natürlich grosse Unternehmen, also auch grosse Anwaltskanzleien,

Martin Steiger: wo es einfach weniger darauf ankommt, vielleicht.

Martin Steiger: Also, das ist spekulativ, aber eben, wie gesagt:

Martin Steiger: Wenn Du jetzt eine Grosskanzlei bist, dann kostet irgendwann ein einzelner Nutzer quasi nichts mehr.

Martin Steiger: Du zahlst eine Grundgebühr und bekommst beim Umsatz einen krassen Rabatt.

Martin Steiger: Zum Beispiel: Wenn Du pro Monat nur schon einen Umsatz von bis zu 2'000 Franken machst,

Martin Steiger: kriegst Du schon 45 Prozent Rabatt.

Martin Steiger: Jetzt musst Du Dir mal eine Grosskanzlei mit 100, 200 Nutzerinnen und Nutzern vorstellen.

Martin Steiger: Was das dann bedeutet: Da bist Du dann auch ganz in einer anderen Kostenstruktur unterwegs.

Martin Steiger: Also, die können mehr Geld ausgeben, aber zahlen weniger als der kleine Einzelanwalt,

Martin Steiger: als die kleine Einzelanwältin, die einfach voll zur Kasse gebeten wird.

Martin Steiger: Aber okay, also Andi, die Recherche hast Du jetzt erwähnt. Ist das alles bei der Recherche?

Andreas Von Gunten: Ja, das ist für mich der wichtigste Teil. Es gibt natürlich noch spezielle Anwaltsplattformen, auch in der Schweiz.

Andreas Von Gunten: Ich will hier keine Namen nennen. Man kann selber suchen. Da wird dann eigentlich eine Art eigenes Chat-Interface geboten, das meistens via API auf irgendein System geht.

Andreas Von Gunten: Die kann man schon brauchen, aber man muss sich einfach bewusst sein: Die können eigentlich nicht mehr, als Prompt-Templates bereitzustellen und via API auf die grossen Systeme zuzugreifen.

Andreas Von Gunten: Und dort finde ich wichtig als Tipp, den ich noch gebe: Nehmt eine Lösung, bei der Ihr Bring Your Own Key machen könnt.

Andreas Von Gunten: Ihr zahlt zwar mehr und die Tokens direkt beim Anbieter, aber Ihr könnt dafür ein Modell wählen.

Andreas Von Gunten: Die, die Euch eine Flat Fee geben, all die, die versprechen, die Euch sagen:

Andreas Von Gunten: «Ihr kommt bei mir für 20 Franken im Monat über alle Modelle rüber,

Andreas Von Gunten: dann müsst Ihr nicht fünf Abos haben.»

Andreas Von Gunten: Die sind natürlich im Hintergrund total optimiert.

Andreas Von Gunten: Das sieht man sehr schön, wenn man es ausprobiert.

Andreas Von Gunten: Das merkst Du natürlich nicht, aber dann nehmen sie einfach irgendwie

Andreas Von Gunten: ein Opus 4 auch für den grössten Teil.

Andreas Von Gunten: Und das merkst Du natürlich an der Qualität.

Andreas Von Gunten: Und das ist immer ein bisschen mit Vorsicht zu geniessen.

Andreas Von Gunten: Also, wenn sie ankommen und Dir eine Flat Fee bieten:

Andreas Von Gunten: Sie müssen aber immer die Tokens abrechnen.

Andreas Von Gunten: Man muss damit rechnen, dass Du am Schluss als Userin oder User schlechte Qualität bekommst.

Andreas Von Gunten: Dort muss man einfach vorsichtig sein.

Martin Steiger: Das ist so, die sparen.

Martin Steiger: Häufig ist es heute so, dass sie einen Automatikmodus haben,

Martin Steiger: wo sie versprechen, die besten Modelle zu finden.

Martin Steiger: Aber es ist relativ offensichtlich, wie es ist bei den Pauschalangeboten.

Martin Steiger: Ja, und letztlich ist ihr Versprechen das Berufsgeheimnis. Also immer genau wieder am Punkt, wo Du halt mehr Geld ausgibst und nicht das Original-Tool, das übrigens besser ist, nutzen kannst wegen des Berufsgeheimnisses.

Martin Steiger: Oder dass Du den eigenen Key verwendest, ist ja schön und gut, aber wenn Du auf diesem Weg zahlst, hast Du im Vergleich zu den heutigen Pauschalangeboten ...

Martin Steiger: Bei eben ChatGPT und Claude und auch Gemini hast Du natürlich Kosten bei der gleichen Nutzung,

Martin Steiger: die um den Faktor 8, 12, vielleicht noch mehr höher sind.

Martin Steiger: Du hast eigentlich schlechtere Tools, zahlst aber deutlich mehr.

Martin Steiger: Ich bin schon bei Dir, Andi: Das, wenn schon, dann schon, oder?

Martin Steiger: So, dass man das tokenbasiert macht.

Martin Steiger: Häufig haben die, die so etwas anbieten, noch einen kleinen Overhead.

Martin Steiger: Oder 10, 12, vielleicht mal 15 Prozent.

Martin Steiger: Mit dem kann man ja auch leben.

Martin Steiger: Dann hast Du aber volle Kontrolle.

Martin Steiger: Aber eben gerade beim Agentischen.

Martin Steiger: Also, wenn ich es einfach anschaue: Es ist schon faszinierend,

Martin Steiger: was Du heute mit diesen Tools machen kannst.

Martin Steiger: Du kannst Deine Agenten losschicken.

Martin Steiger: Du kannst sie einfach mal eine Nacht lang durcharbeiten lassen.

Martin Steiger: Es ist halt nicht mehr das Chatbot-Prinzip.

Martin Steiger: Das bleibt wichtig, aber das agentische Prinzip hat halt auch viel verändert.

Martin Steiger: Und dort haben natürlich auch die Anbieter Mühe, hineinzukommen.

Andreas Von Gunten: Ja klar, aber auch bei diesen Angeboten,

Andreas Von Gunten: also gerade in jedem Schweizer Angebot,

Andreas Von Gunten: habe ich den Eindruck,

Andreas Von Gunten: so viele haben sich gar nicht überlegt,

Andreas Von Gunten: wegen Berufsgeheimnissen usw.

Andreas Von Gunten: Wenn wir genauer hinschauen,

Andreas Von Gunten: dann haben sie eigentlich nicht sehr viel gelöst,

Andreas Von Gunten: muss man wirklich ehrlich sagen.

Andreas Von Gunten: Sie haben vor allem eine Oberfläche gebaut,

Andreas Von Gunten: wo

Andreas Von Gunten: die Anwältinnen und Anwälte

Andreas Von Gunten: oder die Leute, die rechtswissenschaftlich arbeiten,

Andreas Von Gunten: eine Art Unterstützung haben,

Andreas Von Gunten: weil sie eben so ein paar Prozesse schon abbilden,

Andreas Von Gunten: die man immer wieder hat. Aber das habe ich dann auch

Andreas Von Gunten: oft in meinen Kursen gezeigt, oder vieles davon

Andreas Von Gunten: kannst Du mit einem guten Prompt auch mit Deinen

Andreas Von Gunten: eigenen Systemen machen. Letztendlich ...

Andreas Von Gunten: Ich habe gesagt, ich mache dort ein Testabo

Andreas Von Gunten: und lasse mich noch ein bisschen inspirieren,

Andreas Von Gunten: was man an Prompt-Templates dort sieht.

Andreas Von Gunten: Weil am Schluss, glaube ich,

Andreas Von Gunten: auch dort würden sie nicht überleben

Andreas Von Gunten: mit dem einzigen Versprechen,

Andreas Von Gunten: dass sie eigentlich die Prompt-Templates anbieten.

Andreas Von Gunten: Sie müssten wahrscheinlich wirklich zeigen,

Andreas Von Gunten: dass sie lokal in der Schweiz gehostete Modelle anbieten.

Andreas Von Gunten: Das würde funktionieren, glaube ich.

Martin Steiger: Der Rest hat am Schluss keine Zukunft.

Martin Steiger: Aber auch dort, eben mit diesen Modellen,

Martin Steiger: wobei ich hier noch unterscheiden möchte: Es gibt Anbieter, hinter denen Juristinnen und Juristen stecken, zum Teil Anwältinnen und Anwälte, die das Ganze ernst nehmen.

Martin Steiger: Und dann gibt es natürlich ganz viele, die versuchen, auf die Welle aufzuspringen, die häufig auch völlig branchenfremd sind.

Martin Steiger: Mit branchenfremd meine ich nicht, sie kommen aus der IT, sondern ...

Martin Steiger: Ja, wenn Du sie anschaust, sie hatten auch schon irgendwie eine Putzfirma,

Martin Steiger: um irgendwie Putzleistungen zu vermitteln, und machen Marketing und weiss nicht was, oder?

Martin Steiger: Und dann sind es häufig klar KI-generierte Websites mit völlig falschen Versprechungen.

Martin Steiger: Eben, wir haben gesagt, wir nennen keine Dienste, aber ein Angebot,

Martin Steiger: oder ich zitiere jetzt: Da steht: «Mandantengeheimnis ist unverhandelbar.»

Martin Steiger: «Ausländische KI-Tools bergen Compliance-Risiken; DSGVO und Schweizer Datenschutzgesetz

Martin Steiger: werden eingehalten. Sie behalten die Kontrolle über Ihre Daten.»

Martin Steiger: Und dahinter steckt einfach eine Integration mit Anthropic über Claude.

Martin Steiger: Also von A bis Z gelogen.

Martin Steiger: Frech gelogen.

Martin Steiger: Es gibt da noch so Referenzen.

Martin Steiger: Ich habe noch nicht geprüft, ob die Anwältinnen und Anwälte echt sind.

Martin Steiger: Denn wenn sie echt sind, müssen wir ihnen mal sagen:

Martin Steiger: Macht Ihr gerade unlauteren Wettbewerb?

Martin Steiger: Wisst Ihr, wofür Ihr da gerade Werbung macht?

Martin Steiger: Also, das ist auch ein Thema. Und natürlich ist es auch so: Viele von diesen Prompts und Skills und so weiter sind eben frei zugänglich.

Martin Steiger: Vielleicht nicht in der Schweiz, aber zum Teil auf Englisch, zum Teil in Deutschland. Und in der Schweiz ist nicht einfach alles anders.

Martin Steiger: Also klar, es gibt zum Teil Unterschiede, aber auch da gibt es zum Glück eine kleine, aber wachsende Szene, die anfängt, das Wissen auch zu teilen.

Martin Steiger: Ja, eben, das ist Geschmackssache, oder?

Martin Steiger: Es ist einfach zu sagen, wenn man in kleinen Strukturen unterwegs ist:

Martin Steiger: Sobald man ein bisschen grösser ist,

Martin Steiger: braucht man irgendwie solche Tools,

Martin Steiger: die man managen kann, und das kostet halt.

Martin Steiger: Oder man ist im Enterprise-Bereich mit all dem Compliance-Zeug.

Martin Steiger: Und natürlich hat man dann IT-Verantwortliche,

Martin Steiger: die Kontrollen wollen. Man hat den formellen Einkauf und all das Zeug.

Martin Steiger: Das braucht man natürlich.

Martin Steiger: Aber auch da hoffe ich auf gewisse Veränderungen.

Martin Steiger: Das heisst nicht, dass man nicht für ein gutes Tool zahlen soll.

Martin Steiger: Dafür kann man gerne zahlen. Das verdient es, bezahlt zu werden.

Martin Steiger: Aber vieles – ich bin jetzt Schweizer Anbieter im Legal-Tech-Bereich –

Martin Steiger: steht natürlich schon auf sehr wackeligen Füssen oder grenzt letztlich an unlauteren Wettbewerb.

Andreas Von Gunten: Oder ist sogar einfach unlauter mit dem, was frech versprochen wird.

Andreas Von Gunten: Ja, also man kann da eigentlich nur zusammenfassend sagen: Schaut gut hin, schaut ganz genau hin. Wenn Euch versprochen wird, dass es da jetzt eine Lösung gibt, die alle Probleme löst, die wir heute miteinander besprochen haben, dann muss man mit grosser Wahrscheinlichkeit davon ausgehen, dass das nicht der Fall ist.

Andreas Von Gunten: Und ehrlich gesagt: Im Moment muss man die einzelnen Fälle anschauen.

Andreas Von Gunten: Ich versuche immer zu sagen: Was genau ist die Vorgabe? Was musst Du einhalten?

Andreas Von Gunten: Wie sieht Dein Fall aus? Wie sehen Deine Fälle aus?

Andreas Von Gunten: Was können wir in diesem Fall wirklich machen, damit es einigermassen verhebt?

Martin Steiger: Und ich muss wirklich betonen: einigermassen.

Martin Steiger: Jetzt sind wir wieder auf Abwege geraten, weil es viel zu wenig um das geht, was Du unterrichtest.

Martin Steiger: Aber mit Blick auf die Uhr schlage ich vor: Wir drücken hier mal auf Stopp und können das ein anderes Mal vielleicht fortsetzen.

Andreas Von Gunten: Machen wir doch so. Tipptopp, Martin.

Sprecher: Hat Dir die Datenschutz-Plaudereien gefallen?

Sprecher: Wir freuen uns über Deine Bewertung, Deinen Kommentar oder Deine Rückmeldung.