DAT398 Wer sieht welche Daten aus dem Patientenzimmer? (Jonas Reber, QUMEA, Teil 3)

00:00:01: Sprecher: Willkommen bei den Datenschutz-Plaudereien. Aktuelles, Bemerkenswertes und Persönliches rund um den Datenschutz und verwandte Themen.

00:00:13: Martin Steiger: Diese Radardaten, irgendwie Rohdaten, wie wird das jetzt zu konkreten Daten, zu Ereignissen, die dann zum Beispiel ein Spital nutzen kann oder die einen Alarm auslösen? «Herr Steiger im Zimmer soundso ist jetzt vermutlich gerade aus dem Bett gefallen und braucht Hilfe.»

00:00:32: Jonas Reber: Genau, wie das passiert: Wir schätzen ab, wo eine Person ist, wie sie sich bewegt hat, ob sie gerade im Bett liegt. Wir müssen zuerst schauen – wir wissen ja nicht, wo sich ein Bett befindet. Ein Bett kann sich verschieben. Ungefähr ist ein Bettplatz im Spital immer am gleichen Ort, er kann sich aber verschieben, das Bett kann um 90 Grad gedreht sein. Das ist die erste Aufgabe, nachdem wir alles weggefiltert haben: Wo ist eigentlich dieses Bett? Wo ist eine Person in diesem Bett drin?

00:01:01: Jonas Reber: Das kann eine gewisse Zeit beanspruchen, ein paar wenige Sekunden bis zu unter einer Minute. Es ist eine gewisse Zeit, die es braucht, weil wir zuerst einmal genug Bewegung erfassen müssen, die in diesem Raum passiert. Von da an ist es, wie wenn man jetzt wieder in diesen Punktwolken denkt, da gibt es relativ viele verschiedene Sachen, die man davon ableiten kann. Man kann schauen, wie sich eine Person aufrichtet, wie schnell hat sie sich aufgerichtet, hat sie den Ganzkörper aufgerichtet, hat sie die Beine aus dem Bett gehabt, wie schnell steht sie auf, in welche Richtung geht das? Ist sie in Richtung vom Bett oder eher vom Bett weggerichtet?

00:01:31: Jonas Reber: Da kann man extrem viele Modelle trainieren, die diese Interpretation übernehmen. Das ist genau das, was wir bei QUMEA hauptsächlich machen. Schlussendlich erkennt unser System – das ist ja nicht pauschal für alle Patienten gleich –, sondern die Pflege entscheidet eigentlich, wie so ein Monitoring von einem Patienten passieren soll. Der junge 18-Jährige, der sich die Hand ausgekugelt hat, der springt noch genauso umher wie vorher, der hat einfach ein bisschen Handweh, und der braucht je nachdem keine Überwachung. Das ist vielleicht spannend, wenn er zu wenig sehen kann, weil die Hand limitiert ist. Da kann es sein, dass man wissen will, wenn er das Bett verlassen hat.

00:02:19: Jonas Reber: Währenddessen eine ganz gebrechliche Person, die effektiv Hilfe braucht, also sich selber nicht einmal mehr aufrichten kann oder nachdem sie sich aufgerichtet hat, so viel Energie schon gebraucht hat, dass ein Sturz wie imminent sein wird, da tut die Pflege dann effektiv selber einstellen, wie so ein Threshold definiert wird, zu welchem Zeitpunkt möchte ich gerne eine Warnung bekommen. Das passiert dann auf einem Mobiltelefon. Heutzutage moderne Spitäler haben alle Tablets oder Endgeräte dabei. Pro Möglichkeiten über Integrationen, über Lichtruf zum Beispiel. Das ist mehr so im Langzeitpflegebereich, da kennt man das, die Pflege nennt das «Geister», also den Präsenzknopf, wenn man im Zimmer drin ist. Das kennt man aussen von den roten oder grünen Lämpchen.

00:03:01: Jonas Reber: Da haben wir auch Integrationen mit diesem System. Das heisst, unser System schickt eine Warnung, wie wenn man den Warnknopf selber drücken würde, auf Zimmerebene. Da kann man auch ganz ohne Handy oder Mobilgerät mit unserem System interagieren, während QUMEA im Hintergrund ist.

00:03:22: Martin Steiger: Mir fällt gerade auf, Herr Reber, dass wir ein Schlagwort unserer Zeit gar noch nicht erwähnt haben, nämlich Künstliche Intelligenz. Sie haben erwähnt Algorithmen, Training und so weiter. Sie präsentieren das auch so, wenn man Ihre Informationen anschaut, dann ist die Rede von Künstlicher Intelligenz. Ist das jetzt einfach mehr ein Schlagwort? Auf der anderen Seite: Haben Sie eigene Modelle? Es tönt ja ganz klassisch nach Machine Learning, dass Sie auf das Level gekommen sind, das Sie jetzt beschrieben haben, damit Sie zum Beispiel nicht das Beatmungsgerät mit dem Patienten verwechseln.

00:03:51: Jonas Reber: Auf jeden Fall. Das ist schon etwas, wo wir relativ schnell gemerkt haben, man könnte das alles modellieren und physikalische Modelle berechnen, wie diese Reflexionen sind, aber das ist relativ schnell relativ komplex. Da haben wir tatsächlich bei uns verschiedene eigene Modelle trainiert. Wir behaupten immer noch, wahrscheinlich die grösste Sammlung an radarbeobachteten Stürzen weltweit zu haben. Das sind einfach diese anonymen Punkte. Wenn man diese anonymen Punkte hat, sind wir natürlich darauf angewiesen, auch auf Feedback von Kunden. Wir müssen wissen, wenn wir eine Warnung geben, da ist jemand gestürzt, dann trainieren wir zum Beispiel ein System, das Personen auseinanderhält. Wir haben verschiedene KI-Modelle, und es ist effektiv Machine Learning.

00:04:39: Jonas Reber: Ein Machine Learning, das Personen auseinanderhält, das probiert herauszufinden: Sind diese Punkte, diese Bewegungswolke, eine oder zwei Personen? Das kann man sich mehr oder weniger so vorstellen: Wenn eine Person im Bett liegt und eine Pflege kommt her, sieht das irgendwann einmal, wenn die Pflege genau beim Bett ist, wie eine Punktwolke aus, die ineinander verschmilzt. Wenn ich jetzt kurz das System abstelle und wieder herschaue und jetzt kenne ich wieder die Punktwolke, die verschmolzen ist, dann kann ich nicht genau auseinanderhalten: Ist jetzt das eine Person oder zwei oder ist die allein?

00:05:18: Jonas Reber: Wenn jetzt jemand wegläuft, kann ich auch nicht genau sagen: Ist jetzt der, der im Bett gewesen ist, immer noch allein oder nicht? Das ist effektiv eine der Schwierigkeiten, und das ist auch dann, wenn ich manchmal das Gefühl habe, es wäre doch alles viel einfacher, wenn man einfach eine Kamera hätte, weil da würde man es einfach sehen. Da haben wir schon viele Challenges, die wir auch mit Machine-Learning-Modellen effektiv lösen und natürlich diese aber auch kontinuierlich weitertrainieren. Alle diese 150 Kunden, die dieses System installiert haben, die geben kontinuierlich Feedback. Das heisst, wir können kontinuierlich von allen diesen Verbesserungen der Systeme profitieren, weil das ja alles bei uns in der Cloud berechnet wird schlussendlich.

00:05:57: Martin Steiger: Herr Reber, was heute noch wichtig ist, Sie haben noch einmal so ein Schlagwort gesagt, ein Begriff, der wahrscheinlich viele im Publikum triggert, nämlich Cloud. Cloud heisst dann, da gibt es Verbindungen, das liegt irgendwo. Sie sagen ja, das Wort für Ihr System, das ist von Anfang an anonym. Sie haben diese Kameras erwähnt. Wir haben interessanterweise in den Datenschutz-Plaudereien einmal einen Spezialgast gehabt, Maia Arson Crimew, Schweizer Hackerin und Netzaktivistin. Die hat vor Jahren einmal Kameradaten aus den USA von Spitälern gehackt oder der Öffentlichkeit zugänglich gemacht. Aktuell haben wir das ganz prominente Beispiel Iran-Krieg, wo offenbar der israelische Geheimdienst das genutzt hat.

00:06:42: Martin Steiger: Kameradaten sind ein Riesenthema. Man hat die Kameras vor Ort, muss auf die zugreifen können für Updates, für Administration, für weiss nicht was. Selbst wenn man Bilder gerade versucht zu anonymisieren, nach meinem Verständnis hat man immer auch die Rohdaten, die braucht man zum Teil für Remote-Access-Support. Bei Ihnen haben wir Radar. Das geht dann irgendwie in die Cloud und geht dann irgendwie zu den Nutzerinnen und Nutzern, zum Beispiel die Pflegestation, die dann da verschiedene Angaben bekommt. Wenn man es sich anschaut, das geht dann bis theoretisch irgendwie auf die Atemfrequenz, auf den Herzschlag hinunter. Können Sie dazu etwas sagen, wie das da hintendurch funktioniert? Dieses Stichwort Cloud macht vielen Angst.

00:07:24: Jonas Reber: Genau, das ist verständlich, und da habe ich effektiv selber auch zum Teil Mühe, weil schlussendlich, wie das ganze Netz oder das ganze Internet überhaupt aufgebaut ist, fliessen diese einzelnen Pakete alle irgendwie über die USA, und da weiss man schon ziemlich sicher, dass das alles irgendwo zwischengespeichert wird. Das ist auch der Hauptgrund, wieso wir sagen: Wir wollen gar nie erst die Bilder haben, wir wollen die Finger davon lassen, wir wollen diese Informationen nicht haben. Was bei uns der grosse Vorteil ist: Man hat zum Beispiel mit dem Datenstream auf einer kamerabasierten Lösung, wo man etwas nachschauen will, ein Event nachschauen will, das heisst, man muss ja diese Daten vorhalten. Das heisst, man muss, wenn man Klarbilder haben will, für eine gewisse Zeit diese Daten aufzeichnen. Die Rohdaten muss man auch aufgezeichnet haben, wenn man sie anonymisieren will.

00:08:24: Jonas Reber: Wenn ich hergehen will nach einem Event und schauen will: «Was ist da genau passiert?», dann müssen diese Daten im System noch vorhanden sein. Plus, man will ja KI-Modelle weitertrainieren, man will ja besser werden, und für das braucht es halt Vision-Modelle, möglichst viel Labeled Data, also annotierte Bilder, was da genau drauf ist. Das machen wir zum Teil – wir haben alle schon diese Captchas erlebt, wenn man sagen muss: «Alle Autos und alle Ampeln muss man gerade auswählen.» Das ist eigentlich recht clever, da werden wir als Benutzer dazu benutzt, Daten zu labeln. So hat man auch extrem gute Vision-Modelle generieren können. Aber ich würde nach meinem Wissen heute behaupten, dass man ohne Rohdaten, ohne sinnvolle gelabelte Rohdaten sehr schlechte Vision-Modelle machen kann oder halt generische, die halt ungefähr funktionieren.

00:09:21: Jonas Reber: Das ist der grosse Unterschied zu dem, was wir machen. Wir haben diese Punktwolke. Jetzt kann man sich diese Punktwolke anschauen, ich kann mir diesen Stream einhacken, ich kann den jedem zur Verfügung stellen, das sind einfach so Punkte. Ich habe zwar nachher vielleicht Informationen über Bewegungen in einem Raum, aber was ich nicht habe: Ich weiss nicht, welcher Raum dass es ist, ich weiss nicht, ist es Person A oder B oder sind es zwei Personen oder mehrere. Ich habe die ganzen Kontextinformationen nicht, und das hat bei uns – und wir wollen explizit keine Informationen von Kunden in unserem System haben –, wir haben keine Personennamen auf Bett, wir tun alles auf Bett beziehen. Wir wissen nicht, ob das der Herr Meier oder Frau Müller ist, sondern wir wissen einfach, das ist Bett 1.

00:10:21: Jonas Reber: Der Kunde hat diesen Schlüssel, und das ist eine zusätzliche Sicherheit, die wir bieten. Also auch wenn man unsere komplette Cloud kopieren würde, sind keine Kunden- oder Patientendaten darin gespeichert. Dieser Schlüssel von Zimmer 101 zu «Das ist die Frau Müller, die 85 ist und einen Schlaganfall gehabt hat», diesen Schlüssel hat nur das Spital. Zusätzlich zu den QUMEA-Daten, die man offenlegen kann, die Identifikation passiert nur beim Kunden. Dort ist natürlich die Institution sehr darauf bedacht, dass diese Daten entsprechend sicher sind. Was wir offerieren, ist ein Export von Daten, also für Krankenakten zum Beispiel, wo man wissen will: Diese Person – was wir anbieten, ist so eine Aktivitätskurve –, wo man sieht, wie oft ist jemand in der Nacht aufgestanden. Als Beispiel: Wenn da 18-mal jemand aufgestanden und auf die Toilette gegangen ist, dann kann man davon ausgehen, dass wahrscheinlich etwas mit der Blase nicht gut gewesen ist. Und wenn jemand komplett keine Bewegung oder sehr wenig Bewegung zeigt während dem Schlaf, deutet das eher darauf hin, dass man die Medikation vom Schlafmittel zum Beispiel zu hoch genommen hat.

00:11:35: Jonas Reber: Aber diese Verbindung, die macht der Arzt, die macht die Institution, die macht die Pflege an sich auf den Patienten. Da probieren wir so lange wie möglich keine personenbezogenen oder patientenbezogenen, aber auch pflegebezogenen Daten bei uns im System zu haben. Das macht unsere Position natürlich sehr praktisch. Wir sagen einfach: Wir wissen es gar nicht und wir wollen es aber auch nicht wissen. Martin Steiger: Das mit diesen Videokameras, die ja zum Teil von der Konkurrenz offenbar eingesetzt werden, macht einem schon ein bisschen Sorge. Auch die Vorstellung: Das ist heute einfach gängig, dass auch solche Anbieter erfolgreich angegriffen werden. Kann man nie ganz ausschliessen bei aller Sorgfalt. Dann muss ich ja davon ausgehen, dass ein Angreifer bei einem Anbieter, der dieses Patientenmonitoring mit Videokameras macht, potenziell auf alle Videokameras zugreifen kann, potenziell auf Rohdaten von diesen Sensoren – und das sind einfach Kameras – zugreifen kann.

00:12:32: Jonas Reber: Wenn ich da im Bett liege, mich dann in 4K-Auflösung sehe und mich dann, wie alle anderen, die sichtbar sind auf weiteren Bildern, mit irgendeinem gängigen Tool – PimEyes ist jetzt sehr bekannt für Gesichtserkennung – identifizieren kann. Das Szenario – ich weiss, Sie machen es anders –, aber das Szenario, ich glaube, das macht einem zu Recht Sorge. Jonas Reber: Es ist effektiv so, das macht mir auch Sorge. Und eben, wenn man schon in so einer Situation ist, wo man ja eh nicht gross unterscheiden kann, und die meisten Leute sagen dann auch: «Ich habe ja nichts zu verstecken.» Und das stimmt ja wahrscheinlich auch, das ist ja tiptop. Aber trotzdem tut jeder von uns die WC-Tür zu, wenn wir unser Geschäft am Erledigen sind, und trotzdem hat jeder gern irgendwie ein Daheim und lebt nicht völlig offen. Diese pauschale Aussage «Ich habe ja nichts zu verstecken», das widerspricht in mir drin halt irgendetwas. Wir haben alle gern Intimsphäre, wir haben alle gern Privatsphäre, und wir sind alle nicht gern in den vulnerabelsten Momenten öffentlich zugänglich.

00:13:46: Jonas Reber: Und das ist effektiv bei diesen Kameras so. Alles, was vernetzt ist, Daten irgendwohin schickt, schickt Daten irgendwohin, und dann kann ich mich als anderen Empfänger ausgeben. Da gibt es verschiedene technische Möglichkeiten. Und was ich auch noch recht spannend finde, ich habe vorhin gerade noch eine Webseite, hacked.camera, die müssten Sie sich mal anschauen. Da habe ich gerade vorhin Daten von der Stadt Zürich zum Beispiel angeschaut, und das sind gerade im Moment 3731 Kameras, wo ich einfach darauf zugreifen kann. Die Leute wissen das schlicht einfach nicht. Und ich glaube, dort wollen wir als QUMEA sicher unsere Position verteidigen und auch dort wieder darauf aufmerksam machen können, dass das ein technisch mögliches Risiko ist, wo gerade, wenn es Alternativen gibt und man sich nicht entziehen kann. Wenn ich in einen Bahnhof will, wo dort alles überwacht ist, ist es das eine, ich kann nicht in den Bahnhof gehen. Aber wenn ich ins Spital gehen muss, dann geht es um meine Gesundheit, und das ist schon ein drastischerer Eingriff in meine Möglichkeiten.

00:14:51: Jonas Reber: Und dort ist wirklich so die Verhältnismässigkeit, glaube ich, angebracht. Ich will nicht gegen Kameras ranten, ich finde Kameras super und was man da machen kann mit dem Handy sowieso. Aber es gibt Situationen, wo es wie nicht nötig ist. Und diese Verhältnismässigkeit, ich glaube, das ist recht wichtig, dass sich die Leute derer bewusst werden, dass es Alternativen auch gibt. Martin Steiger: Hacked.camera ist ein sehr guter Hinweis, tue ich gern in die Shownotes verlinken. Man hat da wirklich so eine Weltkarte, also so eine OpenStreetMap-Karte, und für die Schweiz im Normalfall sind rund 100'000 Kameras vermerkt und irgendwie, ich glaube, 70'000 IP-Adressen. Das ist schon recht eindrücklich, was man da findet. Je länger Sie reden – ich komme ja vom Recht her –, desto mehr datenschutzrechtliche Fragen kommen mir in den Sinn mit Blick auf kantonale Gesetzgebung. Zum Beispiel im Kanton Zürich heisst es im aktuellen IDG: Vermeidung des Personenbezuges, also eigentlich Datenminimierung, gesetzliche Vorgabe. Gleichzeitig weiss ich aus den Medien, dass eben gewisse Zürcher kantonale Spitäler diese Videokameras einsetzen für das Patientenmonitoring. Aber ich schlage vor, das ist ein Thema allenfalls für einen anderen Tag. In dem Sinne, Herr Reber, für heute vielen Dank für diese ausführlichen Ausführungen.

00:16:12: Jonas Reber: Herzlichen Dank auch, merci vielmals, Herr Steiger. Sprecher: Haben dir die Datenschutz-Plaudereien gefallen? Wir freuen uns über deine Bewertung, deinen Kommentar oder deine Rückmeldung.