KI – Normendschungel, was kommt wann und was sollte ich im Auge behalten

In dem Vortrag versucht Herr Kowalski eine kurze Übersicht zu geben, was aktuell an Regulierungen gibt und dann zu zeigen, dass diese Regulierungen auf Normen verweisen, die erst noch geschrieben werden müssen. Dann wird er gegenüberstellen, was an aktuellen Normen geschrieben wird und wann diese zu erwarten sind. Dabei wird er auch zeigen, das man nicht nur im Bereich IEC /ISO schauen sondern auch mal bei „lokalen“ Normengremien wie z.B. die AAMI schauen sollte.

Referent: Dominik Kowalski, Brainlab

Nach seinem Abschluss als Dipl. Ing. Mikrosystemtechnik in Freiburg 2003 ist Dominik Kowalski im Bereich Medizintechnik tätig. Herr Kowalski arbeitet sich in die Anforderungen der IEC 60601 ein und setzt diese erfolgreich zuerst als Elektronik Entwickler und dann als Projekt Engineer / Projektleiter in verschiedenen Projekten ein.

Bei Brainlab wurde er Mitglied im NAR (Nominierungsausschuss Radiologie) und in Folge auch Mitglied im IEC (SC62CWG1 Strahlentherapie). In diesem Umfeld gestaltete er verschiedene Normen mit und setzte diese auch bei seiner Arbeit im Bereich Strahlentherapie im Rahmen von CB Reports ein.

Aufgrund der steigenden Anforderungen im Bereich Erstfehlersicherheit arbeitet Herr Kowalski bei der IEC an den kommenden Normen zu diesem Thema mit. Dieses Konzept verantwortet Herr Kowalski im Bereich der Strahlentherapie, was auch in verschieden Audits stand hielt.

Globale Patenttrends in der Medizintechnik mit KI – was sich tut und warum Sie sich dafür interessieren sollten

Der Vortrag beleuchtet die globale Patentlandschaft in der Medizintechnik mit einem besonderen Fokus auf den Einsatz von KI und zeigt auf, welche Regionen und Unternehmen weltweit welche Schlüsseltechnologie dominieren und wie sich dies im Laufe der letzten Jahre verändert hat. Beispielsweise ist für viele Schlüsseltechnologien in China eine erhebliche IP-Aktivität zu verzeichnen. Dies sollte westliche Akteure jeder Größe dazu veranlassen, die Rolle Chinas zu überdenken, das sich mit einem eigenen starken internationalen Patentportfolio positioniert (hat).

Darüber hinaus wird der Vortrag die Grundlagen des Patentsystems erläutern, insbesondere Besonderheiten im Bereich von computerimplementierten Erfindungen (CII) und wie StartUps sowie kleine und mittlere Unternehmen (KMU) das Patentsystem nutzen können, um ihre Wettbewerbsposition im Technologiebereich der medizinischen Geräte und KI zu verbessern:

1. Patente als Monopole technologischer Innovation, Besonderheiten von CII-Patenten
2. fokussierter Entwicklungsprozess durch Einblicke in die neuesten technologischen Entwicklungen der Konkurrenten und die Nutzung des frei gewordenen Standes der Technik (von den Patentämtern kostenlos veröffentlicht)
3. Vermeidung von Konflikten mit Patenten durch vorzeitige Recherche und Überwachung

Was lernen die Zuhörer in dem Vortrag:

• Wesentliche Aspekte zu KI/CII-Patentanmeldungen/Patenten.
• Welche Unternehmen bzw. Regionen aus Patentsicht den Technologiebereich der medizinischen Geräte mit KI dominieren, in ihrer Bedeutung zunehmen bzw. abnehmen.
• Wie StartUps und KMUs das Patentsystem (gefördert) nutzen können, um ihre Wettbewerbsposition im Technologiebereich der medizinischen Geräte mit KI zu verbessern.

Referent: Dr. Felix Grasbon, Realpatent – Grättinger Möhring von Poschinger Patentanwälte

Dr. Felix Grasbon ist Partner bei „Grättinger Möhring von Poschinger Patentanwälte Partnerschaft“, auch bekannt als „Realpatent“. Die 1959 gegründeten Boutique-Patentanwaltskanzlei in Starnberg widmet sich dem gewerblichen Rechtsschutz – insbesondere der Absicherung technischer Innovationen durch Patente. Nach der Promotion am Max-Planck-Institut für Quantenoptik wechselte Dr. Felix Grasbon in das Feld des gewerblichen Rechtsschutzes, anfangs in-house in einer Patentabteilung im Bereich der Medizintechnik. Danach sammelte er international und national Erfahrung in einer US-IP-Kanzlei und in einer Münchner Kanzlei und ist seit 2019 Partner bei Realpatent. Seit 2002 begleitet ihn die Thematik computerimplementierter Erfindungen (computer implemented inventions CII), die von fast keiner Neuentwicklung mehr wegzudenken ist und deren Bedeutung mit dem Einzug der KI weiter gewinnen wird. Im engen Bezug zur Implementierung sind gerade auch in der Medizintechnik CII-Neuentwicklungen dem Patentschutz zugänglich, wobei eine Abwägung von u.a. geschäftlichem Vorteil, Nachweisbarkeit und Durchsetzbarkeit einen wesentlichen Gesichtspunkt bei der Beratung zur Patentstrategie darstellt.

Kausale Effektschätzung in nicht-randomisierten klinischen Studien mit einer Anwendung auf Scaffold Implantationen

Die Vorhersage, wie sich ein Patienten entwickelt hätte, wenn während der klinischen Behandlung eine andere Entscheidung getroffen worden wäre, ist ein schwieriges statistisches Problem. Diese kausale Frage taucht in vielen klinischen Studien auf, zum Beispiel bei der Entwicklung chirurgischer Leitlinien. Deshalb ist die statistische Schätzung der Behandlungseffekte essenziell. In diesem Vortrag fokussieren wir uns auf die Implantation von Koronarstents (genauer: Scaffolds), welche das Ziel haben den ursprünglichen Blutfluss wiederherzustellen und somit u.a. Herzinfarkte verhindern. Da Kardiologen während des Eingriffs nicht die Möglichkeit haben, z.B. den Diabetes-Status zu verändern, berechnen wir den Effekt von Entscheidungsvariablen auf das Risiko eines unerwünschten Ereignisses. Wir zeigen, dass dieser mithilfe eines nicht-randomisierten, beobachteten Datensatzes von 2000 Patienten noch immer berechnet werden kann. Dazu verwenden wir statistische graphische Modelle, welche den Einfluss gemessener Variablen zueinander modellieren und es erlauben Interventionale Verteilungen abzuleiten. Letztere würde man beobachten, falls z.B. alle Kardiologen den Pre-Dilatationsballon mit exakt 18ath aufblasen würden. Mit Hilfe von medizinischen Experten haben wir einen kausalen Graphen entworfen, verfeinert und mit verschiedenen Machine-Learning Methoden die Effekte geschätzt und diskutiert. Unsere Analyse umfasst 12 Entscheidungsvariablen, die in zukünftigen klinischen Richtlinien gesetzt werden können, um hoffentlich weniger langfristige unerwünschte Ereignisse zu beobachten.

Referent: Leopold Mareis, Fraunhofer IKS

Leopold Mareis ist seit 2021 ein Statistik Doktorand an der Technischen Universität München unter der Betreuung von Mathias Drton. Ebenfalls arbeitet er am Fraunhofer-Institut für Kognitive Systeme IKS in der Abteilung ‚Reasoned AI Decisions‘ mit einem Fokus auf medizinischen Daten. Ein Schwerpunkt seiner Forschung liegt in der kausalen Analyse von zufälligen Systemen, um mit vertrauenswürdigen und erklärbaren Methoden Zusammenhänge aufzudecken.

Explainable AI for Medical Image Processing

Modern AI methods like Deep Learning and Convolutions Neural Networks have demonstrated very promising results in the field of automated medical imaging analysis. Use cases are, for example, automatic segmentation and localization of anatomical structures such as organs or blood vessels.

Despite all the advantages, Deep Learning algorithms have a major downfall: They are intrinsically black boxes. Results are not transparent; we do not know what the AI used to come to its predictions. In a medical setup, however, it is important to know exactly how an algorithm works. Otherwise, it is not possible to assess possibles risks and failures that can lead to catastrophic outcomes.

Explainable AI tries to counter this and make AI decisions more transparent. Unfortunately, in most publications, the Explainable AI methods are only applied to simple AI architectures like classification.

For this talk, we extended Explainable AI methods to more complex AI tasks such as segmentation or object detection, and applied them to AIs for medical imaging. We can use the insights to identify possible edge cases and make the application of AI more trustworthy and secure.

Referent: Khanlian Chung, Vector Informatik

Khanlian is a product owner and senior software development engineer at Vector. He is responsible for integrating AI features in Vector software testing tools. The focus of his work is how AI-based software can be tested and secured. Khanlian graduated in physics. As a PhD student and postdoc at Heidelberg University, he investigated how AI can improve diagnostic and interventional imaging for cancer patients.

Data for AI-based medical devices: What to consider on the way to CE certification?

In this presentation you will receive an overview of regulatory requirements for AI-based medical devices in MDR, AIA, GDPR and Co. with focus on data​. Moreover, the speaker will discuss regulatory compliant documentation of AI-based medical devices with focus on data​ and the importance of data monitoring in the context of post-market surveillance of AI-based medical devices.

Referent: Dr. Thorsten Prinz, VDI e.V.

Dr. Prinz ist Biologe und beschäftigt sich beim VDE mit den regulatorischen Anforderungen von Medizinprodukten und Software. Bis 2012 war er als Gruppenleiter und Qualitätsmanager in der biopharmazeutischen Industrie tätig. Zuvor arbeite er als wissenschaftlicher Mitarbeiter an den Universitäten Freiburg und Utrecht.

Optimierung Klinischer Pfade in der Diagnostik: Brustbildgebung

Die weitere Optimierung klinischer Pfade in fachlicher und logistischer Hinsicht ist der Schlüssel zur Steigerung von Effektivität und Effizienz in der klinischen Versorgung. Dieser Vortrag zeigt am Beispiel der Mamma-Diagnostik auf, wie Pfade mit Hilfe von Innovation verbessert werden können.

Das Mammakarzinom führt mit etwa 70 Tausend Neuerkrankungen pro Jahr in Deutschland die Statistik der weiblichen Krebserkrankungen an. Es gibt heute zwei wesentlichen klinischen Pfade in der Diagnostik des Mammakarzinoms: Erstens der symptomatische Befund (inkl. Tastbefund) und zweitens der Befund beim Screening. Im ersten Fall wird oft die Mammographie zur Abklärung eingesetzt, im zweiten Fall immer (oft in Kombination mit der Sonographie). Beide klinischen Pfade sind suboptimal. Bei der Abklärung ist die Mammographie als Überlagerungsdarstellung suboptimal, und beim Screening ist die Sensivitität bei jüngeren Patientinnen mit dichtem Brustgeweben unbefriedigend.

Was lernen die Zuhörer in dem Vortrag:

Optimierung klinischer Pfade mit Hilfe von KI, Agilität, Steigerung von Effektivität und Effizienz in der klinischen Versorgung

Referent: Dr. Jost Landgrebe, Cognotekt GmbH

Dr. Jobst Landgrebe kombiniert auf einzigartige Weise die Bereiche Data und Life Science. Er studierte Philosophie, klassische Philologie, Mathematik sowie Medizin und ist approbierter Arzt. Seine Dissertation schrieb er im Bereich Biochemie/Zellbiologie an der Universität Göttingen. Danach folgten leitende Positionen am Max-Planck-Institut für Psychiatrie in München mit dem Schwerpunkt Biomathematik sowie im Bereich Technologieberatung, Data Science und Künstliche Intelligenz in der Wirtschaft.

Bei der Strategieberatung Booz Allen Hamilton etwa umfassten seine Themen die Initiierung neuer F&E-Strategien für große global tätige Pharmaunternehmen sowie die Entwicklung von IT- und KI-Strategien für Pharmaunternehmen und Krankenhausketten.
Bei der Allianz Private Krankenversicherung initiierte er die Abteilung Künstliche Intelligenz und Data Science. 2013 gründete er Cognotekt, um Life – und Data Science in der Beratung von Pharma/Biotech-Branche sowie bei Private Equity Gesellschaften zu kombinieren.

Effizient und sicher auch bei komplexen Produkten: Produkte und Prozesse mit KI und Digitalisierung absichern – mit Praxisbeispiel

Die Qualitätsvorgaben sind in der Medizintechnik besonders hoch. Bei Produkten mit hunderten Einfluss- und Zielgrößen kommt man mit ingenieursmäßigem Ansatz oft nicht weiter. Dann hilft Künstliche Intelligenz. Denn in der qualitätssensiblen Medizintechnik lässt sich mit Digitalisierung, KI und der richtigen Methode effizient und sicher entwickeln und produzieren.

Im Vortrag werden die praxiserprobte Methode Robust Design sowie die Engineering-KI Analyser® anhand eines Praxisfalls vorgestellt. Schritt für Schritt wird aufgezeigt, wie man auch bei tausenden Anforderungen effizient und sicher zum Ziel kommt: von der Qualifizierung der Messmittel, Ableitung von Kontrollplänen über die Prototypenfertigung und Nullserie bis zur Überführung in die Serie. Das KI-System Analyser® errechnet sowohl in der Prototypenphase als auch für die Nullserie mit wenigen gelabelten Stichproben die Best Settings für die Funktionalität der Komponenten und Herstell-Prozesse. So spart man bis zu 60 Prozent an Zeit, Kosten und ressourcenintensiven „Umwegen“.

Für diese Einsparpotenziale ist Contech mit dem Bayerischen Ressourceneffizienzpreis 2021 ausgezeichnet worden.

Referent: Frank Thurner, Contech Software & Engineering GmbH

Dipl.-Ing. (FH) Frank Thurner, Lean Six Sigma Master Black Belt, hat mit der Methode Robust Design schon in über 1.100 Projekten für robuste Produkte und stabile Prozesse in der Industrie gesorgt. Das Engineering-KI-System Analyser® basiert darauf. Frank Thurner ist Geschäftsführer der Contech Software & Engineering GmbH und der Schwesterfirma mts Consulting & Engineering GmbH und war 2019 Gewinner des Digitale-Macher-Wettbewerbs der IHK München und Oberbayern.

Das KI-System Analyser®, für dessen Algorithmus Frank Thurner das Patent hält, hat sich in der Projektarbeit und im Fabrikalltag unterschiedlicher Branchen bewährt. Für die Einsparpotenziale an Material, Energie und Zeit von bis zu 60 Prozent, die sich mit der Methode Robust Design und dem Analyser® erreichen lassen, ist Contech mit dem Bayerischen Ressourceneffizienzpreis 2021 ausgezeichnet worden.

Ohne Kennen, keine Kühnheit – Regularien für KI-Medizingeräte in China und die damit verbundene Herausforderung

Nach dem Spätstart bei der Entwicklung und Regulierung von Medizinprodukten versucht China nun in diesem Bereich nicht nur aufzuholen, sondern die Konkurrenz sogar zu überflügeln. Hierbei spielt die künstliche Intelligenz die entscheidende Rolle. Als eine der ersten Institutionen hat die NMPA (chinesische Verwaltungsbehörde für Medizingeräte) im Sommer 2019 eine Guideline zur Zulassung von Medizinprodukten, die Deep-Learning nutzen, veröffentlicht. Nachdem drei Jahren mit der initialen Fassung erste Erfahrungen gesammelt wurden, ist im Jahr 2022 eine neue Version der Guideline veröffentlicht worden. In dieser Version wird der Anwendungsbereich der Guideline auf alle KI-Medizinprodukte ausgeweitet. Damit ist die Regulierung für KI-Medizinprodukte in China offiziell in ein formales Rahmenwerk eingebettet. In einer Zeit, in der in der EU kaum Regularien für KI-Medizinprodukte Anwendung finden oder gar verfügbar sind, ist der regulatorische Ansatz Chinas auch für die europäischen Hersteller eine bedeutende Entwicklung.

In diesem Vortrag werden wir zunächst einen Blick auf den oben genannten regulatorischen Rahmen Chinas werfen. Dies umfasst die Definition von KI-Medizinprodukten, die Klassifizierung nach Kriterien wie Decision Supporting und Reifegrad der Algorithmen sowie weitere Aspekte.

Darüber hinaus wird der Vortrag darlegen, welche Herausforderungen in der Umsetzung entstehen. Während die Regularien der NMPA bereits die erste Weiterentwicklungsschleife durchlaufen haben, stellen sie für die Reviewer der Behörde in der Anwendung eine große Herausforderung dar. Für viele Reviewer der NMPA ist die künstliche Intelligenz weiterhin ein neues und fremdes Feld. Für eine Software, die durch den Einsatz künstlicher Intelligenz als intransparent und schwer erklärbar wahrgenommen wird und einen Black Box Algorithmus besitzt, muss die Registrierung daher trotz des regulatorischen Rahmenwerks weiterhin hart erkämpft werden.

Jedoch ist es nur verständlich, dass sich die Verantwortlichen hier schwertun:
Wenn Sie kein Experte im Feld der künstlichen Intelligenz sind, würden Sie sich trauen, eine Software mit hohem Risiko auf dem Markt zu genehmigen, ohne ihren Funktionsmechanismus wirklich zu kennen und zu verstehen?
In diesem Vortrag werden wir deshalb auch über Transparenz und Erklärbarkeit von KI-Medizinprodukten diskutieren, da diese momentan nicht explizit in der Guideline gefordert sind, und deshalb eine implizite Bedingung für die Zulassung darstellen.

Referentinnen: Zhencan Xu und Nandi Zhou, FSQ Experts GmbH

Zhencan Xu ist als Medical Device Expert bei der Firma FSQ Experts GmbH tätig, wo sie Medizintechnikunternehmen mit konkreten und pragmatischen Lösungen unterstützt, um Know-How- oder Ressourcenengpässe in Bereichen wie Quality Management, Regulatory Affairs oder System Engineering zu schließen.

Als chinesisch Muttersprachler ist sie mit 15 Jahren nach Deutschland gekommen. Nach ihrem Bachelor in Maschinenwesen an der Technischen Universität München hat sie sich im Masterstudium auf Medizintechnik fokussiert. Seit 2019 verstärkt sie das Medizintechnikteam der Firma FSQ Experts GmbH. Sie ist qualifiziert als Regulatory Affairs Managerin (TÜV Süd) und kombiniert ihre technischen Kenntnisse mit regulatorischen Anforderungen zusammen, um Kunden am besten zu unterstützen.

Nandi Zhou hat Maschinenwesen mit dem Schwerpunkt Medizintechnik an der Technischen Universität München (TUM) studiert und absolviert derzeit ein Masterstudium im selben Bereich. Seit etwa zwei Jahren ist sie als Werkstudentin bei der FSQ Experts GmbH tätig. Dort ist sie ein fester Bestandteil des Medical Device Teams, wo sie sich auf die Bereitstellung praktischer Lösungen für Medizintechnikunternehmen in Bereichen wie Qualitätsmanagement, Risikomanagement und Regulatory Affairs spezialisiert hat. Nandi Zhou verfügt darüber hinaus über Kenntnisse und Projekterfahrungen im Bereich der NMPA-Regulierung für Medizinprodukte in China.

KI in der Medizintechnik – Helfen hier Standards?

Künstliche Intelligenz (KI) schürt Hoffnungen und Ängste und Gesetzgeber haben sich des Themas relativ früh angenommen. Es ist ein bewährter Ansatz, regionale und internationale Normen zu nutzen, um ein einheitliches Verständnis zu erreichen, wie man die Paragraphen der Gesetze praktisch umsetzen kann.

Und dass solche Normen gebraucht werden, zeigt auch der „standardization request“ zur KI Verordnung. Aber auch übergreifende Gremien von Zulassungsbehörden, wie IMDRF und GHWP, aber ebenso nationale Organisation publizieren Rahmenwerke und „Guidelines“ um den Nutzen der künstliche Intelligenz in der Medizin zu heben, möglichst ohne negative Auswirkungen. Können Standards so etwas überhaupt leisten?

Andererseits ist KI auch auf dem Gebiet der Medizintechnik nach wie vor ein Gebiet intensiver Forschung. Wie kann man also ein Gebiet wirksam standardisieren, dass sich noch so stark entwickelt?

Das versuchen schließlich weltweit viele Standardisierungsgremien, wenn auch auf Grund der Größe und Lebendigkeit des Themas aus sehr unterschiedlichen Blickwinkeln. Kann das überhaupt funktionieren?

Der Vortrag soll einen kurzen Überblick über den Stand aus dem Blickwinkel der internationalen Normung geben. Gleichzeitig zu erklären, warum die Landkarte der Standardisierungsaktivitäten so lückenhaft und dynamisch ist und welche Ansätze und Aussichten es gibt, diese Lücken zu schließen.

Referentin: Regina Geierhofer, Siemens Healthineers

Frau Geierhofer ist derzeit Sekretärin von IEC TC62, SC62B, SC62C, Co-Convenor der IEC TC62 AG SNAIG und Co-Editor des technischen Berichts zu „Intelligent Computing“ in ISO/IEC JTC1 AG2.

In all diesen Funktionen beschäftigt Sie sich mit künstlicher Intelligenz in der Medizintechnik, wenn auch aus unterschiedlichem Blickwinkel.

Nach ihrem Abschluss in angewandter Chemie bzw. angewandter Mathematik arbeitete Frau Geierhofer ein Jahrzehnt lang in einem Universitätskrankenhaus in Österreich mit dem Schwerpunkt IT für Radiologie, Nuklearmedizin und Pathologie.

Danach wechselte sie in die Industrie, wo sie für verschiedene internationale Unternehmen als Risikomanagerin, Auditorin und Regulatory Affairs Managerin tätig war.

Seit über 20 Jahren ist sie als Expertin in der nationalen und internationalen Normung auf dem Gebiet der Datensicherheit und der Medizinproduktnormen tätig.

Die KI kommt! Der Mensch geht?

Nachrichten berichten uns von den scheinbar grenzenlosen Fähigkeiten der KI. Auch wenn man es gar nicht möchte, wird jeder von uns direkt oder indirekt die Auswirkungen von KI in allen Lebensbereichen erfahren und den Entscheidungen durch KI ausgesetzt sein.

Wir fühlen uns bei diesem komplexen Thema überfordert oder haben sogar Angst davor. Erinnern wir uns an die Filmreihe Terminator mit Arnold Schwarzenegger, sehen wir immer das Ende der Menschheit, weil Maschinen die Weltherrschaft anstreben.

Blockieren wir mit dieser Denkweise nicht auch alle notwendigen, wichtigen Innovationen für die Zukunft zum Beispiel in der Medizintechnik.

Über die Risikoklassifizierung und den EU-KI-Act spricht der Vortrag Vorteile und Nachteile der KI für uns Menschen an.

Wieviel müssen oder können wir regulieren? Wie finden wir Menschen über Aufklärung und Bildung eine neue Rolle im Zeitalter der KI.

Referent: Torsten Herbert, sepp.med GmbH

Torsten Herbert studierte Physik mit Schwerpunkt Angewandte Physik – Sensorik an der Justus-Liebig-Universität in Gießen.

Nachdem er über elf Jahre praktische Erfahrungen als Softwareentwickler in unterschiedlichen Branchen sammelte, arbeitet er seit 2006 im Bereich Softwarequalitätssicherung bei der sepp.med GmbH und ist mittlerweile Teamleiter der Accounts Medical Engineering und Integration-/Systemtest.

Er ist vielfach zertifiziert, u.a. ISTQB® CTFL, CTFL-AuT und CTAL-TM, und verfügt über umfangreiche Erfahrung als IT-Berater, Trainer, Projektleiter und Testmanager.

Performanceanalyse von KI-Systemen mit Bayes’schen Netzen

Ohne Zweifel bietet Künstliche Intelligenz (KI) in der Medizintechnik neue Entwicklungsmöglichkeiten – wie z.B. auf dem Gebiet der Diagnostik. Dem Potential dieser Methoden stehen allerdings meist hohe Komplexität und oft Intransparenz gegenüber. Speziell in sicherheitsrelevanten Applikationen ist daher eine der größten Herausforderungen ein glaubwürdiges und belastbares Sicherheitsargument zu formulieren.

In dieser Präsentation zeigen wir an einem Beispiel wie mit Hilfe von Bayes’schen Netzen durch Variationen in Trainings- bzw. Testdaten Änderungen in der Performance einer KI abgeschätzt werden kann. Dabei können nicht nur Abhängigkeiten in Trainings- bzw. Testdaten analysiert werden, sondern auch „White Spots“ im Zustandsraum der entsprechenden Daten gefunden und anschließend systematisch geschlossen werden.

Durch das Zugrundelegen von mathematischer Evidenz hilft dieser Ansatz damit nicht nur Entwicklern, die z.B. ihre Datensätze systematisch erweitern können, sondern auch Assessoren und Auditoren bei der Bewertung der Sicherheitsargumentation.

Referenten: Frauke Blossey und Tim Jones, exida.com GmbH

Frau Frauke Blossey ist als Functional Safety and Security Consultant bei der exida.com GmbH tätig. Sie verfügt über mehrere Jahre Erfahrungen in den Bereichen Software und Requirements Engineering sowie Safety Management für Projekte bis ASIL D (ISO26262).

Sie studierte Informatik an der Technischen Hochschule in Nürnberg und hängte noch ein Mathematik Studium an der TU München dran. Ihre berufliche Laufbahn startete sie bei ESR Labs als Embedded Software Ingenieurin und wurde dort zur Expertin im Bereich Funktionaler Sicherheit (ISO26262).

Im August 2022 wechselte Frau Blossey zu der exida.com GmbH, um ihr Wissen als Functional Safety Consultant weitergeben zu können und sich neuen Herausforderungen wie Cybersecurity und SOTIF zu stellen. Ihr Fokus liegt dabei auf der Automobilindustrie aber auch andere Industrien wie Medizintechnik und Erneuerbare Energien liegen ihr am Herzen. Innerhalb exida bringt sie das Thema der quantiativen Risikoanalyse für SOTIF anhand Bayes’scher Netze und geeigneter Methoden voran.

Herr Tim Jones ist als Functional Safety Consultant bei der exida.com GmbH tätig. Er verfügt über mehr als 15 Jahre an Erfahrung in den Bereichen Systems und Software Engineering, Signalverarbeitung und Projektmanagement für sicherheitsrelevante Produkte.

Herr Jones studierte an der Fakultät für Elektrotechnik und Informationstechnik der TU Dresden. Nachdem er 2007 seine berufliche Laufbahn bei der Corscience GmbH & Co. KG in der Medizintechnik begonnen hatte, wechselte er 2013 als Experte für Funktionale Sicherheit zur Elektrobit Automotive GmbH. Seit 2016 ist Herr Jones als Funktional Safety Consultant bei der exida.com GmbH tätig. Sein Fokus liegt hier sowohl auf der Medizintechnik als auch der Automobilindustrie.

Herr Jones ist Mitglied der VDI Medical SPICE Standardisierungsgruppen und zusätzlich als Lehrbeauftragter an der TH Nürnberg für die Vorlesung „Funktionale Sicherheit“ verantwortlich.

Anforderungen und Strategien für eine erfolgreiche Implementierung Künstlicher Intelligenz im klinischen Alltag

Es wird für Ärzte immer schwerer, mit dem aktuellen Stand der Wissenschaft im klinischen Alltag Schritt zu halten. Die Personalisierung der Medizin durch die Integration von „-Omics“-Daten verkompliziert die klinische Entscheidungsfindung weiter. Künstliche Intelligenz (KI) könnte die Lösung für diese Herausforderungen sein. Jedoch steckt die Digitalisierung klinischer Prozesse aufgrund mangelnder Interoperabilität und dem häufig fehlendem Zugang zu strukturierten Daten noch in den Anfängen.

Ein erster Schritt ist daher, Informationen aus HL7/FHIR-Streams und unstrukturierten Quellen durch Natural Language Processing (NLP) zu extrahieren und strukturierte Eingaben zu optimieren.

Die Anforderungen an Transparenz und Erklärbarkeit von KI-basierten Empfehlungen im medizinischen Bereich schließen den Einsatz intransparenter konventioneller maschineller Lernlösungen zur Entscheidungsunterstützung aus. Jedoch besteht die Möglichkeit, eine Kombination aus von Experten modellierten Ontologien und maschinellem Lernen unter Berücksichtigung regulatorischer Anforderungen zu verwenden.

Um das Ziel einer KI-gestützten, patientenzentrierten, Versorgung auf der Basis des neuesten Wissenstandes zu erreichen, ist daher eine End-to-End-Strategie erforderlich, die sowohl die strukturierte Verfügbarkeit medizinischer Daten wie auch die transparente und sichere Unterstützung durch Entscheidungssysteme umfasst.

Was lernen die Zuhörer in dem Vortrag:

Die Zuhörer lernen aus diesem Vortrag, dass Künstliche Intelligenz eine vielversprechende Lösung für die Herausforderungen darstellt, mit denen Ärzte im klinischen Alltag konfrontiert sind. Weiterhin wird dargestellt wie technische Hürden überwunden und regulatorische Anforderungen beim Einsatz KI gestützter Lösungen erfüllen werden können.

Referent: Andrej Nikonov, Cloudflight Munich GmbH

Andrej Nikonov ist seit 2016 Geschäftsführer der Cloudflight Munich GmbH. Er leitet ein interdisziplinäres Team, das sich auf die Entwicklung von KI-gestützten Anwendungen im Gesundheitswesen spezialisiert hat. Dabei steht der Einsatz von erklärbaren KI-Verfahren und die Datenintegration in der klinischen Praxis im Mittelpunkt. Zuvor sammelte er viele Jahre Erfahrung als Software-Entwickler und IT-Berater im Versicherungsumfeld sowie in der Automobilbranche. Herr Nikonov hat theoretische Physik und Mathematik an den Universitäten Hamburg, Cambridge und München studiert und dort zur Anwendbarkeit graphentheoretischer Prinzipien in KI-Modellen geforscht.

KI schlägt traditionelle Signalverarbeitung – ein Beispiel aus der Praxis

Unser Beitrag gibt Einblick in die Erfahrungen von Helbling Technik bei der Entwicklung eines kostengünstigen medizinischen Geräts zur Überwachung der Netzhautgesundheit des menschlichen Auges. Wir präsentieren unsere Erfahrungen von der Lösungssuche bis zur klinischen Prüfung. Der Netzhautmonitor soll individuell für Patienten konfiguriert und anschliessend bei diesen zu Hause genutzt werden. Im Vergleich zu teuren Geräten bei Augenärzten soll der entwickelte Netzhautmonitor einen Bruchteil kosten. Die begrenzte Leistung der ausgewählten, kostenoptimierten Komponenten wird durch eine hochentwickelte Signalverarbeitung einschließlich eines tiefen neuronalen Netzwerks (deep neural network) kompensiert. In unserem Vortrag gehen wir auf folgende Schwerpunkte ein:

• Ganzheitliche Systementwicklung, welche Herausforderungen zwischen Algorithmik und Mess-Hardware optimal ausbalanciert.
• Stärken und Schwächen der künstlichen Intelligenz gegenüber regelbasierten Algorithmen, insbesondere in Bezug auf die einzelnen Verarbeitungsschritte der vollständigen Signalkette von der Lichtquelle bis zur Diagnose.
• Schwierigkeiten, Lösungsansätze und Limitationen der Bildregistrierung, falls die Referenzdaten (ground truth) mit einem andersartigen OCT-Instrument aufgenommen werden.
• Unterschiedliche Perspektiven von klinischen und technischen Fachpersonen bei der Annotation der Daten

Die gewählten Lösungsansätze wurden implementiert und in einer klinischen Studie geprüft.

Referenten: Urs Anliker und Matthias Pfister, Helbling Technik Bern AG

Urs Anliker hat an der ETH Zürich Elektrotechnik studiert und im Bereich Wearable Computing promoviert. Seine berufliche Laufbahn startete er bei Helbling Technik in Bern als Entwicklungsingenieur und Projektleiter im Bereich Mikrotechnik, Optik und Medizintechnik. CI Tech Components AG als Leiter Produkt Verifikation und Validation war seine nächste Station, Software, Elektronik, Mechanik und Signalverarbeitung für die Erkennung von Banknoten waren das zentrale Thema. Es folge die Entwicklungsleitung im Bereich Cyber Security bei RUAG, Mustererkennung und Software-Entwicklung standen im Fokus. Heute arbeitet Urs Anliker wieder bei der Helbling Technik in Bern als Teamleiter Medizinische Software. Mustererkennung, Signalverarbeitung, Cyber Security und (medizintechnische) mechatronische Systeme sind weiterhin wichtige Themen in seinem Alltag.

Matthias Pfister ist Leiter des Entwicklungsteams Optical Data Science bei der Helbling Technik in Bern. Er hat das Studium der Elektrotechnik mit Spezialisierung in Signalverarbeitung an der Ecole Polytechnique Fédérale de Lausanne (EPFL) im Jahr 2008 abgeschlossen. Matthias Pfister verfügt über 15 Jahre Berufserfahrung in der Entwicklung von innovativen Technologien und Produkten für medizinische Anwendungen. Er leitete erfolgreich die Entwicklung mehrerer medizinischer Geräte, von der Idee bis zur FDA-Zulassung. In den letzten 4 Jahren hat er ein Entwicklungsteam aufgebaut und geleitet, dessen Kernkompetenz optische Systeme mit anspruchsvoller Datenverarbeitung ist.

Multimodale Datenintegration für erfolgreiche KI-Entwicklung: Ein praxisnaher Erfahrungsbericht zur prospektiven Datenerhebung

Der Vortrag beschreibt Herausforderungen bei der Entwicklung einer KI-basierten Entscheidungsunterstützung für intra-operative Anwendungsfälle. Der Kunde entwickelt eine innovative Lösung zur Fusionierung von verschiedenen Bildmodalitäten, aber das Protokoll zur Datengenerierung war nicht Teil der aktuellen klinischen Routine. Daher wurde eine prospektive Studie durchgeführt, um Daten standardisiert zu sammeln. Die Datenannotation erfolgte durch einen validierten Leitfaden von Entwicklern und klinischen Experten. Gleichzeitig wurde eine klinische Argumentationslinie entwickelt, um die Ethikkommission sowie die Patienten zu überzeugen. Die Verwendung retrospektiver Daten half bei der Validierung und Aufwandsabschätzung sowie ein besseres Verständnis für drop-out-Kriterien, Edge-Cases und den klinischen Alltag zu etablieren und somit die Entwicklungs- und klinischen Datenerhebungsprozesse zu synchronisieren. Dies war ein entscheidender Faktor für die erfolgreiche Durchführung des Projektes.

Referent: Stefan Taing, M3i GmbH

Stefan Taing ist Mitgründer und Geschäftsführer bei M3i. Er hat Informatik und Wirtschaftsingenieurwesen in Wien, Birmingham und Taipeh studiert. Seit über einem Jahrzehnt berät er Unternehmen bei komplexen Entwicklungs- und Markteintrittsprojekten insbesondere von KI-Produkten.

AIn’t this a risk? – Notwendige Veränderungen im Entwicklungsalltag beim Einsatz von KI in Medizinprodukten

Ob in der Prävention, Diagnostik oder in der Therapie – der Einsatz von KI-Technologie in der Medizin findet bereits heute Anwendung und wird in naher Zukunft ein wesentlicher Treiber für die Verbesserung der Gesundheitsversorgung sein. Die voranschreitende Digitalisierung schafft die Grundlage für diverse Anwendungsgebiete: Spezial-Diagnostik, Point-of-Care-Untersuchungen, aber auch autonome und teilautonome Abläufe in der Behandlung stellen eine verbesserte Patientenversorgung, aber auch die Entlastung von medizinischem Fachpersonal in Aussicht. Um dieses technologische Feld „KI“ einsetzen zu können, werden Hersteller mit vielen regulatorischen Anforderungen konfrontiert.

Zwar gibt es aktuell immer noch kein klar definiertes Regelwerk, welches die Anforderungen an KI in Medizinprodukten spezifiziert, jedoch schärfen der europäische „AI Act“ sowie verschiedene Guidances der FDA zum Umgang und zur Einbindung von KI in medizinische Produkte das Bild. Was ist bei dieser Technologie so anders als bisher? Wesentliche Antworten kann das angewandte Risikomanagement nach ISO 14971 liefern. Im Vergleich zu konventionellen medizinischen Systemen kommen KI-integrierte Systeme mit zusätzlichen hochrelevanten Risiken einher, die sich über den gesamten Lebenszyklus des Produkts erstrecken. Doch wo liegen die Risken in der Verwendung von KI im Vergleich zur traditionellen Softwareentwicklung?

Der Vortrag erläutert, welche Risiken entstehen können und welche Maßnahmen im Entwicklungsprozess erforderlich sind, um die Risiken zu kontrollieren. Die Diskussion des Risiko-Nutzen-Verhältnisses muss belegen, warum der Einsatz von KI angemessen ist. Aus der Software Engineering-Perspektive werden zudem diese neuen Schnittstellen und Aufgaben in der Entwicklung erläutert: Sicherstellung der Datenqualität, Management von Bias, Einbindung von ethischen Aspekten, Bewusstsein der KI-spezifischen Risken, Transparenz hinsichtlich unterschiedlichster Stakeholder und besonders die Erklärbarkeit für den Verwender.

Referent: Johannes Waidmann, ITK Engineering GmbH

Johannes Waidmann ist bei ITK Engineering GmbH im Bereich QM/QS Healthcare als Lead Engineer für das Thema Risikomanagement tätig. Nach dem Masterstudium der Elektro- und Informationstechnik am Karlsruher Institut für Technologie (KIT) mit Schwerpunkt Steuerungs- und Regelungstechnik hat er sich in der Medizintechnik-Entwicklungspraxis sehr schnell auf das Thema Risikomanagement spezialisiert. Seit über neun Jahren begleitet er diverse System- und Softwareentwicklungen unterschiedlichster Safety-Kritikalität, Themenschwerpunkte und Tragweite. Interdisziplinäres Arbeiten mit allen praxisbezogenen Problemen des angewandten Risikomanagements nach ISO 14971, sowie Produktnormen und -regularien gehören für Johannes Waidmann zur täglichen Arbeit in verschiedensten Projekt-, Produkt- und Kundenkonstellationen im Healthcare-Bereich.

Explainability für Medizinprodukte mit KI: ELI5

Die Abkürzung ELI5 bedeutet auf English “Explain Like I’m 5” und beschreibt eine simple Erklärung für komplizierte Fragen oder Probleme.

Die aktuelle Generation von Software-Medizinprodukten wird stark durch den Einsatz von künstlicher Intelligenz (KI) und Machine Learning (ML) geprägt. Diese Technologien bieten großes Potenzial im Rahmen der Diagnostik und Behandlung von Patienten. Gleichzeitig steigen die Anforderungen an die Sicherheit, Performance und Wirksamkeit entsprechender KI/ML-Medizinprodukte. Das schließt neue Anforderungen in Bezug auf Usability und Human Factors Engineering ein. Die primäre Herausforderung ist es nicht nur die korrekte Nutzung, sondern auch die Nutzerakzeptanz sicherzustellen.

Beispielsweise erfordern KI/ML-Medizinprodukte neue Schulungskonzepte für medizinische Fachkräfte, denn diese besitzen üblicherweise keine oder nur begrenzte Fachkenntnisse im Bereich von Data Science. Deshalb wird ein ELI5-Ansatz bevorzugt. Daraus leiten die folgenden Fragestellungen ab:

Wird der Erfolg von KI/ML- Medizinprodukten durch geringe Nutzerakzeptanz beeinträchtigt?

Wie können die Medizinproduktenhersteller hohes Vertrauen in Ihren KI/ML-Produkte bei den relevanten Nutzergruppen sicherstellen?

In diesem Vortrag diskutieren wir Konzepte wie “Trustworthiness” und “Explainability” auf Basis relevanter Frameworks, die in technischen Reports beschrieben werden (ISO/IEC TR 24028:2020 und ISO/IEC 22989: 2022).

Unser Fazit: Verständnis und Vertrauen von KI-Produkten müssen Hand in Hand gehen, um den Mehrwert der Produkte erlebbar zu machen.

Referenten: Dr. Filipa Campos-Viola und Arpan Pokharel, FSQ Functional Safety and Quality Experts GmbH

Dr. Filipa Campos-Viola ist als Medical Device Expert bei der Firma FSQ Experts GmbH tätig, wo sie Medizintechnikunternehmen mit konkreten und pragmatischen Lösungen unterstützt, um Know-How- oder Ressourcenengpässe in Bereichen wie Quality Management, Regulatory Affairs oder System Engineering zu schließen.

Nach ihrem Masterstudium in „Biomedical Engineering“ im Instituto Superior Tecnico in Portugal war sie als Neurowissenschaftlerin in Großbritannien und Deutschland tätig, wo sie ihre Promotion abschloss. Von 2012 bis 2015 war sie als Scientific Software Beraterin bei einem Medizinproduktehersteller tätig. Von 2016 bis 2018 arbeitete hat sie als Functional Safety Beraterin in der IABG mbH und beriet Medizinproduktehersteller während der Entwicklung und Zulassung von ihren Systemen.

Sie ist qualifiziert als Regulatory Affairs Managerin (TÜV Süd) und ihre Interessen liegen dabei, innovative Medizinprodukte sicher und konform auf den Markt zu bringen, und die Kompetenz der Entwicklungs-, Qualitäts- und Produktmanagement-Teams zu erhöhen und zu einer nachhaltigen Konformität beizutragen.

Arpan Pokharel ist eine engagierte Person, die derzeit einen Master-Abschluss in Biomedizintechnik an der Technischen Hochschule Lübeck und der Universität Lübeck verfolgt.

Seit Oktober 2022 arbeitet Arpan bei FSQ Experts GmbH und schreibt auch seine Masterarbeit. Als Teammitglied des Medical Device Teams hat sich Arpan auf die Bereitstellung praktischer Lösungen für Medizinprodukteunternehmen spezialisiert. Seine Expertise umfasst eine Regulierungsstrategie für Software als Medizinprodukt (SaMD) mit KI-Funktionen, Qualitätsmanagement, Risikomanagement und Regulierungsangelegenheiten.

Arpan ist ein von der Technischen Hochschule Lübeck und der Universität Lübeck zertifizierter Regulatory Affairs Manager. Diese Zertifizierung zeigt sein Wissen und Verständnis für die regulatorischen Anforderungen und Verfahren in der medizinischen Technik.