In Hessen wurde erstmals ein KI-gestütztes Medizinprodukt zur Unterstützung ärztlicher Diagnosen zugelassen.

Um KI-gestützte Medizinprodukte schneller zu entwickeln und zuzulassen, haben die Expertinnen und Experten des AI Quality & Testing Hub (AIQ) und des VDE Health eng mit dem Unternehmen Prof. Valmed zusammengearbeitet. Als Ergebnis hat das Unternehmen die Zertifizierung für die erste KI-Sprach-App als Medizinprodukt in der Europäischen Union erhalten.

Das auf KI und dem Einsatz eines großen Sprachmodells (Large Language Model, kurz LLM) basierende System unterstützt medizinisches Fachpersonal, indem es vertrauenswürdige Empfehlungen für die Diagnose und Therapie von Erkrankungen bereitstellt. Dazu greift das große Sprachmodell nicht einfach auf allgemeines oder frei verfügbares Wissen zurück, sondern durchsucht gezielt validierte medizinische Fachquellen innerhalb einer Datenbank. Dabei verarbeitet es natürliche Spracheingaben sowie Fragen in Form von Prompts und generiert präzise und evidenzbasierte Antworten, welche – mit entsprechenden Quellenangaben versehen – benutzerfreundlich angezeigt werden.

Als Technologiepartner hat der AIQ – gegründet durch das Land Hessen und den Verband der Elektrotechnik Elektronik Informationstechnik e. V. (VDE) – entsprechende KI-Entwicklungs- und Testwerkzeuge bereitgestellt und die Software unter Einhaltung aller regulatorischen Anforderungen entwickelt. Ein Schwerpunkt dieser Arbeiten war es, die Ergebnisqualität sicherzustellen, die die Experten über die Implementierung eines speziellen KI-Quality-Stacks realisiert haben. Durch strenge Tests gewährleisteten sie dabei sowohl Sicherheit als auch Transparenz und Zuverlässigkeit.

Innovation und Sicherheit gehen Hand in Hand

„Der Einsatz von KI im Gesundheitswesen ermöglicht Innovationen und eine spürbare Verbesserung der Qualität. Mit unserem AI Quality & Testing Hub fördern wir die Qualität von KI-Systemen, damit Nutzerinnen und Nutzer Vertrauen in KI-Anwendungen gewinnen. ‚KI made in Hessen‘ soll ein Markenzeichen unseres Landes werden, das für Innovation, Verantwortung und Zukunft steht“, betonte Hessens Digitalministerin Prof. Dr. Kristina Sinemus.

Dr. Beate Mand, stellvertretende Vorstandsvorsitzende des VDE: „Künstliche Intelligenz ist eine der dominierenden Technologien unserer Zeit. Insbesondere wenn es um KI-Anwendungen im Gesundheitswesen geht, müssen Innovation und Sicherheit Hand in Hand gehen. Der VDE steht mit seinem Namen für Sicherheit und höchste Qualität. Mit seinen Expertinnen und Experten arbeitet der VDE daran, den Weg für einen vertrauensvollen und regelkonformen Einsatz von KI-Systemen in der Medizin zu ebnen und transparente Märkte zu schaffen.“

„Die erfolgreiche Zertifizierung von Prof. Valmed als Medizinprodukt der Klasse IIb zeigt eindrucksvoll, dass innovative KI-basierte Lösungen die anspruchsvollen regulatorischen Anforderungen im Gesundheitswesen erfüllen können. Als erstes KI-gestütztes Tool zur klinischen Entscheidungsunterstützung bestätigt Prof. Valmed sowohl die hohe technische Qualität unseres Produkts als auch die Effizienz und Präzision unserer regulatorischen Unterstützung“, so Dr. Vera Rödel und Prof. Dr. Heinz Wiendl von Prof. Valmed.