Implementierungsstrategien im Hinblick auf den AI Act
Die Komplexität der Kombination der beiden Rahmenwerke erfordert sorgfältige Planung und eine klare Dokumentation. Außerdem empfiehlt sich ein proaktiver Austausch mit den Benannten Stellen.
Da sich der AI Act und die MDR in vielen Bereichen überschneiden, müssen Hersteller von Medizinprodukten einen strategischen Ansatz verfolgen, um Abweichungen zwischen Entwicklungspraktiken und den regulatorischen Erwartungen frühzeitig zu erkennen und so teure Nachbesserungen zu vermeiden. Im zweiten Teil der „AI Act Insights“ geben wir Ihnen Tipps an die Hand, um die EU-Anforderungen im Rahmen des AI-Acts einfacher zu bewältigen. Wir empfehlen Herstellern von Medizinprodukten folgendes Vorgehen:
1. Durchführung einer umfassenden Gap-Analyse
Im ersten Schritt gilt es, alle KI-Komponenten in Ihren Produkten zu identifizieren und sie gemäß dem risikobasierten Rahmen des AI Acts zu klassifizieren. Reichen außerdem die vorhandene technische Dokumentation, die Risikomanagementprozesse und die Systeme zur Marktüberwachung aus, um die Anforderungen des AI Acts zu erfüllen? So ermitteln Sie Verbesserungspotenziale, wie etwa die Erweiterung des Risikomanagements auf KI-spezifische Risiken (z. B. Voreingenommenheit).
2. Entwicklung eines einheitlichen Compliance-Frameworks
Hersteller sollten die Anforderungen des AI Acts und der MDR in einen einheitlichen Rahmen integrieren, um doppelte Arbeitsaufwände zu vermeiden und den Konformitätsprozess zu erleichtern. Besonders wichtig ist eine harmonisierte Technische Dokumentation, die beide Vorschriften abdeckt. Ein Beispiel: Die Technische Dokumentation für ein KI-unterstütztes Medizinprodukt sollte nun nicht mehr nur die klinische Sicherheit und Leistung des Produkts abdecken, sondern auch Informationen über die Funktionalität des KI-Systems, die Qualität der Trainingsdaten, Validierungsprozesse und Risikomanagementstrategien für KI-spezifische Gefahren wie Voreingenommenheit oder fehlerhafte Algorithmen enthalten.
3. Schulung der Mitarbeiter
Die Einhaltung der KI-Vorschriften erfordert auch einen kulturellen und prozeduralen Wandel innerhalb der Organisationen. Hersteller müssen sicherstellen, dass alle relevanten Mitarbeiter, insbesondere diejenigen im Bereich Regulatory Affairs, Softwareentwicklung und Risikomanagement, gründlich in den Anforderungen des AI Acts und der KI geschult werden. Die Mitarbeiter sollten mit den Erwartungen in Bezug auf Transparenz, Risikomanagement, Datenverwaltung und -training vertraut sein. Ein gut geschultes Team stellt sicher, dass die Vorschriften in ihrer Organisation verankert werden und so das Risiko von Fehlern während der regulatorischen Bewertung verringert wird.
4. Frühzeitige Zusammenarbeit mit Benannten Stellen
Auch die Benannten Stellen stehen vor dieser Herausforderung, da sie ebenfalls zunächst ihre Mitarbeiter befähigen müssen, KI-Systeme vollständig zu bewerten. Darüber hinaus müssen die Benannten Stellen gemäß Artikel 31 von der Zertifizierungsbehörde neu benannt werden, um überhaupt KI-Produkte genehmigen zu dürfen.
Zunächst sollten Hersteller mit ihren Benannten Stellen klären, ob diese in der Lage sind, die Anforderungen zu bewerten, oder ob sie eine andere Institution suchen müssen. Anschließend sollten Hersteller bereits in der Entwicklungsphase frühzeitig mit ihrer Benannten Stellen kommunizieren, um die Kriterien für KI-gestützte Systeme zu klären. Eine frühzeitige Zusammenarbeit stellt sicher, dass die Benannte Stelle die Nuancen der KI-Komponente innerhalb ihres Medizinprodukts versteht, einschließlich der Art und Weise, wie die KI trainiert und validiert wird und nach der Einführung kontinuierlich überwacht werden soll. Dies hilft, beide Parteien auf denselben Stand zu bringen und vermeidet Verzögerungen und mögliche Nacharbeiten.
5. Teilnahme an der Entwicklung der Richtlinien
Nutzen Sie Ihre Netzwerke, beteiligen Sie sich aktiv und spielen Sie eine Rolle bei der Verbesserung der Richtlinien. Als Hersteller von Medizinprodukten können wir den Gesetzgebern Einblicke in die Branche geben und praktische Maßnahmen unterstützen. So können die wichtigen und notwendigen zusätzlichen Sicherheitsvorkehrungen des AI Acts umgesetzt werden, ohne dass der zusätzliche Aufwand dazu führt, dass nützliche Produkte vom Markt verschwinden oder Innovationen gebremst werden, wie es oft den MDR-Regularien nachgesagt wurde.
Ein guter Ansatz hierfür ist der AI PACT, in dem sich Unternehmen zusammengeschlossen haben, um erstens den Austausch aller Stakeholder zu fördern und zweitens vor allem proaktiv an der Umsetzung des AI Acts mitzuarbeiten. Dies hat nicht nur den Vorteil der aktiven Teilnahme, sondern setzt für die teilnehmenden Unternehmen alle oben genannten Punkte automatisch um.
Diese Empfehlungen können dabei helfen, dass Sie auf die kombinierten Anforderungen der MDR und des AI Acts besser vorbereitet sind und Ihre zukünftigen KI-gestützten Geräte sicher und ohne regulatorische Schleifen auf den Markt bringen. In unserem dritten Teil der „AI-Act Insights“ geben wir Ihnen einen noch tieferen Einblick in die spezifischen Verantwortlichkeiten von Herstellern, die KI-gestützte Medizinprodukte entwickeln, und wie Sie sicherstellen können, dass Ihre Produkte bereit für den Markt sind.