Belangrijkste leerpunten
- De FDA heeft onlangs een actieplan uitgebracht om kunstmatige intelligentie op medisch gebied te reguleren.
- Een belangrijk onderdeel van het plan is de mogelijkheid om wijzigingen in het algoritme van tevoren te beoordelen, wat de processen zal versnellen.
- Experts zeggen dat deze regelgeving een stap in de goede richting is en een grote impact zal hebben op de patiëntenzorg.
Vorige week heeft de Food and Drug Administration (FDA) haar eerste actieplan voor kunstmatige intelligentie/machine learning uitgebracht om toezicht te houden op dit soort groeiende technologie op medisch gebied. Hoewel we AI in veel verschillende sectoren hebben zien gebruiken, zoals de voedingsindustrie, de beveiligingsruimte en de detailhandel, is de technologie nog grotendeels ongereguleerd. Deskundigen denken echter dat deze snel evoluerende technologie enorme voordelen zal opleveren voor zowel artsen als patiënten, mits gereguleerd volgens richtlijnen. “Het reguleren van AI is niet alleen een goede zaak, maar ook essentieel om patiënten te beschermen en vertrouwen op te bouwen in deze veelbelovende technologie”, schreef Sam Surette, hoofd regelgeving en kwaliteitsborging bij Caption Health, om
reddingsdraad in een e-mail. “FDA-toezicht zorgt ervoor dat producten in het veld veiligheid en effectiviteit hebben aangetoond door middel van rigoureuze prestatietests.”
FDA’s benadering van AI
Het plan van de FDA draait om transparantie en prestatiebewaking om medische AI-apparaten een garantie voor veiligheid en effectiviteit te bieden. Enkele van de belangrijkste onderdelen van het actieplan zijn het ondersteunen van wetenschappelijke inspanningen op het gebied van regelgeving om een methodologie te ontwikkelen voor het evalueren en verbeteren van algoritmen voor machine learning (inclusief het identificeren en elimineren van vooringenomenheid). Het plan legt ook uit hoe de FDA van plan is om geschikte ontwikkelingspraktijken voor machine learning te vinden, samen te werken met belanghebbenden die het proces leiden, en meer.
“Het plan schetst een holistische benadering op basis van toezicht op de totale productlevenscyclus om het enorme potentieel dat deze technologieën hebben om de patiëntenzorg te verbeteren en tegelijkertijd veilige en effectieve softwarefunctionaliteit te bieden die de kwaliteit van de zorg die patiënten ontvangen verbetert”, Bakul Patel, directeur van de Digital Health Center of Excellence in het Center for Devices and Radiological Health, zei in het persbericht van de FDA. Patel voegde eraan toe dat het actieplan in de loop van de tijd zou veranderen, naarmate nieuwe toepassingen voor de technologie worden vrijgegeven en verbeterd. “Om actueel te blijven en de patiëntveiligheid aan te pakken en de toegang tot deze veelbelovende technologieën te verbeteren, verwachten we dat dit actieplan in de loop van de tijd zal blijven evolueren”, zei hij. “Het reguleren van AI is niet alleen een goede zaak, maar ook essentieel om patiënten te beschermen en vertrouwen op te bouwen in deze veelbelovende technologie.” Surette zei dat misschien wel het belangrijkste aspect van de blauwdruk van de FDA voor het reguleren van AI dit “vooraf bepaalde plan voor wijzigingscontrole” is, dat in de loop van de tijd wijzigingen mogelijk zal maken. “Het gebruik van deze vooraf bepaalde wijzigingsbeheerplannen stelt de FDA in staat om mogelijke wijzigingen van tevoren te beoordelen, waardoor er geen nieuwe premarket-beoordeling nodig is vóór elke belangrijke update van het algoritme”, schreef hij. Joe Mullings, voorzitter en CEO van The Mullings Group, zei dat het AI-raamwerk van de FDA niet op een beter moment kon komen, aangezien AI-algoritmen altijd veranderen. “AI gebruikt algoritmen en algoritmen zijn nog steeds een soort zwarte kunst, dus het hebben van een poortwachter zoals de FDA is van cruciaal belang”, vertelde hij.
reddingsdraad in een telefonisch interview. “[AI] op de juiste manier gebruikt, zal een impact hebben op de gezondheidszorg op een dramatische schaal die we nog nooit eerder hebben gezien.”
Gevolgen van meer AI in de gezondheidszorg
Experts zeggen dat er voor- en nadelen zijn aan AI in de gezondheidszorg, en dat de FDA met beide rekening moet houden om te zorgen voor goede regelgeving. Wat de voordelen betreft, zei Mullings dat regelgeving van AI in med-tech oplossingen voor individuele patiëntenzorg nog sneller zou laten plaatsvinden. “We nemen deze clinici, artsen en chirurgen van wereldklasse, en we zijn in staat om hen een hoger niveau van informatie te geven zodat ze hun beslissingen kunnen nemen; een al geweldige clinicus, arts of chirurg nemen en hem of haar zelfs groter”, zei hij. Hij voegde eraan toe dat artsen namens patiënten kunnen beslissen met een hogere nauwkeurigheid dan ze anders zouden doen.
Met de FDA die begeleiding biedt, betekent dit dat het gemakkelijker zal zijn om dingen te doen zoals AI gebruiken om radiologische beelden te lezen, echografie-onderzoeken te verkrijgen en te interpreteren, en zelfs het proces van detectie van COVID-19 bij ziekenhuispatiënten te versnellen door routinematige bloedmonsters te analyseren. Er zijn echter andere implicaties als het gaat om AI en de door mensen gemaakte algoritmen. Mullings wees op de problemen van AI met vooringenomenheid, vooral jegens gekleurde mensen. “We komen problemen tegen in klinische onderzoeken die niet volledig kijken naar gekleurde mensen en te veel indexeren naar de blanke bevolking”, zei Mullings. “Algoritmen zijn vergelijkingen die door een mens zijn geschreven en die een onbewuste vooringenomenheid bevatten. Die ingebouwde vooringenomenheid versterkt dan die potentiële fout, en na een tijdje neemt een arts er blinde beslissingen mee.” Toch is de hoop dat deze vooringenomenheid en andere hindernissen van AI, zoals het langdurige proces van het verzamelen en labelen van gegevens, aanzienlijk zullen afnemen met deze nieuwe regelgeving. “De digitale gezondheidsgemeenschap heeft waardering voor de proactieve benadering van AI door de FDA”, schreef Surette. “Dit AI-actieplan dat door de FDA is vrijgegeven, vertegenwoordigt de volgende stap in het juiste regelgevende toezicht op dit relatief ontluikende veld, wat bemoedigend zou moeten zijn voor degenen in de med-tech gemeenschap.”
