Het in Lausanne ontwikkelde raamwerk documenteert gegevens, code en evaluaties om het gebruik van taalmodellen in de gezondheidszorg beter controleerbaar te maken.

De gezondheidszorg is een van de sectoren waar de invoering van dekunstmatige intelligentie en big data Er wordt met meer voorzichtigheid te werk gegaan, niet uit gebrek aan interesse, maar omdat fouten directe gevolgen hebben voor mensen. Grote taalmodellen worden al gebruikt, of getest, ter ondersteuning van het werk van artsen: ze kunnen helpen bij het stellen van een diagnose, het samenvatten van klinische documentatie, het suggereren van prioriteiten of het ondersteunen van beslissingen op de spoedeisende hulp. Het cruciale punt blijft echter de verifieerbaarheid. Als een systeem een ​​aanbeveling doet zonder de gegevens, methoden en trainingscriteria toegankelijk te maken, wordt onafhankelijke controle kwetsbaar.

Op dit punt grijpt hij in. MeditronFO, aangekondigd door deÉcole Polytechnique Fédérale de LausanneVolgens de Universiteit van Vaud is dit het eerste volledig open framework voor de bouwsector. artsen met een groot taalmodelDe nadruk ligt niet alleen op de beschikbaarheid van het uiteindelijke model, maar op de gehele ontwikkelingsketen: data, code, trainingsprocedures, documentatie en evaluaties. In een gereguleerde, gevoelige en professioneel verantwoorde sector is dit verschil niet onbelangrijk.

Het project is ontstaan ​​in Laboratorium voor intelligente wereldwijde technologieën voor gezondheidszorg en humanitaire hulpverlening., nee, kom Licht, binnen de School of Computer and Communication Sciences aan de EPFL. De technische basis is de open source-architectuur die al door Meditron wordt gebruikt, uitgebracht in 2023, maar de gepresenteerde evolutie is erop gericht de gehele constructiemethode transparanter te maken. Het gestelde doel is om de "medicalisering" van basis open modellen mogelijk te maken, dat wil zeggen hun aanpassing aan de gezondheidszorg door middel van klinische kennis, gedocumenteerde datasets en specifieke validatieprocedures.

Waarom de opening meer gewicht in de schaal legt dan alleen het vrijgeven van het model

In de AI-wereld wordt het woord 'open' vaak inconsistent gebruikt. Een model kan gewichten beschikbaar stellen, maar de datasets, filterstappen, trainingskeuzes of evaluatieprotocollen ondoorzichtig houden. Voor klinisch gebruik creëert deze gedeeltelijke openheid een auditprobleem: ziekenhuizen, onderzoekers, autoriteiten en de medische gemeenschap kunnen de resultaten zien, maar niet altijd reconstrueren hoe deze zijn verkregen.

MeditronFO pogingen om deze kloof te overbruggen. Het raamwerk is toegepast op volledig open basismodellen, waaronder OLMo, EuroLLM e Open, een Zwitsers model ontwikkeld door EPFL en ETH Zürich als onderdeel van het Zwitserse AI-initiatief. Deze stap is belangrijk omdat de focus verschuift van geïsoleerde prestaties naar ontwikkelingstraceerbaarheidIn de geneeskunde kan het kennen van het pad dat een systeem aflegt om tot een reactie te komen net zo belangrijk zijn als het meten van de nauwkeurigheid van de reactie zelf.

Xavier Theimer-LienhardEen promovendus die leiding geeft aan Meditron bij LiGHT, vat het principe samen met een directe vergelijking tussen klinische training en modeltraining.

"We zouden nooit een arts vertrouwen wiens opleiding niet geverifieerd kan worden: dezelfde norm zou moeten gelden voor AI in de gezondheidszorg."

De verklaring verduidelijkt een aspect dat vaak over het hoofd wordt gezien in het debat over generatieve systemen: betrouwbaarheid staat niet gelijk aan de beschikbaarheid van een effectieve interface. Het vereist daarentegen documentatie, reproduceerbaarheid en de mogelijkheid tot controle. De kwestie betreft ook de veiligheid en privacyOmdat zorgmodellen kennis en gegevens verwerken die mogelijk grenzen aan gevoelige informatie, zelfs als ze geen direct identificeerbare medische dossiers bevatten.

Het open karakter van de studie sluit op zichzelf niet het risico op vooringenomenheid, fouten of misbruik uit. Het verlaagt echter wel een van de belangrijkste obstakels voor onafhankelijke analyse. Met andere woorden, het garandeert niet automatisch klinische veiligheid, maar het maakt het werk van verificatie, vergelijking en verbetering concreter.

Klinische medewerkers betrokken bij de ontwikkeling, niet alleen bij de uiteindelijke test.

Een opvallend kenmerk van het project is de betrokkenheid van zorgprofessionals vanaf de vroegste stadia. Volgens EPFL is MeditronFO ontwikkeld in samenwerking met clinici, waarbij gegevensselectie, validatie van de output en het identificeren van potentiële knelpunten werden meegenomen. Deze aanpak verkleint het risico op de ontwikkeling van formeel geavanceerde instrumenten die slecht aansluiten op de dagelijkse praktijk.

De validatie doorloopt ook een deel van het proces. MOEFMassive Open Online Validation and Evaluations, een afkorting voor Massive Open Online Validation and Evaluations, is een omgeving waarin clinici deelnemen aan de evaluatie en continue verbetering van modellen. Voor een technologie die is ontworpen om te interageren met de dagelijkse medische praktijk, is dit een cruciaal punt: de uitdaging is niet alleen om een ​​vraag correct te beantwoorden, maar om dit te doen onder omstandigheden die vergelijkbaar zijn met die waarin een arts werkt, met tijdsbeperkingen, onvolledige informatie en operationele verantwoordelijkheden.

Het raamwerk combineert openbare medische datasets met door clinici beoordeelde synthetische data, afgeleid van medische onderzoeken, richtlijnen en praktijkgevallen van patiënten. De EPFL-bron geeft ook aan gebruik te maken van een reeks door experts samengestelde klinische datasets, afkomstig uit meer dan 46.000 klinische praktijkrichtlijnenDit zijn belangrijke gegevens omdat ze de omvang laten zien van de documentatie die gebruikt is om de modellen te specialiseren, maar ze moeten wel in samenhang met de kwestie van kwaliteit worden gelezen: in de gezondheidszorg is de kwantiteit van de opgenomen kennis niet voldoende als deze niet gepaard gaat met selectie, beoordeling en contextualisering.

Mary-Anne Hartley, arts en directeur van ,Licht koppelt de concurrentiekracht van modellen aan de actieve rol van artsen en gemeenschappen.

"Onze bevindingen tonen aan dat concurrerende medische modellen kunnen worden opgebouwd met actieve betrokkenheid van artsen en de gemeenschap."

Deze verschuiving heeft organisatorische gevolgen. Medische AI ​​wordt niet langer gepresenteerd als een instrument dat van buitenaf op het zorgsysteem wordt losgelaten, maar als een softwarearchitectuur die ontwikkeld moet worden in samenwerking met mensen die bekend zijn met procedures, terugkerende fouten, institutionele beperkingen en contextverschillen. Voor healthtechbedrijven, universitaire centra en ziekenhuizen is de les duidelijk: de overdracht van een centrale rol naar een centrale rol in de gezondheidszorg is cruciaal. onderzoek en ontwikkeling De klinische praktijk vereist structuur en beheer, niet alleen rekenkracht.

Technische resultaten en de rol van de grote rekenkracht van Zwitserland

EPFL meldt dat elk MeditronFO-model qua prestaties beter presteerde dan het bijbehorende basismodel. Het beste resultaat dat in het persbericht wordt genoemd, betreft... Apertus-70B-MeditronFO, wat de prestaties bij medische tests verbeterde 6,6 procentpunten vergeleken met het onderliggende model. De gegevens moeten met de nodige voorzichtigheid worden geïnterpreteerd: benchmarks zijn nuttig voor het vergelijken van technische configuraties, maar ze zijn geen vervanging voor klinische evaluaties in de praktijk.

De industriële relevantie van de casus ligt ook in de infrastructuur die eraan ten grondslag ligt. De ontwikkeling van MeditronFO werd ondersteund door Zwitsers AI-initiatief, samenwerking tussen EPFL, ETH Zürich en CSCS, het Zwitserse Nationale Supercomputercentrum. Volgens de website van het initiatief werd het programma in december 2023 gelanceerd met meer dan 10 miljoen GPU-uren op Alps, de supercomputer die wordt beheerd door CSCS, en met financiering van 20 miljoen Zwitserse frank door het Federale Domein van de Polytechnische Hogescholen.

Deze cijfers laten zien waarom de concurrentie in de gezondheidszorg op het gebied van AI niet alleen draait om algoritmes en datasets. Het vereist rekenkracht, gedistribueerde expertise, evaluatie-infrastructuren en een kritische massa aan onderzoek. Het Zwitserse AI-initiatief zelf beweert te profiteren van de bijdragen van meer dan 800-onderzoekers, inbegrepen 70 professoren gespecialiseerd in AI, afkomstig van meer dan tien academische instellingen in ZwitserlandIn questo quadro, il supercomputer Het is niet zomaar een technische versneller, maar een onderdeel van wetenschappelijke soevereiniteit.

De connectie met Apertus versterkt deze interpretatie. De projectwebsite beschrijft het als een volledig open basismodel voor soevereine AI, ontwikkeld door het Swiss AI Initiative in samenwerking met EPFL, ETH Zürich en CSCS. Apertus claimt openheid in zijn gewichten, data, code, methoden en afstemmingsprincipes. MeditronFO gebruikt deze basis als een van de modellen om zich te specialiseren in de medische sector, waarmee wordt aangetoond hoe een open benadering in een vroeg stadium kan leiden tot beter beheersbare verticale toepassingen.

Van experimenten tot de ziekenhuisafdelingen: het testterrein in Tanzania

De volgende stap zal niet alleen een nieuwe modelvergelijking zijn. Volgens EPFL bereidt het team klinische proeven voor op meerdere locaties, van Zwitserland alle TanzaniaHet doel is te evalueren hoe artsen AI gebruiken in de praktijk van de gezondheidszorg. De onderzoeken zullen nagaan of artsen de gegenereerde aanbevelingen opvolgen of afwijzen en welke impact deze beslissingen hebben op de patiëntenzorg.

Het meerjarige project waar EPFL naar verwijst, heet MEDISCH GEBRUIKHet onderzoek heeft ook tot doel te onderzoeken of AI kan bijdragen aan de verbetering van de kwaliteit van de zorg door onnodige behandelingen en ingrepen te verminderen. Dit is een delicate kwestie: een beslissingsondersteunend systeem kan nuttig zijn als het de kwaliteit van de beschikbare informatie verbetert, maar het kan problematisch worden als het automatisering introduceert of een te groot vertrouwen in algoritmische aanbevelingen aanmoedigt.

Hartley benadrukt met name de noodzaak om het effect te meten in behandelingsprocessen, en niet alleen in technische tests.

"Het is belangrijk om feedback uit de praktijk te krijgen, gebaseerd op de resultaten voor de patiënt."

Klinische AI ​​zal geloofwaardiger zijn wanneer deze kan worden gecontroleerd.

Voor de gezondheidszorgsector wijst MeditronFO een duidelijke richting aan: klinische AI ​​zal geloofwaardiger zijn wanneer deze kan worden geïnspecteerd, aangepast en geëvalueerd door onafhankelijke gemeenschappen. Voor bedrijven betekent dit dat eigen modellen moeten voldoen aan de groeiende verwachtingen ten aanzien van transparantie. Voor instellingen gaat het om de mogelijkheid om regels vast te stellen die onderscheid maken tussen formele en feitelijke openheid.

Het is onrealistisch om te denken dat alle medische systemen gebaseerd op machine learning e diepgaand leren volledig transparant worden. Het is echter aannemelijk dat de gezondheidszorg hogere eisen zal stellen aan documentatie, controleerbaarheid en verantwoording, vooral wanneer AI een rol gaat spelen in besluitvormingsprocessen. In die zin moet MeditronFO niet alleen als een nieuw model worden gezien, maar ook als een experiment in technisch bestuur: het maakt zichtbaar wat vaak verborgen blijft achter een gegenereerd antwoord.

De cruciale vraag is daarom niet de abstracte belofte van krachtigere AI. Het gaat erom welk type infrastructuur zorgsystemen, universiteiten en toezichthouders bereid zijn te accepteren. Als de modellen onderdeel worden van de klinische praktijk, moet het vertrouwen gebaseerd zijn op verifieerbare elementen: de herkomst van de gegevens, onafhankelijke audits, transparant gemeten prestaties en aantoonbare menselijke verantwoordelijkheid. MeditronFO plaatst deze elementen centraal in de discussie en laat de klinische proef de operationele haalbaarheid ervan beoordelen.

Meditron Open Sources: Controleerbare AI-workflows voor klinische LLM's

Hier zijn drie inzichten die u wellicht interesseren:

Van EPFL een nieuw multimodaal model voor flexibelere AI
Apertus is de Zwitserse "open AI" voor een transparantere toekomst.
Een hypermodern gezondheidszorgcentrum volledig gebaseerd op AI in Genève