Artsen en hoogleraren: 'IBM Watson kan belofte niet waarmaken'

IBM Watson beloofde met zijn kunstmatige intelligentie (AI) Watson de medische sector te veranderen. Het bedrijf heeft echter te hoog ingezet en kan zijn beloftes niet waarmaken.

Deze kritiek uitten verschillende artsen en hoogleraren tegenover IEEE Spectrum. IBM Watson werd in 2014 geïntroduceerd. Tijdens een presentatie wist Watson een reeks symptomen van een patiënt te analyseren en op basis hiervan een aantal mogelijke diagnoses te geven. Bij elk van deze diagnoses werd een zekerheidspercentage gegeven en ter onderbouwing verwezen naar ondersteunende medische bronnen. 

Succesvolle en minder succesvolle resultaten

In de jaren die hierop volgden werd Watson verder ontwikkeld, waarbij successen werden geboekt. Zo maakten onderzoekers van IBM Research in juli 2017 bekend erin te zijn geslaagd genoomdata met behulp van IBM Watson 960 keer sneller te analyseren. Het handmatig analyseren van een gemiddelde genoomtest neemt zo’n 160 manuren in beslag, terwijl Watson dit proces in slechts tien minuten wist uit te voeren. Dit zonder in te leveren op kwaliteit. 

Andere projecten waren echter minder succesvol. Zo ging het Memorial Sloan Kettering Cancer Center in 2012 een samenwerking met IBM aan om Watson te trainen in het diagnostiseren en behandelen van kankerpatiënten. De AI leverde in dit project niet het gewenste resultaat op. Zo wist de website STAT de hand te leggen op documenten van IBM waaruit blijkt dat Watson regelmatig foutieve adviezen gaf en niet aan de verwachtingen voldeed. Als voorbeeld wordt een proef omschreven waarin een kankerpatiënt met een hevige bloeding door Watson medicatie kreeg voorgeschreven die deze bloeding zou verergeren. IBM benadrukt dat het ging om een test op basis van fictieve informatie in plaats van echte patiëntgegevens.

Een tweede project dat geen succes werd is een samenwerking met het MD Anderson Cancer Center. Dit ziekenhuis investeerde 62 miljoen dollar in een project rond Watson, dat later werd geannuleerd. Watson zou niet voldoen aan de eisen van een functioneel product.

Kritisch

Verschillende artsen en hoogleraren staan kritisch tegenover Watson en stellen dat de AI zijn beloftes niet heeft weten waar te maken. Watson zou in de praktijk vooral als een AI-assistent functioneren en geschikt zijn om bepaalde routinematige taken uit te voeren. “Wat betreft reputatie zitten zij denk ik in de problemen”, zegt Robert Wachter, bestuursvoorzitter van de medische divisie van de Universiteit van Californië tegen IEEE Spectrum. Wachter wijst erop dat IBM het eerste bedrijf is dat fors investeert in de implementatie van AI in de zorg. Dit levert uitdagingen op, waar IBM als koploper als eerste mee wordt geconfronteerd. 

Herbert Chase, hoogleraar Medische Wetenschappen en Biomedische Informatica van de Columbia University, was betrokken bij de initiële ontwikkeling van Watson. “Artsen – zeker zij die aan de frontlinie staan, de eerstelijns zorg – gaan iedere dag aan het werk met de wetenschap dat zij onmogelijk alles kunnen weten wat zij nodig hebben om de beste, meest efficiënte en meest effectieve zorg te kunnen leveren”, aldus Chase. De hoogleraar zag in Watson potentie als een tool om klinische besluitvorming te ondersteunen en artsen te helpen betere zorg te leveren.

Chase, die sinds 2014 niet meer betrokken is bij de ontwikkeling van Watson, zegt echter teleurgesteld te zijn in de langzame ontwikkeling van Watson op het gebied van zorg. “Ik ben niet op de hoogte van spectaculaire homeruns”, aldus de hoogleraar.

‘IBM loopt niet voorop’

Ook Eliot Siegel, een hoogleraar radiologische en bestuursvoorzitter voor informatiesystemen bij de Universiteit van Maryland, is betrokken geweest bij de ontwikkeling van Watson. Ook Siegel is kritisch. De hoogleraar stelt dat AI-gebaseerde tools binnen een decennium van onschatbare waarde zullen zijn voor artsen. Hij is echter niet overtuigd dat deze tools door IBM ontwikkeld zullen worden. “Ik denk niet dat zij vooroplopen met AI”, aldus Siegel. “De meest spannende dingen gebeuren bij Google, Apple en Amazon.”

Het volledige artikel is te vinden bij IEEE Spectrum.

Auteur: Wouter Hoeffnagel
Bron: IEEE Spectrum
Bron: IBM Research