Algoritmes

Dit artikel verscheen eerder als column van Rube van Poelgeest in ICT/zorg.

Kent u dat? De toenemende wanhoop om die enorme hoeveelheid informatie bij te houden als u wilt blijven volgen wat er in de zorgsector aan de hand is? Mijn sympathie gaat uit naar die arme zorgprofessional op de vloer. Een huisarts besteedt al zijn beschikbare tijd aan het draaiende houden van zijn praktijk, fuseringsperikelen en het professionaliseren op last van de zorgverzekeraar. Het volgen van de wirwar aan ontwikkelingen, die zijn werk op een revolutionaire manier zal beïnvloeden, schiet erbij in. Dus doen anderen dat voor hem, zoals softwareleveranciers. Slimme software en algoritmes maken voor hem beslissingen terwijl hij zijn consulten met patiënten afhandelt.

Artificial Intelligence

Het blad ‘Science’ publiceerde afgelopen februari een artikel over Artificial Intelligence (AI). De drie auteurs (artsen) pleiten ervoor om algoritmes aan vijf standaarden te onderwerpen. De FDA, de Amerikaanse IGZ, moet die vijf standaarden dan controleren. Dit is nodig vanwege de vele huidige praktische problemen. Zo krijgen veel patiënten op de huisartsenpost een onnodige hoge urgentieclassificatie. Gelukkig komt een te lage urgentieclassificatie bij dringende problematiek minder vaak voor. Maar één keer kan genoeg zijn voor een grote negatieve impact op de patiënt. Dit is waar slimme algoritmes een belangrijke rol kunnen spelen, althans volgens een softwareleverancier. Verteld wordt dat ‘algoritmes de levensreddende medicijnen van morgen zijn”. Aan de andere kant van het spectrum worden we gewaarschuwd voor discriminerende of bevooroordeelde algoritmes. Geen onbekende problematiek in dit ‘Tesla-tijdperk’, waarbij zelfrijdende auto’s in een noodsituatie moeten kiezen wie blijft leven en wie sterft.

Zwarte doos

Het lijkt erop alsof bovengenoemd ‘Science’ artikel de algemene pers heeft wakker geschud. In een interview in het blad ‘de Ingenieur’ van mei 2019 stelt Kees Verhoeven, de zorgspecialist van de D66 in de tweede kamer, dat “een algoritme niet mag bepalen welke patiënt voorgaat. Zo’n algoritme is vaak een zwarte doos dat geen enkel inzicht biedt in de manier waarop het tot een besluit is gekomen. Soms blijken bovendien vooroordelen te zijn ingebouwd. (…) Al die technici, nerds, bèta’s , mathematici, ingenieurs en informatici zijn natuurlijk geweldig goed in het maken van slimme apparaten en systemen (…) en dan zijn het de nerds die de sociale verhoudingen gaan bepalen?” U mag zich als lezer van dit magazine aangesproken voelen!

Deugdtechniek

Onlangs fluisterde een medisch specialist in mijn oor dat EPIC beslissingen neemt waarvan medici de implicaties niet overzien. Dat is best alarmerend. Toch zijn er al sinds de tijd van Aristoteles ‘echte’ oplossingen voor deze problematiek. Zijn ideeën daarover zijn samen te vatten in het woord ‘deugdtechniek’. Het boek van Shanon Vallor’ hierover – Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting – is verplichte literatuur voor iedere oprechte techneut.

In Europa willen we met deze problematiek overigens anders omgaan dan het USA van Trump. Interessant in dit kader zijn de woorden van Monica Lam van Stanford University: “Het enige alternatief voor monopolistische platforms is open-source technology.” Wanneer hebben we dat ook alweer eerder gehoord?