JAMAAR JAMI - Achter elk algoritme zit een besluit!

Eerste zondag van de maand - nieuwe column van Ehsan Jami

Een paar jaar geleden zetten de mensen die kunstmatige intelligentie bouwen hun handtekening onder een waarschuwing dat hun eigen product de mensheid zou kunnen uitroeien. Nu lees ik allerlei nieuwsartikelen dat AI het einde van de mensheid zal inluiden. Ik heb die stukken een paar keer gelezen en na het lezen was ik vooral geïrriteerd. Als ik iemand hoor zeggen dat hij het einde van de wereld ziet aankomen en hij bouwt er ondertussen gewoon aan door, dan geloof ik dat hij zijn eigen verhaal maar half gelooft. Wat hij wel bereikt: er komen regels waar zijn concurrenten mogelijk last van zullen krijgen en hij mag zichzelf voortaan presenteren als iemand die met vuur speelt. Geen slechte deal, me dunkt.

Eind jaren zeventig maakte Den Haag zich behoorlijk druk over de chip. Dat micro-elektronica ons allemaal banen zou kosten, stond eigenlijk niet meer ter discussie. Typistes zouden allemaal overbodig worden. De bankbedienden zouden massaal ontslagen worden en Nederland zou een land worden waarin de ene helft zou werken en de andere helft thuis op de bank zou zitten. Dat scenario is nooit uitgekomen. Ja, er verdwenen beroepen, maar er kwamen ook nieuwe beroepen bij. De werkloosheid die Nederland in de jaren tachtig wel degelijk trof, had voor zover ik het kan overzien, meer te maken met de oliecrisis en de rente dan met de microprocessor. Ik lees die verslagen met een soort wrange herkenning. Het zijn dezelfde soort debatten in een nieuw jargon en nieuwe spelers die weer ergens zeker van zijn.

Nu wil ik niet de indruk wekken dat ik vind dat er niets mis kan gaan. De overheid heeft een tijd geprobeerd bijstandsfraude op te sporen door bestanden over wijkbewoners aan elkaar te koppelen, tot de rechter daar een streep door zette. Daar zat weinig "Super Intelligence" achter, gewoon een algoritme dat deed wat het was opgedragen. En ook de toeslagenaffaire draaide niet om een ontspoorde machine. Er zaten mensen aan de knoppen die nationaliteit als risicofactor hadden ingevoerd. Het gevaar lag niet bij de uitvoerende technologie, maar bij het besluit dat eraan voorafging.

Wat ik in dit soort debatten steeds tegenkom, is een publieke opinie die naar het systeem wijst zodra het misgaat. Dat is eerlijk gezegd mijn grootste bezwaar tegen het doemdenken dat nu rondzwerft rondom AI. Als de machine straks toch de wereld overneemt, hoeft niemand verantwoording af te leggen voor hoe het zover heeft kunnen komen. Het gesprek gaat nu niet over wie een algoritme inzet en tegen wie, maar over een scenario waar geen politicus iets aan kan doen. Ik heb veel liever een saaie discussie over wie een besluit mag nemen over de inzet van AI, dan een opwindende doemdenkporno over het einde der tijden. De saaie levert tenminste iets op.

Over wat er goed gaat met AI hoor en lees ik in Nederland helaas te weinig. In ziekenhuizen kijkt inmiddels AI-software mee bij het beoordelen van scans en de resultaten uit de onderzoeken laten zien dat er meer tumoren worden gevonden, terwijl artsen minder tijd kwijt zijn aan het lezen van beelden. Kunnen we dit niet als winst beschouwen? Scheikundigen hebben in een paar jaar een vraagstuk zien oplossen waar ze zich een halve eeuw op hadden stukgebeten. Een middel tegen longfibrose, een ziekte die patiënten langzaam de adem afneemt, is grotendeels met AI ontworpen en wordt inmiddels in de laatste onderzoeksfase op patiënten getest. En dit zijn slechts enkele voorbeelden van wat AI ons gebracht heeft. Wie dit allemaal afdoet als hype of anomalieën, mag mij komen uitleggen wat hij dan wel als vooruitgang zou herkennen.

Ik kan hier makkelijk over praten, want ik gebruik het zelf. En echt niet alleen om triviale onzin te bevragen. Bijvoorbeeld, voor mijn onderzoek laat ik er bronnen mee opzoeken die ik anders pas na weken zoeken zou vinden. Als een zin in een conceptversie niet lekker loopt, leg ik het voor aan AI en vraag ik om drie scherpere varianten. Ik zal meestal geen enkele zin letterlijk overnemen, maar zo kan ik wel constateren wat er aan de mijne schortte. Een verslag van driehonderd pagina's kan ik zo bevragen alsof er een collega naast me zit die het toevallig uit zijn hoofd kent. Of ik van het gebruik van AI beter word in mijn vak, betwijfel ik ernstig. Het scheelt mij wel tijd en dat is ongeveer het enige waar ik op een werkdag altijd te weinig van heb. Ik controleer altijd wat eruit komt, want ik heb ook vaak genoeg meegemaakt dat het hallucineert.

Als er één ding is wat ik door de jaren heen heb geleerd, is het dat angst voor een nieuw instrument bijna altijd een omweg is naar eigen onzekerheid. Waar het werkelijk om zou moeten gaan is wie het instrument hanteert en of je die persoon ter verantwoording kunt roepen. Er is geen sprake van een toekomst die ons overkomt. Wel een reeks besluiten. Genomen door mensen. Wie zegt dat AI straks de baas is, ontslaat dezelfde mensen die besluiten nemen van hun plicht om verantwoordelijk om te gaan met een technologie die buitengewoon veel positiefs voor de mensheid kan betekenen. Ik houd het liever bij de mensen. Hun besluiten zijn in een democratisch systeem traceerbaar. En wat traceerbaar is, kun je nog veranderen.