Pragmatisch ethisch enterprise architectuur manifest

Ethiek en ICT/enterprise architectuur staat momenteel volop in de belangstelling. Als drs. in de filosofie vraag ik mij dan af: waarom nu ineens? De oudste boeken, die ik ken over de ethiek van bijvoorbeeld kunstmatige intelligentie, zijn uit de jaren negentig. Niemand in onze beroepsgroep heeft daar naar mijn weten ooit aandacht aan besteed. Dus waarom nu wel? 

De ethiek, die iemand aanhangt, is altijd nauw verbonden met het idee van waarheid. Ethiek heeft het altijd over het ware, het juiste en het goede. Iemand, die een religie voor waar houdt, zal vanzelfsprekend ook dat wat erin als het juiste en het goede wordt beschreven, navolgen. Idem voor een aanhanger van het marxisme.

Grofweg zijn er twee opvattingen over waarheid: de empirie en het idealisme. Idealisme is de container voor alle ‘-ismen’ die we kennen. In de empirie bewijst de waarheid zichzelf. Deze is objectief, neutraal en de bewijsvoering zelf is herhaalbaar: iedereen zal bij dezelfde proef dezelfde uitkomst krijgen. Er is geen sprake van de ‘vooringenomenheid’ van de –ismen, die de waarheid op voorhand kleurt. Empirie biedt echter nauwelijks ruimte voor een opvatting over het juiste en het goede: hoe kan je wat juist en goed is empirisch bewijzen?

ICT heeft tot nu toe altijd vanuit de empirie geredeneerd. We konden heel lang aantonen, dat een component doet wat erover beschreven is. Maar we komen langzamerhand op een punt, waarbij we dat niet meer kunnen. Nieuwe technologieën gebruiken brute rekenkracht om tot nu toe ongekende mogelijkheden te exploreren: software bots, neurale netten, voorspellen met machine learning, robotisering. 

Wie kan nog empirisch bewijzen, dat dit soort componenten doen wat is beschreven? Waarom gaan chatbots met elkaar praten in een eigen, superefficiënte taal? Hoe ‘intelligent’ zijn neurale netten? Hoeveel beslissingen neemt een robot zelf?

Dus nu we enigszins verloren zijn voor wat betreft het ware, gaan we op zoek naar het juiste en het goede. Op zich een ontwikkeling, die ik toejuich. Maar voordat we ons gaan verliezen in eindeloze discussies over allerlei –ismen, die ook voor de ICT zouden moeten gelden, stel ik voor dat we ons in ieder geval gaan houden aan de regels van het pragmatisme. 

De pragmatiek hanteert enkele heldere en ook voor ICT’ers  zeer bruikbare regels. Voor wat betreft de waarheid geldt: True is what works. Eindeloos zoeken naar empirische bewijzen is niet altijd nodig; niet alles kan empirisch bewezen worden. Maar dit ruime begrip van waarheid is beslist niet vrijblijvend. Omdat we met ICT in feite experimenten uitvoeren met grote groepen mensen, zijn we ook gehouden om oog voor de sociale gevolgen te hebben en waar nodig als moreel individu een grens te trekken: Beware of the cries of the wounded.

Ik ben erg benieuwd naar het uiteindelijke ethische manifest. Maar van mij mogen de twee slogans van het pragmatisme bovenaan staan.

Rotterdam, 6 juni 2018