STEEN & BEEN. Menselijke fout (Filip Canfyn)
Onze huiscolumnist Filip Canfyn betreurt uiteraard de vele doden van de (tweede) treinramp in Spanje maar ergert zich blauw aan het selectief gebruik van de notie ‘menselijke fout’.
550 miljoen reizigers per jaar in Spanje hebben alle vertrouwen in de trein tot het automatische veiligheidssysteem zotte kuren krijgt en spijtige doden veroorzaakt. Het is al de tweede keer prijs dit jaar maar de kans op spoorgewijs overlijden blijft nog altijd uiterst klein. Akkoord, deze tragische ramp moet niet met wiskunde gerelativeerd worden maar het opblazen van het voorval hoeft nu ook weer niet want dan moeten er koppen rollen, dan ontstaat al snel gespin rond ‘menselijke fout’ van een of andere onverlaat in een controlecentrum. Hallo? De eerste en allergrootste fout was het stilvallen van het veiligheidssysteem, dat een menselijke uitvinding is. Bovendien is de menselijke afhankelijkheid van soft- en hardware allerhande zo groot geworden dat alleen maar verkeerde of domme dingen kunnen gebeuren wanneer het heft opnieuw in eigen hand moet genomen worden in wat dan een noodsituatie genoemd wordt. Ja, ergens in Spanje heeft een mens persoonlijk een computer-says-no-situatie moeten rechtzetten. Dus wordt met de vinger gewezen naar de menselijke fout want het veiligheidssysteem is blijkbaar niet menselijk en barbertje, een mens, moet hangen.
Enige tijd geleden moesten een pak websites van het net gehaald worden omdat stouteriken, ook mensen trouwens, wel eens faliekante gaten in de programmatuur konden vinden. Niemand sprak toen van een menselijke fout. Zijn websites en programma’s dan geen menselijke uitvindingen?
Meer en meer wordt gemeld dat AI zo slim wordt dat deze menselijke uitvinding volledig autonoom zijn goesting begint te doen, met alle desastreuze gevolgen van dien. En dan mag weeral niet gezegd worden dat het in essentie over een menselijke fout gaat.
De notie ‘menselijke fout’ is een handig instrument om technologie en totale afhankelijkheid vrij te pleiten, om verantwoordelijkheid af te wijzen, om alle mensen, buiten die paar ‘foute’, te verzekeren dat ze goed bezig zijn en dat de business as asual kan blijven doorgaan. Daarom mag en zal de allergrootste menselijke fout aller tijden, het om mercantiele redenen misbruiken van de planeet, vooral gedurende de laatste vijftig jaar, met de klimaatopwarming en andere ecologische rampen als fatale consequentie, nooit als een menselijke fout beschouwd worden.