Guns don’t kill people

“Guns don’t kill people, people kill people” zegt de Amerikaanse NRA (National Rifle Association) als er weer stemmen op gaan om de vuurwapenverkoop aan banden te leggen. Alsof er geen relatie is tussen vuurwapenverkoop en dodelijke schietincidenten. Die is er natuurlijk wel, want mensen met vuurwapens gaan soms met die dingen schieten. Als ze geen vuurwapens hadden, dan deden ze dat niet.

Nieuwe technologie neemt mensen steeds meer taken uit handen. Auto’s die zelf remmen of bijsturen, drones die pakjes bezorgen, intelligente software die beslissingen voor ons neemt. En dat roept een soortgelijke vraag op als die over wapens: wie is verantwoordelijk als het misgaat? De producent van de techniek of de gebruiker? De producent zal geneigd zijn te zeggen dat de gebruiker rekening moet houden met de beperkingen en risico’s van de technologie. En hij zal om zich juridisch in te dekken een lange bijsluiter opstellen (die niemand leest) waarin hij de gebruiker op zijn verantwoordelijkheden wijst. Is hij daarmee klaar? Ik denk van niet. Want hij weet dat mensen niet perfect zijn. Ze zijn lui, overschatten zichzelf, denken in sommige situaties niet rustig na, hebben niet altijd voldoende verantwoordelijkheidsgevoel. En soms zelfs slechte bedoelingen.

Om dezelfde reden dat we hier geen openbare wapenverkoop toestaan, moeten we ook terughoudend zijn met technologie die desastreuze gevolgen kan hebben als het op de verkeerde manier wordt gebruikt. Toen drie jaar geleden drones net op de markt waren, werden ze opvallend vaak gesignaleerd in de buurt van Franse kerncentrales. Had zoiets voorkomen kunnen worden? En neem zelfrijdende auto’s: bestaat er een kans dat die gehackt worden? Wat doen fabrikanten om dat uit te sluiten of om de gevolgen ervan te beperken? Producenten moeten verder kijken dan hun juridische plicht. En overheden moeten zich verdiepen in de impact van nieuwe technologie, zelfs voordat die op de markt komt.

Technologie wordt steeds slimmer, maar de mens niet. Daarom moeten we die laatste soms tegen zichzelf beschermen.