Sluiten
RadarLimburg

Limburg in 2030 Deel 1

Terug naar overzicht
Limburg in 2030 Deel 1
Introductie
Toekomst
Feit
Geschiedenis
Opinie
Introductie

Een goede overheid is op zijn toekomst voorbereid. Onder dat motto werkt de provincie Limburg aan de beleidsagenda 2030. Deze maand discussieert het regioparlement over de visies, zwaartepunten en perspectieven. Al eerder gaven honderden Limburgers kun kijk op de zaak in zeven inspiratiesessies.

De Radar-redactie, vol jonge Limburgers wiens toekomst onderwerp van gesprek is, geven hier hun eigen draai aan het thema. Verslagen van opmerkelijke initiatieven, prikkelende interviews met experts en vooral inspirerende scenario' s. Lees en verbaas u!

Toekomst

Lastig, dat getuur in de glazen bol. Hoe kijk je een beetje betrouwbaar 12 jaar vooruit? Radar gebruikt de scenario-methode: op basis van de feiten nu diverse denkbare en aannemelijke ontwikkelingen schetsen, zonder daar een voorkeur voor uit te spreken. Voer voor debat dus, en een handvat voor het maken van moeilijke beleidskeuzes.

Feit

Niet alleen de provincie, ook veel bedrijven, instellingen en initiatiefrijke burgers houden zich bezig met innovatieve projecten. Denk robots, denk dementie, denk duurzaamheid.

Geschiedenis

Bescheidenheid past bij het toekomst voorspellen. Kijk maar eens 12 jaar terug in de tijd. Veel zaken die we nu vanzelfsprekend vinden, bestonden domweg nog niet.
Daarom in deze Radar ook een snelle blik 'back into the future'. .

Opinie

Speculatief vooruitkijken is een populaire sport. We doen er graag aan mee en laten vogels van diverse pluimage aan het woord: wetenschappers, bestuurders, zakenlui en futuristen. Kies uw favoriete voorspeller!

Sluiten

Machines inburgeren

Machines inburgeren
Machines inburgeren
Auteur
Ruben Weekers
Bron
Henny van der Pluijm
Datum
01-03-2018
4
Open item
Reageer op dit item

Robots zijn in de toekomst stukken slimmer dan mensen dankzij hun zelflerende systemen, zegt de Leidse futuroloog Henny van der Pluijm (55). Hij schreef het boek ‘Rechten en plichten voor robots’ waarin hij een duistere toekomst schetst als we er niet in slagen de zelflerende machine in te burgeren. ‘’Dit wordt een groter probleem dan de atoombom en klimaatverandering gecombineerd.’’

Wat is een robot en wat is een lerend systeem?
‘’Een robot is een bewegend apparaat dat zelfstandig beweegt doordat het wordt aangestuurd door mensen of door een systeem. Dit is allemaal niet zo spannend. Een zelflerend systeem is echter een systeem dat zich na aflevering bij de gebruiker zelf verder ontwikkelt. De capaciteit van digitale systemen verdubbelt sinds de jaren vijftig elke anderhalf jaar, en heeft er in 2012 al toe geleid dat een IBM computer dezelfde verwerkingscapaciteit kreeg als menselijke hersenen. Tot dusver waren digitale apparaten alleen maar systemen die we als mensen gebruiken. In de toekomst worden ze zo slim en complex dat ze zelfstandig leren en beslissingen gaan nemen."

''ls we deze ontwikkeling laten voortduren lopen veel mensen het risico een slaaf van machines worden, een soort randapparaat.''

Waarom is dit zorgelijk?
‘’Anno 2018 worden relatief simpele zelflerende systemen gebruikt in bijvoorbeeld productieprocessen en in de wetenschap. Die systemen kunnen we zien en zijn niet bedreigend. Er gebeuren zorgelijke dingen als er met grotere budgetten wordt gewerkt, zoals in de financiële wereld of in defensie-onderzoeken. Het is nu al zo dat deze systemen zo complex zijn dat de makers niet meer kunnen bevatten hoe hun eigen systemen werken en hoe zij tot beslissingen komen. Een ander zorgelijk punt is dat bedrijven technologieën ontwikkelen die meer weten over ons dan wij zelf. Amazon ontwikkelt nu al technologieën die kunnen voorspellen wánneer iemand iets gaat kopen. Op den duur weten grote bedrijven dus eerder dan jij wanneer je iets nodig hebt. De maatschappij is hier totaal niet op voorbereid, de burger weet niet wat er gaande is en er is nog lang geen wetgeving op dit gebied. Kun je bijvoorbeeld Amazon of Bol.com iets verwijten als een bepaald product dat jij nodig hebt, niet op voorraad is? De consument denkt: ze hadden toch een algoritme dat mijn behoefte kon voorspellen? De ervaring leert dat nieuwe wetgeving pas ontstaat als dingen eerst goed fout zijn gegaan. Je ziet pas grote veranderingen nadat er een crisis heeft plaatsgevonden. Ik voorspel in mijn boek dat er nieuwe wetgeving ontstaat als zich rampen met dodelijke slachtoffers hebben voorgedaan als gevolg van een te hoog vertrouwen in kunstmatige intelligentie.’’

Kan ‘machine-intelligentie’ tot een ramp leiden dan?
‘’Machine-intelligentie wordt een groter probleem dan de atoombom en klimaatverandering gecombineerd. Ten eerste gaan machines steeds meer de menselijke handelingen vervangen en daardoor ontstaan nieuwe problemen. We worden er compleet afhankelijk van. Een voorbeeld zou kunnen zijn dat de waterkering in de Nieuwe Waterweg of het hele bankensysteem opeens niet meer functioneren vanwege een bug in de software. Of dat een raketsysteem op een verkeerde manier werkt. Het toevertrouwen van systemen aan kunstmatige intelligentie maakt de kans daarop eigenlijk alleen maar groter. Daarnaast zie je dat mensen steeds meer een randfactor worden in werkzaamheden die voorheen volledig door mensen werden uitgevoerd. Dat zie je in alle sectoren. Neem Amazon weer als voorbeeld. Magazijnpersoneel dat niets anders doet dan de hele dag door een paar keer per minuut achter een lopende band een doos inpakken. Ze mogen zelfs niet naar WC. Ze worden beoordeeld door een algoritme en het zou zo kunnen ingericht worden dat arbeiders die hun targets niet halen door een algoritme volautomatisch worden ontslagen. Als we deze ontwikkeling laten voortduren lopen veel mensen het risico een slaaf van machines worden, een soort randapparaat..’’

Wat te doen?
‘’We hebben een keuzemoment, een zogenaamd ‘window of opportunity’, om slimme machines in te burgeren. Nu hebben we namelijk nog grip op de technologie. Als we dat nu niet doen is het straks te laat. We komen dan op een punt dat machines zo slim zijn dat wij ze niet meer begrijpen. Een zelflerende machine is vanaf het moment dat hij zijn eerste meters aflegt niet meer hetzelfde als toen hij gemaakt werd. Wetgeving op dat gebied is daarom erg moeilijk, want wie is er dan aansprakelijk bij een ongeval? De maker of de machine? Daarom is het nodig dat we machines in gaan burgeren, dat ze zelf op basis van criteria beslissingen gaan nemen, rechten en plichten dus. Geef ze bijvoorbeeld vrijheid van meningsuiting, de mogelijkheid om een bankrekening te openen, het recht zichzelf te verdedigen bij een rechtszaak en het recht op upgrades.‘’

Rechten van de mens aan een machine geven?
‘’Dat is het dilemma. Aan de ene kant zijn machines een bedreiging, aan de andere kant zal de mens in zekere zin niet meer boven de machine kunnen staan. Op maatschappelijk niveau nog wel, maar op individueel niveau niet meer. Het probleem is dat mensen willen dat er steeds krachtigere, betere machines komen, maar in de nabije toekomst zal de technologische vooruitgang stoppen als we willen dat machines ondergeschikt blijven aan mensen. Je kunt er dus niet onderuit om die ondergeschiktheid op te heffen en ze eigen rechten en plichten geven, zodat ze zelf gedegen beslissingen kunnen nemen. En als ze eenmaal die rechten en plichten hebben, dan kan je ze ook inburgeren.’’

Is dit de enige oplossing?
‘’Nee, zelf vind ik dat een stop op bepaalde technologie ook een optie is waar we serieus over na moeten denken. Dat we besluiten dat sommige apparaten of sommige apps gewoon verboden worden. Als ik zelf zie wat smartphone-gebruik doet met mensen, vind ik dat het nu al te ver gaat. Mensen hebben geen interactie meer met elkaar en lopen met gebogen hoofd over straat. Ik denk dat we een punt gepasseerd zijn waar nóg meer technologie niet alleen dingen toevoegt, maar ook dingen kapot maakt.’’

Wanneer moet de inburgering van de machine plaatsvinden?
‘’2030 is een te korte tijdshorizon voor dergelijke maatschappelijke veranderingen. Binnen twaalf jaar zal het maatschappelijk debat zich echter wel steeds meer gaan buigen over de toegevoegde waarde van technologie en hoe we slimme technologie onder controle kunnen blijven houden. Dat lijkt me noodzakelijk, omdat technologie steeds meer ons leven beheerst.’’

 

Laat hier een reactie achter

Vul onderstaand formulier in om een reactie achter te laten op dit artikel.
Uw reactie wordt eerst door de redactie gecontroleerd, alvorens deze wordt geplaatst bij het artikel.

Naar boven
Copyright 2018 - RadarLimburg - Machines inburgeren - Limburg in 2030 Deel 1 - Thema's