Return to site

Black Mirror: de goede robot in de spiegel

Door: Josje Damsma en Bernold Nieuwesteeg

Wat is een goede robot? In het NRC geven Josje en Bernold een voorzet met dit artikel, met daarin natuurlijk ook onze eigen 'smart shoulder' genoemd.

NRC, dinsdag 23 januari 2018

Onderzoeksplatform Investico en Nieuwsuur onthulden dat er in Nederland jaarlijks duizenden rechtszaken worden afgehandeld door ‘robotrechters’. Deze ‘e-courts’ beslechten geschillen tussen organisaties als Bol.com en hun klanten. De vonnissen zijn pas geldig na een stempel van een echte rechter, maar meestal is dat een hamerstuk. Wel goedkoop, niet transparant. Dus waren er Kamervragen en maatschappelijke verontwaardiging.

Het roept de vraag op wat goede en slechte robottechnologie is. In elk geval raakt de robotrechter een gevoelige snaar. Instinctief willen we essentiële maatschappelijke en menselijke functies niet aan robots overlaten. Zoals bijvoorbeeld morele vragen in het recht. Maar medische expertise-software, die op hetzelfde vlak opereert, is al meer ingeburgerd.

Zelf hebben we de afgelopen jaren gewerkt aan Smart Shoulder: een stuk technologie dat monteurs en technici moet helpen. Het is een slim ‘vest’ met sensoren en een camera. Het wordt als een soort schouderholster gedragen en kan bijvoorbeeld waarschuwen als een monteur zou vallen, het ‘ziet’ wanneer het licht moet bijschijnen en kan de lichaamshouding van de monteurs corrigeren. Deze robot maakt hun werk makkelijker, veiliger en gezonder.

Instinctief willen we essentiële maatschappelijke en menselijke functies niet aan robots overlaten

Toch bestaan er nog steeds geen harde criteria om goedaardige van kwaadaardige robots te onderscheiden. Naarmate robottechnologie op elk vlak doordringt, zullen we die de komende jaren samen moeten opstellen.

Ontspoorde tech

Hoe moet het niet? Kijk daarvoor naar de populaire en bekroonde serie Black Mirror (vier seizoenen sinds 2011, de laatste twee op Netflix). Het is een lange reeks schrikbeelden over hoe kwaadaardige technologie een toekomstige samenleving doet ontsporen. Een arts die met geïmplanteerde chips van patiënten aan de haal gaat. Oneindig lijden als kloon in een digitale wereld. De kijker wordt bang en is dan opgelucht; het is immers niet echt.

Hoewel? China gaat elke burger een ‘sociale score’ geven op basis van big data. Wie hoog scoort – de overheid bepaalt op grond van welke criteria – krijgt privileges. Lage scores krijgen geen banklening of mogen niet naar de universiteit. Het doet nogal denken aan de Black Mirror-aflevering ‘Nosedive’.

Black Mirror houdt ons letterlijk een zwarte spiegel voor. Daarin kunnen we ook eigenschappen zien die goedaardige robots in elk geval moeten hebben. Een voorzet, mét kijkadvies.

Een goedaardige robot wordt mee-ontworpen door mensen die hem ook zelf gaan gebruiken.

Als je mensen van het begin af aan betrekt bij de ontwikkeling, ze zelf laat meedenken over de vraag waarmee een robot ze zou kunnen helpen, blijkt vaak dat ze positief tegenover robotisering staan. Bij ons eigen onderzoek naar ‘slimme kleding’ bleken technici in grote meerderheid positief over robots die werken veiliger en gezonder maken. Hoe het niet moet: Black Mirror, aflevering ‘USS Calister’ (een vrouw in een ruimteschip ontdekt dat het gezag van de leider, in wie iedereen gelooft, niet is wat het is.)

Een goedaardige robot voegt waarde toe aan alle betrokkenen.

De robot moet in economische termen efficiënt zijn. Dat betekent dat hij waarde moet toevoegen aan de levens van alle betrokkenen. Dat kan alleen als degenen die hiervan nadeel ondervinden ruimhartig worden gecompenseerd; in de economie bekend als het Kaldor-Hicks-criterium, waarbij je alle kosten en baten mee rekent. Robots mogen dan bijvoorbeeld wel werk overnemen, maar alleen als we ook investeren in de ontwikkeling van degenen die dit werk verliezen. Hoe het niet moet: Black Mirror, ‘Arkangel’ (moeder laat dochter met nuttige chip implanteren, waarvan het voordeel steeds eenzijdiger wordt).

Een goedaardige robot heeft een kill switch.

Robots moeten te allen tijde door mensen uit te schakelen zijn met een zogenaamde kill switch; een noodknop die de kunstmatige intelligentie stopt en de mens weer alle controle geeft. Op grond van dit criterium lijkt voor de robotrechter bijvoorbeeld het doek te vallen. Hoe het (ook) niet moet: Black Mirror ‘Metalhead’ (robothonden spelen de baas).

Bron: https://www.nrc.nl/nieuws/2018/01/23/hoe-herken-je-een-goedaardige-robot-a1589469

All Posts
×

Almost done…

We just sent you an email. Please click the link in the email to confirm your subscription!

OKSubscriptions powered by Strikingly