Ik zat op een houten klapstoeltje aan tafel met een van mijn persoonlijke helden. We bevonden ons in de personeelskantine van De Fabrique, een stoere industriële evenementenlocatie in Utrecht.
Professor Stuart Russell was in het land. Je zou verwachten dat kranten hun technologiepagina’s ermee zouden weten te vullen, maar in dit geval zal professor Russell het met mijn column moeten doen. Uitzondering hierop is een uitgebreid verslag op de site van Tweakers. Het was namelijk hun verdienste dat deze internationale grootheid naar Nederland was afgereisd.
En zo stond Russell op een donderdagmiddag oog in oog met zo’n 500 doorgewinterde programmeurs en IT’ers. De Amerikaanse hoogleraar Computerwetenschappen (Berkley) nam uitgebreid de tijd om te vertellen hoe ver de wetenschap de laatste twintig jaar was gevorderd op het terrein van kunstmatige intelligentie.
Russell kan het weten. Hij wordt gezien als een van de grondleggers van het vakgebied. Niet in de laatste plaats omdat hij in 1994 samen met Peter Norvig het standaardwerk “Artificial Intelligence: A Modern Approach” schreef. Het boek is sindsdien uitgebracht in 116 landen en is verplichte kost op 1300 universiteiten.
Tijdens mijn lunch vroeg ik of hij al klaar was met zijn nieuwe boek. Russell heeft een jaar “sabbatical” genomen om in Parijs te schrijven. In augustus moet hij weer terug naar zijn studenten in California en zal het boek dus klaar moeten zijn. Hij was op de helft, verklaarde hij met een zucht. Het moeilijkst leek het nu om een geschikte titel te vinden. “Niet per se het einde van der wereld” was zijn persoonlijke favoriet, maar de uitgever betwijfelde of de Britse ironie ook op andere plekken zou worden begrepen.
Zijn slotboodschap voor het publiek in Utrecht was dan ook helder. “Deze systemen bieden enorme kansen, maar ze vragen ook om een nieuwe vorm van verantwoordelijkheid.”
Ik vroeg hem of hij die verantwoordelijk in het bijzonder toedichtte aan de aanwezige developers. De zaal was immers gevuld met jongens en meisjes die dromen in de programmeertaal Python en die voor het ontbijt al twee algoritmes hebben getraind.
Nee, de verantwoordelijkheid ligt bij ons allemaal, antwoordde Russell. Hij maakte de vergelijking met de nucleaire industrie. Die heeft zichzelf min of meer om zeep geholpen met Fukushima. Als wij willen dat de computerwetenschap, kunstmatige intelligentie en robotica een langer leven zijn beschoren, dan moeten we als de donder de juiste richtlijnen en benodigde veiligheidsmaatregelen invoeren.
Voor het gemak somde Russell daarom zijn drie vuistregels voor “mensvriendelijke” computersystemen op:
- Het enige doel van de robot is het dienen van de mensheid en menselijke waarden.
- De robot weet niet bij voorbaat wat die waarden zijn.
- Menselijk gedrag geeft de robot informatie over die waarden.
Hiermee geeft Russell een nieuwe draai aan Isaac Azimov’s ooit zo visionaire Laws of Robotics. Het ging er bij de developers in Utrecht in ieder geval in als zoete koek. Want zo’n digitaal Fukushima, daar zit niemand op te wachten.