Echte disruptie met AlphaGo

Door: prof. Jaap van den Herik

Tsonge, jonge wat  was de film AlphaGo adembenemend. Go-spelers, schakers, juristen en high-tech industry leaders keken op donderdag 15 februari 2018 gezamenlijk anderhalf uur lang geboeid en muisstil naar een tafereel dat langzaam maar zeker de waarheid onthulde: de menselijke geest is op het gebied van Go niet langer superieur. De sterkste spelers ter wereld toonden hun diepste gevoelens terwijl ze stapje voor stapje de waarheid van hun eigen tekortkomingen onder ogen begonnen te zien.

Lee Se-dol, achttien keer wereldkampioen en nog steeds beschouwd als de menselijke top ...  en dan niets in te brengen hebben tegen een programma dat (...ja wat eigenlijk? ) het spel geleerd heeft van 40 miljoen opgeslagen partijen.

Het is bijna niet te begrijpen en toch was het zo. AlphaGo versloeg Lee Se-dol met 4-1 en daarvoor had het de Europese kampioen Fan Hui met 5-0 verslagen (ook in de film te zien).

Diep dal van onbegrip

Beide mannen gingen door een diep dal van onbegrip wat hen overkwam. Ze zaten tegenover een machine die de organische verbanden van de Go-stenen op het bord beter begreep dan zij, terwijl Go hun leven was. Zij waren de top-grootmeesters die doordesemd waren van Go-gevoel.

Het was een uitstekende keus van ZyLAB om bij de oprichting van de ACEDS Benelux Chapter  de film ALPHAGO van Google DeepMind te laten zien. De aanloop en de apotheose waren een geheel, zo overtuigend werd het aangrijpende verhaal verteld (nee, joh, jij bent bij lange na niet meer de beste van de Europa / de wereld; dat is een computer).  Maar het gebeurde ook met even zoveel respect. Immers elke topspeler wordt op den duur opgevolgd door een andere topspeler en dat gebeurde hier op een zeer sportieve manier. Alleen was het in deze setting de technologie, de kunstmatige intelligentie (AI) die de heerschappij overnam.

De mens is nog niet klaar

De vraag is nu natuurlijk: Zagen de toeschouwers in de film een glimp van wat de mensheid te wachten staat op andere gebieden? Is dit niet een grote gedachtesprong van een fervente AI-aanhanger? Zeker is dat we als menselijke samenleving  nog niet toe zijn aan zulke gedachten, maar dat waren Fan Hui en Lee Se-dol ook niet. Ook Google is trouwens nog niet zo ver, getuige hun bedrijfsbeleid dat als volgt luidt (kort samengevat)

• Google DeepMind heeft zichzelf een wetenschappelijke missie opgelegd om de grenzen van Kunstmatige Intelligentie (AI) te
• verleggen door programma’s te ontwikkelen die zelf kunnen leren hoe ze de complexe problemen kunnen oplossen ( zonder lessen van buitenaf).
• Natuurlijk weet Google dat er sterk verdeelde meningen zijn over het veilige en ethische gebruik van AI. Daarom streven ze op dit gebied ook samenwerking na met wetenschappelijke instellingen en onderzoeksinstituten.
• Go is een spel zonder directe impact op de maatschappij. Go research is derhalve verricht zonder te interfereren met morele of ethische opvattingen van anderen.

De voortgang van het wetenschappelijk onderzoek op dit gebied is als volgt: na Kunstmatige Intelligentie (1950-2000) kwam Machine Learning (1990-2010) en daarna Deep Learning ( 2005-2018). Ze zijn alle drie verschillend maar lopen in elkaar over en hebben daarnaast hun eigen verdere ontwikkeling. U begrijpt het al: als we Deep Learning gaan toepassen op een rechtssysteem, dan kunnen er opmerkelijke verbanden aan het licht worden gebracht. Dat leidt tot grote risico’s.

Grote risico's

Het is beter om dit te onderkennen dan het te ontlopen. De risico’s zijn:

• Automatische autonome adaptatie
• Ontwikkeling van gevaarlijke strategieen
• Bias, Bias, Biases.

Moeten we de ontwikkeling tegenhouden? Of hoe gaat het eigenlijk verder? Mijn tijdslijn van de ontwikkelingen tot het begin van de volgende eeuw is als volgt.

2025 computers zijn heel slim, maar nog niet echt heel slim

2035 computers spreken recht in eenvoudige zaken (geen morele, ethische issues)

2050 een robotteam speelt op niveau van de voetbal wereldkampioen

2080 computers overtreffen rechters in het nemen van ethische beslissingen

2102 computers zijn in alle disciplines betere leermeesters dan gewone hoogleraren.

Het is fascinerend om te lezen. Het is bijna onbegrijpelijk. Toch is het goed dat u weet dat het zou kunnen gebeuren.

Jaap van den Herik is professor Informatica en Recht bij de Faculteit Wiskunde en Natuurwetenschappen (sinds 2014) en de Faculteit der Rechtsgeleerdheid (sinds 1988). Zijn belangrijkste taak is het voorzitterschap van de Board of Directors van het Leiden Centre of Data Science (LCDS).