Intelligentie Explosie

De ontwikkeling van menselijke intelligentie heeft de wereld herschapen. Vrijwel alle objecten om ons heen zijn bijproducten van menselijke intelligentie. De kleding die u aan heeft, de stoel waarop u zit, het scherm waarnaar u tuurt. De experts die ik de afgelopen maanden sprak verwachten nagenoeg allemaal dat we ergens de komende jaren technologieën zullen ontwikkelen die het mogelijk maken om menselijke intelligentie te verbeteren. Dit kan op verschillende manieren. We hacken het brein, we koppelen het aan een computer, of we creëren niet-menselijke, kunstmatige intelligentie. Vooral met dit laatste wordt al veel geëxperimenteerd:

• 20 jaar geleden won Deep Blue van een menselijke grootmeester in het spel schaken
• 5 jaar geleden won Watson van menselijke kampioenen in het spel Jeopardy
• Deze week won AlphaGo het spel Go van grootmeester Lee Sedol met 4-1.

Kunstmatige Intelligentie is steeds minder een spelletje. Maar wordt het scenario waarin KI menselijke intelligentie evenaart of voorbij streeft serieus genomen?
Bij dergelijke technologische ontwikkeling gaat het niet om weer een leuke app, die handig, stoer of hip is, die de markt kan veroveren. Intelligentie is, zoals Yudkowsky betoogt, de bron van technologie. Als we technologie kunnen gebruiken om intelligentie te verbeteren, dan zou je zomaar een positieve feedback-loop kunnen krijgen. Deze gedachte werd in de jaren ’60 van de vorige eeuw al gebezigd door Jack Good, een statisticus en collega van Turing, die het de intelligentie-explosie noemde.

Het idee is dat als je intelligentie ook maar een beetje verbetert, dit het ontwerpproces van intelligentie kan versnellen zodat je steeds sneller een steeds intelligenter systeem krijgt. Een pure vorm van deze intelligentie-explosie zou een KI-systeem zijn dat z’n eigen broncode inziet, herschrijft en blijft herschrijven. Hoe zou zo’n systeem de wereld inrichten? Hoe zouden de objecten om ons heen eruit zien als ze door een dergelijke intelligentievorm zouden zijn ontworpen? Misschien moeten we dat voorlopig overlaten aan science fiction schrijvers.

Een intelligentie explosie zou één van de belangrijkste gebeurtenissen zijn die ooit heeft plaatsgevonden. Het zou enorme voordelen kunnen hebben: we zouden ongekende wetenschappelijke stappen kunnen zetten, meer ziektes kunnen bestrijden, armoede kunnen verhelpen en een meer intelligente samenleving kunnen inrichten.

Er zijn natuurlijk ook enorme potentiële gevaren: wat als het systeem niet beteugeld kan worden? Wat als het systeem haar eigen weg kiest? Wat als deze intelligentievorm weinig sympathie heeft voor mensen?

Als er ook maar een kleine kans is dat er een intelligentie explosie plaatsvindt – en vele prominenten denken dat dit het geval is – dan doen we er goed aan alvast na te denken over de mogelijke manifestaties en over de verhouding tussen menselijke en niet-menselijke intelligentievormen. Moeten we bij de ontwikkeling van KI vol op het gaspedaal trappen, of juist de voet wat dichterbij de rem houden?