Ik wil een paar dingen kwijt over singularity en de hele horde van buitengewoon slimme mensen die daar vorm aan geven. Aanleiding hiervoor is de speech van Peter Diamandis, cofounder en chairman of the Singularty University, Nasa Research Park, Silicon Valley, die hij vorige week in Carré gaf. Carré zat vol.
Wat zegt Singularity?
Ontwikkelingen en ervaringen vanuit het verleden zijn niet relevant en dus preken zij een grote aanstaande discontinuïteit. Overigens hebben zij geen mensvisie maar uitsluitend een technologievisie. De mens lijkt straks niet meer mee te doen. Singularisten hebben geen enkele twijfel over mogelijke downsides. Bijvoorbeeld voedsel en energie worden tegen het licht van de groei van de wereldbevolking geen enkel probleem.
Ray Kurzweil, de grondlegger van Singularity denken, gaat nog een stap verder. Over 20 jaar gaat het ons volgens hem lukken om onze hersenen te re-engineeren. Hij denkt kennelijk onder meer dat wij onze hersenen zijn. Kurzweil wil onsterflijk zijn en bereikt dat in zijn visie onder meer door grote hoeveelheden antioxidanten en voedselsupplementen tot zich te nemen. Hij wil zo lang leven dat zijn hersenen straks geüpload kunnen worden in een nieuw ‘lichaam’ Hij gaat zo niet verloren.
Interessant is dat Singularity wel redelijk ‘gewoon’ is gefinancierd. We treffen daar de Kurzweil Inc aan, waarachter overigens bekende grote partijen zitten.
Waarom voel ik zo’n verzet tegen deze opvattingen? Ik vind dat we hier de revival zien van het naïeve technologische vooruitgangsgeloof dat ik uit begin jaren 60 ken van de Thunderbirds. Ik speel in deze bijdrage graag even de rol van, zoals singularisten dit noemen, de neo-luddiet.
Zo maar wat vragen die Peter van den Heuvel, Joyce Ronda en ik in een recente gedachtenuitwisseling hierover hadden. Waar zit de visie op de mens? Wat gaat dit voor mensen betekenen en willen die dit en vinden ze dit ook leuk? Wat betekent dit voor de eigen wil? In zijn consequentie word ik straks geleefd door zelfstandig beslissende machines die via algoritmes mijn persoonlijke beslissingen, emoties en gedrag gaan registreren, beoordelen en vervolgens bepalen. Ik ben dus niet meer verantwoordelijk, maar het algoritme. (We hebben de laatste 10 jaar bij banken gezien hoe algoritmes werken).
Kurzweil predikt dat je straks de keuze hebt om een ‘body’ te kiezen of zoals je virtual avatar te zijn. Het probleem hiermee is dat de human body of psyche ter discussie komt te staan. Straks bepaalt een verzekeraar dat het menselijk been niet meer geopereerd wordt, maar dat het goedkoper/beter is een robotbeen te nemen, of dat er categorieën mensen zijn die niet functioneren en een ‘brainwash’ nodig hebben. Wat is straks de norm? Wie bepaalt die norm?
Een tweede is dat gelijkwaardigheid in het geding komt. Om singularity te kunnen bereiken moeten er mensen zijn die computers kunnen maken die minimaal gelijkwaardig intelligent zijn aan mensen en ook dat de mens geüpgraded kan worden om de ontwikkeling van intelligentie te kunnen volgen.
De norm van mens-zijn komt hiermee ter discussie te staan en we versterken de wereld die niet te begrijpen valt (is nu al het geval). In de gelijknamige Startrek episode raakten mensen of geobsedeerd of lusteloos toen ze dit zwarte-gat-punt naderden (deze episode liep gelukkig goed af).
Zal er een punt bestaan waarop de computer begrijpt dat het zo niet verder kan?
Nog praktischer, wie heeft straks de macht over al die gegevens die bij mij via allerlei sensoren worden uitgelezen? De overheid? Het bedrijfsleven? Of een algoritme/computer? En zou bijvoorbeeld de overheid het beste met mij voor hebben? En wie bepaalt dan wat het beste is? Het NSA voorbeeld stemt wat mij betreft niet hoopvol. En welke overheid dan? De democratische overheid die wij zelf kiezen en verdienen? Of een door algoritmes bepaalde overheid omdat die ons gedrag en dus ook ons stemgedrag kent en bepaalt?
Ik hoop dat je buitengewoon kritisch naar dit soort ontwikkelingen en denkbeelden kijkt en het niet alleen voor zoete koek aanneemt. Ik vind dat het in zijn intenties niet deugt om reden hiervoor geschreven. Als technisch iets mogelijk is, hoef je dat niet ook altijd toe te passen. Singularisten nemen overigens zeer beperkt verantwoordelijkheid voor dit soort, laat ik het noemen, maatschappelijke consequenties. Ze zien de technologische ontwikkeling als een gegeven, daar hoef je dus geen verantwoordelijkheid voor te nemen. Het kernpunt van hun marketingboodschap is ’the rate of change’ en exponentiële groei. Hiermee maken ze de ’toekomst’ belangrijker dan het heden.
Ik denk dat we meer over facts zouden moeten praten met betrekking tot het heden en/of verleden. Laten we maar eens beginnen het ‘nu’ te begrijpen. Dat is al moeilijk genoeg. Singularisten eindigen met een gefixeerd finaal gezichtspunt (de singulariteit) waar jij en ik en iedereen aan voldoet. Wil je daar bij horen?
Ik kan me eigenlijk niet voorstellen dat mensen dit werkelijk denken. Ik denk dat we te maken hebben met een grote marketing truc van een paar mensen om heel veel aandacht te krijgen en die aandacht wederom volgens oude machtssystemen in geld om te zetten. Wat trouwens goed lukt.
Ik heb zelf geen behoefte aan algoritmes die mij gaan bepalen. Dit soort ambities hebben we vaker gezien in de wereld. Waar blijft de vertegenwoordiging van het unieke gedeelte in de mens? Ik leef graag in meer gezichtspunten.
[Afbeelding: © Sergey Nivens – Fotolia.com]
