Op de uitnodiging stond het volgende: “Zelfrijdende auto’s, gezichtsherkenning, digitaal geld, slimme vaccins. De wereld evolueert snel, met kunstmatige intelligentie (AI) voorop. Maar er is een donkere kant, want AI is niet neutraal. Het verdeelt onze samenleving soms. Je kunt genieten van het gemak van betalen met je smartphone, maar voor bedelaars kan het het einde betekenen van hun belangrijkste bron van inkomsten. Een deur openen met gezichtsherkenning is snel en veilig. Dezelfde technologie kan echter ook bepaalde bevolkingsgroepen buitensluiten.”
Op 25 november was er in het Evoluon, Eindhoven: AI FOR ALL – From the Dark side to the Light. In een paar uur warden we ondergedompeld in de wereld van AI, door verschillende sprekers, waaronder Bruce Sterling, de internationaal geprezen science-fiction schrijver, journalist, redacteur en criticus. Maar het bleef vooral hangen in ‘the dark side’… het licht werd amper aangeraakt. Terwijl er echt ook hele mooie dingen gebeuren binnen AI. Hierbij wil ik een paar voorbeelden benoemen.
1. Onderzoekers van Meta (voorheen Facebook, hoofdkantoor in Menlo Park, Californië) hebben AI gebruikt om de structuren te voorspellen van zo’n 600 miljoen eiwitten van bacteriën, virussen en andere micro-organismen die nog niet gekarakteriseerd zijn.
2. Borstkanker is een toenemend probleem in landen met lage en middeninkomens, maar screeningprogramma’s voor vroegtijdige opsporing zijn zeldzaam.
Een bedrijf in India heeft een goedkope, niet-invasieve test ontwikkeld die gebruik maakt van thermische beeldvorming en AI. Hoewel de test minder betrouwbaar wordt geacht dan mammografie, wordt gehoopt dat hij kan helpen om bepaalde vormen van kanker in een vroeg stadium op te sporen bij mensen die anders geen toegang zouden hebben tot mammografiescreenings.
3. Het World Bee Project gebruikt kunstmatige intelligentie om de bijen te redden? De wereldwijde bijenpopulatie neemt af, en dat is slecht nieuws voor onze planeet en onze voedselvoorziening. In samenwerking met Oracle hoopt The World Bee Project te leren hoe bijen kunnen overleven en gedijen door gegevens te verzamelen via IoT-sensoren, microfoons en camera’s op bijenkorven. De gegevens worden vervolgens geüpload naar de cloud en geanalyseerd door kunstmatige intelligentie om patronen of trends te identificeren die vroege interventies kunnen sturen om bijen te helpen overleven. Uiteindelijk maakt kunstmatige intelligentie het gemakkelijker om real-time informatie op wereldwijde schaal te delen en actie te ondernemen om de bijen te redden.
4. De app Seeing AI gebruikt allerlei vormen van computer vision om te beschrijven wat de camera van je iPhone ziet. Je kunt Seeing AI bijvoorbeeld teksten laten voorlezen, waarbij je simpelweg de camera richt op de tekst en hij direct met voorlezen begint. Voor blinden en slechtzienden een handig hulpmiddel.
Zo zouden we kunnen doorgaan. Een gezonde mix van technofobie en techno optimisme is wat er nodig is om de techniek op de juiste manier in te zetten en te gebruiken. Ik heb een paar deelnemers naar hun ervaringen gevraagd over het event.
John van Litsenburg, docent Fontys Hogeschool ICT
Gezien de korte duur van het event en het (bekende en soms terechte) AI scepticisme van met name de hoofdgast en ook de tweede gast, is het logisch dat een heleboel m.b.t. AI onbelicht bleef. In het licht van informatie en demystificatie van AI kun je je dus afvragen of dit een geheel geslaagde opzet was als de titel AI for all is. Misschien iets te veel de-mystificatie?
AI for all kan gaan over de daadwerkelijke implementatie van AI (for all of niet for all), maar ook over informatie for all. Ik denk dat er een publiek was dat al voor-geïnformeerd is en niet zo snel van de kook te brengen is, maar ik kan me ook voorstellen dat een heleboel mensen dit afschrikt en depressief naar huis stuurt. Het werd me iets te doomy, gekleurd en kort door de bocht en dit werd erger naarmate het event vorderde dacht ik. Ook bij Bruce nam de emotie de overhand en dat is aan de ene kant enigszins vermakelijk, begrijpelijk, maar dat werd me iets te gekleurd en te makkelijk. Het pessimisme sloeg door niet in de laatste plaats door Marleen Stikker waarvan ik me afvraag of die niet wat verstrengeld is geraakt in haar eigen ‘activisme’. Ik zou zeggen het een en ander vraagt in ieder geval om vervolg.
Begrijpelijk is wel de zorg natuurlijk over algoritmes die door wat voor reden dan ook (commercieel opportunisme of onkundige efficiency drang of beide) worden geïmplementeerd met mogelijke horror scenario’s van dien. Dus misschien moet ik niet te hard zijn naar Marleen.
(Ik doe zelf bij societal impact of a.i een korte lecture en bijbehorende exercise over AI optimism vs. (of liever ‘en’) AI pessimism. Dat doe ik en doen we juist om welk te eenzijdig beeld pro of con dan ook te vermijden en mensen zelf te laten nadenken op basis van informatie, enige kennis (niet inde laatste plaats over pessimisme en optimisme) en voorbeelden (zelf te verzamelen in dat geval). Maar goed dat terzijde.)
Het ging door de presentatie van Bruce Sterling met name over Dall-e en Large Language Models en deze worden langs de meetlat gehouden van general artificial intelligence. Ik vond zijn uiteenzetting en nadruk dat dit statistical machines zijn erg goed en terecht en zijn demystificatie en de-antropomorfisering was toepasselijk. Hij staat bekend als AI skeptic m.b.t. hard AI.
De tijd zal uitwijzen of hij gelijk heeft. De voorbeelden op basis van bepaalde prompts transponeren je direct de middeleeuwen in. Dat is waar. Maar okay. (De schilder Dali vond Jeroen Bosch zijn werk middeleeuwse diarree, maar okay dat is de mening van Dali (nobody is perfect) naar wie Dall-e mede vernoemd is by the way).
Artificial General Intelligence dus. Tja zover zijn we (nog) niet natuurlijk en misschien komt die er nooit. Maar misschien ook wel. Het is ook duidelijk dat die dingen (die models) flinke valkuilen, nadelen en mogelijk ernstige consequenties kunnen hebben bij misbruik. Zeker waar. Maar dat is altijd zo. Er zijn er volgens mij twee die nu toegankelijk zijn voor het publiek; GPT-3 en Bloom. En dan heb je Dall-e als image synthesizer. Er valt over deze LLM’s een hoop te zeggen. Veel experts in het AI. veld zijn echter ook verrast door wat het kan (in tegenstelling tot teleurstelling en scepticisme). Een milestone. En ja aan de andere kant is er grondige kritiek. Ze zijn niet echt (algemeen) intelligent en dat is zo. Bummer. En mogelijkheden voor deep fakes en des-informatie zijn groot.
De LLM’s va Google bijvoorbeeld of van Facebook zijn niet openbaar en dat is niet voor niks. (tweeledige reden; een ethische en een commerciële) Google huurt op dit moment 200 (extra) ethici om e.e.a. dicht te spijkeren. Ik heb via een channel online van een dr. Allan Thomson een keer een inkijkje gekregen in wat het ding allemaal niet kan en mag nog voor het inhuren van de 200 ethici. Interessant en doordacht. De werkelijkheid echter is weerbarstig en chaotisch dus je moet wel erg verrekte goed weten wat je doet. Is dat reden om de reis af te breken? Is dat überhaupt een praktische en reële optie. Forget it. Iedereen aanwezig eet van technologische ontwikkelingen trouwens. Ook van ‘minder aangename’ kanten ervan. De strijd om een rechtvaardiger wereld? Lets get real.
Ik ken ook experts die een optimistischer beeld hebben, misschien niet raar gezien hun positie in the industry (maar toch), ten aanzien van de mogelijkheid van a.g.i. en de queeste van de mens in het algemeen om intelligente machines te maken naar ons evenbeeld (of toch zoiets) en die dat zien als een nobele onderneming. Hoe je e.e.a. ziet kan ook een self fulfilling prophecy zijn zowel naar de negatieve en positieve kant. Dat vergeten veel mensen vaak. De droom van de denkende machine is al erg oud. Eeuwen oud zelfs. Een universele droom. Die droom en natuurlijke drang is te vergelijken met de natuurlijke nieuwsgierigheid en drang om het universum te begrijpen en te verkennen zou je kunnen zeggen. (daar kun je ook van alles bij denken en heeft misschien wat minder real world consequences for the good and the bad) Natuurlijk willen we intelligente machines maken. Je zou wel stom zijn om dat niet te willen. (Veel mensen refereren dan graag aan Frankenstein en zijn monsterlijke creatie alleen ze vergeten dat het monster ernstig hardvochtig werd omdat het gezelschap en liefde werd ontzegd. Het was niet zo maar kwaadaardig. Dat zou mij ook niet aanstaan. Liefde dus. Maar hoe gaan we dat aanpakken? Lover your machine and it will love you back? Unconditional love?
De cosmos out there en the cosmos in ons hoofd. Een universele drang die meer is dan alleen engineering of zelfs wetenschap in strikte zin, maar een drang die ethisch is of kosmisch is als je wil. Misschien allemaal een overmoedige droom, misschien niet. Maar als er niet echt een alternatief is? Als je nu eenmaal mens bent. Het is maar waar je in gelooft ook. Als je het mij op maandag vraagt geloof ik het een en op dinsdag het andere. Hoe dan ook de geest is uit de fles. En de mensheid moet toch door. Humanisme, post-humanisme, naturalisme. Romanticisme. Wetenschap. Religie. Kunst. Het kan allemaal. Wat is je standpunt? Het thema artificial intelligence moet breed en diep bekeken worden.
Terug naar het Evoluon. Wat specifiek en in ieder geval jammer is, is dat een heleboel AI in wetenschap en engineering onderbelicht blijft. Alphafold dat het zeer complexe biologische probleem (puzzle) van protein folding (bijna; maar dat is een flinke prestatie) oplost. Dat is ook een grens overschreden. AI die nuclear fusion mogelijk kan maken. AI. in cosmology en astrofysica. AI for ecology etc. Een vaccin tegen covid in een paar uur (okay er is voorwerk en het is niet alleen de AI die het doet) in plaats van een paar jaar. Dat is ook AI for all als je (wederom) gelooft dat de mens er uiteindelijk wel komt wat niet meevalt te blijven geloven in deze tijden van enorme problemen waarvoor wij ons gesteld zien. AI kan veel betekenen m.b.t. energie, materiaal wetenschap en wetenschap in het algemeen en weet ik veel wat zich nog meer achter de horizon bevindt. Misschien wel handig als we er voor zorgen dat bedrijven eerlijk(er) opereren. Dat zal niet meevallen. De mens is opportunistisch vaak. Je weet misschien dat Shell en Exxon al in de jaren zeventig uit eigen onderzoek opmaakten dat het blijven verstoken van fossiele brandstof catastrofale gevolgen zou kunnen hebben voor de gehele mensheid. De rapporten verdwenen in de kluis. Tja. Zegt u het maar. Er is een spanning tussen individueel en collectief belang, tussen ratio en emotie en tussen korte en lange termijn.
Een van de panel gasten ziet een hype die over the hill is en ziet wellicht weer een AI winter in aantocht (kunnen we nog altijd knus bij het vuur kruipen met zijn allen deze kerst). Ik ken ook mensen en niet de minste (Joscha Bach) die vinden dat de huidige ontwikkeling van LLM’s under-hyped is. Durf te dromen is een groot goed. En mogelijk gevaarlijk ook natuurlijk tegelijkertijd, maar ja it is all-in the game.
Zie ik geen horror scenario’s in de wereld en toekomst met (of zonder) AI? Zeker wel. Een heleboel. Ik kan er niet van slapen soms (niet letterlijk). Met betrekking tot ethiek zou ik nog wel iets willen opmerken. De intelligentie en ethiek die wij zelf aan de dag kunnen leggen is de werkelijke (maximale) maat van wat we (met voorbedachte rade) uit onze machines kunnen krijgen denk ik. Maar wat mag ethiek kosten? Wat hebben wij er voor over? En hoe verdwalen we niet? Zijn we al verdwaald? Of juist niet? Wie zal het zeggen? Dat is de hoofdvraag. De mogelijke antwoorden op deze vraag en vragen is de inhoud die we ermee kunnen en moeten maken. Dus laten we blijven praten hierover, maar flink ook dan. Aan de andere kant loopt de wereld zoals die loopt. Dank aan alle gasten.
Jo-An Kamp • Onderzoekt de impact van (nieuwe) technologie op mens en maatschappij
In de podcast ‘hoe maak je je morele kompas leidend’ van AIToday Live had ik het er al even over… misschien hebben we wel meer kunstenaars nodig dan techneuten om de impact van technologie te kunnen duiden. Spreker Bruce Sterling was het levende voorbeeld daarvan! Met een even scherpe als onnavolgbare geest nam hij ons mee in de wereld van ‘Post-Human AI Generated Art’, o.a. door zijn prompts te laten zien om een AI zover te krijgen een stukje tekst om te zetten naar een anatomisch correcte menselijke hand. Uitkomst: het lukte de AI voor geen meter, maar er volgde wel een compleet nieuwe vorm van computer gegenereerde handen die wij als mens nooit in de vorm hadden kunnen verzinnen! Fascinerend!
Of, om in de woorden van Bruce te spreken “the stupider artificial intelligence is, the better I like it!”
Ook kunstenaar Hendrik-Jan Grievink zette me aan het denken met zijn chatbot in een reddingsboot- installatie op DDW2022 waarmee je zelf je techno-privilege kunt checken (die van mij is overigens 90%, ik had niet anders verwacht): verregaande digitalisering heeft namelijk ook nadelen. Nu we vrijwel allemaal contactloos, met onze mobiele telefoon of met een pasje betalen heeft bijna niemand meer contant geld op zak. En dat heeft dus impact op de zwerver of straatmuzikant die het daar vooral van moet hebben. En wist je dat 80% van de wereldbevolking een mobiele telefoon heeft, maar slechts 70% een tandenborstel? En jij waarschijnlijk beide bezit? Geluksvogel! Laten we even aannemen dat je MOET kiezen. Welke van de twee zou je dan houden? Kies je voor gezondheid of voor communicatie? Food for thought! De middag is me nog lang bijgebleven…
Joris van Oers, Co-founder at Krom
Wat bij mij vooral is blijven hangen is het gevoel dat we met z’n allen echt nog in het duister tasten als het gaat om AI. Ik bedoel daarmee vooral dat we niet goed lijken te weten wat we er ethisch van moeten vinden en wat we er op maatschappelijk niveau van moeten verwachten. Gaan we zonder banen komen te zitten? Gaat onze vooringenomenheid doorklinken of zelfs versterkt worden door AI? Gaat AI ons helpen om creatief te zijn en nieuwe manieren te vinden om ons te uiten? Gaat AI ons verder helpen ontdekken wat ons mens maakt? En, kunnen we hoopvol en enthousiast zijn of moeten we ons zorgen maken en terughoudend zijn? Ikzelf zou het liefst voor die eerste keuze gaan en met name Bruce Sterling leek me dat comfort te gunnen, maar een aantal andere sprekers leunden sterker naar die andere kant. Al met al blijf ik dus ook een beetje in het midden zweven qua gedachten en dat is denk ik alleen maar goed.
[Fotocredits – Sikov © Adobe Stock]
