Kunstmatige intelligentie hebben we ontwikkeld om ons te helpen, maar zoals regelmatig in films wordt geschetst kan het zich ook tegen ons keren. Zo heeft kunstmatige intelligentie die bedoeld was om nieuwe medicijnen te ontwikkelen om mensen te genezen, in een paar uur tijd tienduizenden biowapens ontdekt.
Kunstmatige Intelligentie is in staat om snel veel data te verwerken en tot nieuwe conclusies te komen, waardoor het heel waardevol kan zijn in de ontwikkeling van nieuwe medicijnen. De farmaceut Collaborations Pharmaceuticals in de Verenigde Staten leek dat ook een goed idee, maar het had niet kunnen bedenken dat de AI met zijn denkwijze toch een iets andere kant opging. Toen het bedrijf gevraagd werd om tijdens een evenement te spreken over de gevaren van biologische technologie en de rol van kunstmatige intelligentie, wist het bedrijf niet zo goed wat het met die kwestie aan moest.
Reden om een onderzoek te starten, want het bedrijf was zich bewust van de zorgen rondom werken met giftige stoffen, maar welk kwaad kan iets in een digitale omgeving precies doen? Veel, zo blijkt. In een onderzoek waarbij de software die Collaborations Pharmaceuticals gebruikt om sneller nieuwe medicijnen te ontdekken -MegaSyn- werd omgebogen om te kijken waar de AI mee op de proppen komt als het breder moet kijken. Daar bleek de ‘robot’ zijn hand niet voor om te draaien: binnen een paar uur waren er al duizenden moleculen gevonden die perfect als chemisch wapen kunnen worden gebruikt.
Het kwam met een paar bekende chemische schurken, zoals bepaalde zenuwgassen, maar het wist ook met ideeën te komen voor biochemische wapens die nog veel gevaarlijker zijn dan wat we nu op aarde kennen. MegaSyn wordt normaal ingezet om moleculen te ontwerpen en te voorspellen welke reactie er zal volgen. Hierbij wordt de AI zo getraind dat het gevaarlijke moleculen niet meeneemt. Maar als hij dat dus wel mag doen, dan komt hij al gauw met heel gevaarlijke biowapens.
Dat maakt de software dus enorm gevaarlijk, want de onderzoekers hoefden het maar een beetje te voeden om te zorgen dat het op zoek ging naar neurotoxinen (giftige stoffen). Dat het echt werkt bewijst dat het met VX kwam, een zenuwgas waarvan een snufje al een dodelijk gevolg heeft. VX is door de mens al ontdekt en werd onder andere gebruikt om de halfbroer van de Noord-Koreaanse leider Kim Jong-un om te leggen in 2017. De software kwam echter met een extreem groot aantal biowapens terug die we nog niet kennen. In totaal heeft het 40.000 moleculen gevonden die geschikt zouden zijn om als biochemisch wapen te worden ingezet.
Het heeft niet zozeer geleerd waartoe kunstmatige intelligentie in staat is, het onderzoek bewijst vooral dat zelfs software die voor het beste doel wordt ontwikkeld, heel makkelijk kan worden omgebogen om juist het tegenovergestelde te doen. En dat maakt kunstmatige intelligentie zeker griezelig, wanneer het in de verkeerde handen komt. De onderzoekers twijfelden zelfs of ze dit onderzoek wel zouden publiceren, omdat het niemand op ideeën wil brengen. Tegelijkertijd is het belangrijk om mensen te waarschuwen voor de gevaren van kunstmatige intelligentie. Sterker nog, kunstmatige intelligentie adviseert zelfs zelf tegen kunstmatige intelligentie, dus waarschijnlijk doen de onderzoekers er uiteindelijk goed aan.
