Brief van de vorst-grootmeester aan Paus Franciscus ter gelegenheid van Wereldvrededag
Heilige Vader,
Dank U dat U ook dit jaar de aandacht van de gelovigen, van de leiders en van de hele wereld vestigt op een thema van groot en groeiend belang voor de Vrede onder de mensheid, dat een zeer diepe en zeer tijdige morele reflectie vereist.
Zoals blijkt uit de diepgaande boodschap van Uwe Heiligheid, vertegenwoordigt kunstmatige intelligentie (AI) een van die grote sprongen in kennis die radicale veranderingen in het leven van vrouwen en mannen teweeg hebben gebracht, zoals eerder de ontdekking van vuurwapens, de controle op kernsplijting en het internet. Maar kunstmatige intelligentie verschilt radicaal en fundamenteel van deze baanbrekende ontwikkelingen. Het is een nuttig instrument om onderzoek op vele gebieden van kennis en menselijke inspanningen aan te moedigen, maar het heeft ook het potentieel om niet alleen de intelligentie, maar zelfs de harten van mensen te vervangen, waardoor ze worden beroofd van uiteindelijke beslissingen over leven en dood.
Er bestaat een risico, zoals Uwe Heiligheid op meesterlijke wijze heeft aangegeven, dat aan machines die door AI worden bestuurd taken zullen worden toevertrouwd die voorheen aan mensen – met hun beoordelingsvermogen en aan hun geweten – waren toevertrouwd.
Als de machine zover ontwikkeld is dat in bepaalde sectoren het evaluatievermogen van de machine groter is dan dat van de mens (zoals op veel gebieden al het geval is), zullen de onvermijdelijke wetten van het overleven betekenen dat de machine de uiteindelijke beslissingen krijgt toevertrouwd over het gebruik van bewapening, inclusief kernwapens. Is het denkbaar dat beslissingen over de reactie op een mogelijke nucleaire aanval, die zeer snel moeten worden genomen, worden toevertrouwd aan een leider, die net als wij allemaal momenten van vermoeidheid, verwarring of paniek kan hebben?
Meer dan tien jaar geleden, toen de vooruitgang van Artificial Intelligence nog lang niet was wat die nu is, schreef La Civiltà Cattolica al over de risico’s die autonome wapensystemen met zich meebrengen. Ik geloof dat we allemaal dankbaar moeten zijn voor de vooruitziende blik waarmee de Heilige Stoel de ontwikkeling van softwaresystemen volgt en de impact ervan op mensen, op hun geweten en op het overleven van het menselijk ras en van die mens die de Boodschap van Christus heeft ontvangen en aanvaard. Aan de andere kant van de Atlantische Oceaan is er een denkwijze dat mensen begiftigd met geavanceerde kunstmatige intelligentie (AI 2.0) in wezen “hybride wezens” zullen worden, anders en superieur aan andere menselijke wezens. Er komen nieuwe kansen aan, maar ook immense nieuwe morele, sociale en epistemologische problemen waarin we door zeer dichte mist lijken te navigeren.
Helaas is dit, zoals Uwe Heiligheid beter weet dan wij, een tijd waarin zwaarden geen ploegscharen worden, maar ploegscharen zwaarden. Er is een risico dat Kunstmatige Intelligentie, zoals nu al gebeurt met sociale media en met wijdverspreide softwaretools, zal worden gebruikt voor geopolitieke doeleinden. Een risico dat vandaag al zeker is en dat de controlesystemen waarover zo wordt gesproken in de Verenigde Naties en de Europese Unie moeilijk effectief zullen kunnen controleren. Het is opvallend dat dezelfde makers en producenten van Kunstmatige Intelligentie, bijvoorbeeld onlangs op Open AI, de risico’s benadrukken die een ongereguleerde ontwikkeling van Kunstmatige Intelligentie zou kunnen veroorzaken voor de veiligheid, het sociale evenwicht en de vrijheid van de mensheid.
Het is met dit bewustzijn, maar ook met de zekere hoop die van de Heer tot ons komt en indachtig de overdenkingen en waarschuwingen in de Boodschap van Uwe Heiligheid op de Wereldvrededag, dat ik alle leden van de Orde van Sint Jan van Jeruzalem wil verzoeken om met bijzondere vurigheid te bidden voor de beëindiging van de vele bloedige conflicten die aan de gang zijn, voor het scheppen van omstandigheden die ware en blijvende Vrede bevorderen en voor Uwe Heiligheid zelf, die dit zo vaak vraagt van de gelovigen en van hen die de vreugde hebben door Uwe Heiligheid te worden ontvangen.
Met kinderlijke genegenheid,
Fra’ John Dunlap