Denkende wapens of gewapende denkers?

We kennen allemaal drones en we kennen kunstmatige intelligentie. Veronderstel nu eens dat die twee samen gaan komen in de vorm van denkende wapens. Lethal autonomous weapon systems (LAWS). Nou dat hoef je niet te veronderstellen, want die bestaan al.

Op allerlei plaatsten wordt geëxperimenteerd met LAWS. Van Israël, Korea, de VS, China en Rusland weten we dat ze veel investeren in dit soort hoogwaardige defensietechnologie. In de oorlogen van de toekomst zullen zelfdenkende wapens een hoofdrol spelen.

Denkende wapens kunnen in principe zelf een doelwit zoeken, identificeren en vernietigen. Om ethische redenen zit er nu nog steeds een mens in het besluitvormingsproces, maar puur technisch gezien is dat helemaal niet meer nodig. Sterker nog; dat kost tijd. En de factor tijd kan in oorlogsvoering soms doorslaggevend zijn.

De menselijke factor

Toch hebben mensen van vlees en bloed de mensheid al minstens twee keer –en mogelijk vaker-gered van een kernoorlog. We weten dat er twee maal (eenmaal aan Russische zijde en eenmaal aan Amerikaanse zijde) een mens was die inging tegen het systeem en zelfstandig tot de conclusie kwam –of gokte?- dat er toch geen kernwapens afgevuurd werden op zijn natie. En die daarom niet op de rode knop drukte, ook al zei het systeem met grote stelligheid dat er raketten met kernkoppen op weg waren naar zijn land.

Stanislav Petrov

De bekendste van deze helden is de Stanislav Petrov, beter bekend als ‘de Rus die de Derde Wereldoorlog voorkwam’. Op 26 september 1983 waarschuwde het systeem in de commandobunker vlakbij Moskou waar wachtcommandant Petrov dienst had dat er vijf intercontinentale raketten op weg waren naar de Sovjetunie. Petrov beschouwde het alarm als vals en meldde het -tegen de instructies in- niet aan zijn leidinggevenden. Die zouden volgens de geldende protocollen een massale tegenaanval met nucleaire wapens tegen de Verenigde Staten hebben moeten inzetten. En die aanval zou vervolgens weer tot een vergeldingsreactie van de Verenigde Staten hebben geleid. De wereld zoals we die nu kennen zou er niet meer geweest zijn.

Technische ontwikkeling is altijd al gedreven geweest door militaire behoeften. Het internet, de computermuis, gps, virtual reality, et cetera zijn allemaal ontwikkeld door of in opdracht van het Amerikaanse leger.

Zelfdenkende en zelflerende wapens

Wat nu als deze zelfdenkende wapens worden uitgerust met zelflerende kunstmatige intelligentie? Denk eens aan AlphaZero. Dit was de opvolger van AlphaGo die zichzelf binnen 24 uur heeft leren schaken op een bovenmenselijk niveau. Probeer nu eens voor te stellen hoe het zou zijn als een drone, uitgerust met kunstmatige intelligentie, snel slimmer wordt dan de mens. Die zichzelf leert te verdedigen tegen aanvallers. Denk bijvoorbeeld aan een F 35 uitgerust met een automatische piloot in plaats van een mens. Een automatische piloot beschikkend over bovenmenselijke zelflerende kunstmatige intelligentie.

Als die eenmaal heeft geleerd zichzelf te verdedigen tegen aanvallers, kunnen we deze misschien ook niet meer uitzetten. Want ze kunnen dan sneller denken dan wij. Ze zouden zelfs de mens als vijand kunnen gaan zien.

Veronderstel nu nog eens dat deze zelfdenkende F 35 computer vliegtuig zouden gaan samenwerken met andere zwaar wapentuig op de grond. Met robottanks die ook zijn uitgerust met zelfdenkende software. Of met supercomputers die de netwerken, het internet, het stroomnet, beheren. Dan krijgen we wapens die intelligent genoeg zijn om te beslissen of ze mensen gaan doden.

Gewapende denkers

Allemaal schrikbeelden die wel eens bewaarheid zouden kunnen worden. In de voortdurende wapenwedloop zouden landen kunnen beslissen om te vertrouwen op zelfdenkende wapensystemen en daarmee de controle over dit soort wapens kunnen verliezen. De gewapende denkers die we als mensen zijn, worden dan misschien niet alleen overbodig gemaakt door denkende wapens, maar ook nog eens door hen uit de weg geruimd. Onze toekomst? Nee, liever niet. Maar het is wel een scenario waar een getalenteerde regisseur uit Hollywood een kaskraker van zou kunnen maken. Voor straks, als we het horrorvirus eindelijk de baas zijn en we weer ouderwets met zijn allen naar de bioscoop mogen. Wij kunnen haast niet wachten….

© Peter van der Wel en Hans Gertsen (12020)

PS: Interessant? Stuur deze blog dan vooral door een collega of vriend! Kreeg u ’m zelf doorgestuurd?  Abonneer u  hier gratis

PPS: Wilt u maandelijks als eerste mijn nieuwste blog ontvangen? Geef u  hier  op voor gratis toezending