Prof. Stuart Russell, oprichter van het Center for Human-Compatible Artificial Intelligence, aan de universiteit van Californië, Berkeley, geeft dit jaar de Reith Lectures. Zijn vier lezingen, Leven met kunstmatige intelligentie, gaan over de existentiële dreiging van machines die krachtiger zijn dan mensen – en bieden een weg vooruit.
Geschreven door: Rory Cellan-Jones van BBC
Prof. Stuart Russell:
“Er zijn twee argumenten waarom we er aandacht aan moeten besteden.
De eerste reden is dat onze algoritmen op dit moment weliswaar niet in de buurt komen van de algemene menselijke vermogens, maar dat ze, wanneer er miljarden van draaien, toch een zeer groot effect op de wereld kunnen hebben.
De andere reden om ons zorgen te maken is dat het zeer aannemelijk is – en de meeste deskundigen denken dat het zeer waarschijnlijk is – dat we binnen ons leven of dat van onze kinderen zullen beschikken over AI voor algemeen gebruik.
Ik denk dat als AI voor algemeen gebruik wordt gecreëerd in de huidige context van rivaliteit tussen supermachten – je weet wel, wie AI beheerst, beheerst de wereld, dat soort mentaliteit – dan denk ik dat de uitkomsten wel eens de slechtst mogelijke zouden kunnen zijn.”
Uw tweede lezing gaat over militair gebruik van AI en de gevaren daarvan. Waarom verdient dat een hele lezing?
Prof. Stuart Russell:
“Omdat ik denk dat het echt belangrijk en dringend is.
En de reden dat het urgent is, is omdat de wapens waar we de afgelopen zes of zeven jaar over hebben gesproken, nu beginnen te worden geproduceerd en verkocht.
Dus in 2017 produceerden we bijvoorbeeld een film genaamd Slaughterbots over een kleine quadcopter van ongeveer 3in [8cm] in diameter die een explosieve lading draagt en mensen kan doden door dicht genoeg bij hen te komen om op te blazen.
We lieten dit voor het eerst zien op diplomatieke vergaderingen in Genève en ik herinner me dat de Russische ambassadeur in feite snoof en zei: “Wel, weet je, dit is maar science fiction, we hoeven ons pas over 25 of 30 jaar zorgen te maken over deze dingen.”
Ik legde uit wat mijn collega’s van robotica hadden gezegd, namelijk dat ze zo’n wapen in een paar maanden met een paar afgestudeerde studenten in elkaar konden zetten.
En de maand daarop, dus drie weken later, kondigde de Turkse fabrikant STM [Savunma Teknolojileri Mühendislik ve Ticaret AŞ] daadwerkelijk de Kargu drone aan, die in feite een iets grotere versie is van de Slaughterbot.
Al het bovenstaande – ik denk dat een beetje angst op zijn plaats is, geen angst als je morgenochtend opstaat en denkt dat mijn laptop me gaat vermoorden of zoiets, maar nadenken over de toekomst – ik zou zeggen hetzelfde soort angst dat we hebben over het klimaat of, beter gezegd, zouden moeten hebben over het klimaat.”
Lees verder op: https://www.bbc.com/news/technology-59326684
