For to uker siden gjenga teknologinettstedet The Verge deler av en tale som nylig ble holdt av Russlands president Vladimir Putin. «Kunstig intelligens er fremtiden, ikke bare for Russland men for hele verden. Den nasjonen som er ledende på dette feltet, vil få globalt herredømme», sa Putin.

Det gikk ikke lenge før gründer Elon Musk svarte på Twitter. I den første meldingen sto det kort og godt «It begins». I den neste skrev han at nasjonenes kappløp om å utvikle kunstig intelligens (KI) er det som mest sannsynlig vil utløse tredje verdenskrig.

Påstandene er drøye. Mange vil si alarmistiske. Lignende kritikk har også blitt rettet mot Bill Gates og Stephen Hawking som begge har uttrykt bekymring for forskningen på, og den mulige fremveksten av, kunstig intelligens.

Kunstig intelligens er snart mer science fact enn science fiction.

I Morgenbladets temaserie Singularitet kom stemmer fra begge sider av spekteret til orde. Om jeg skal prøve meg på en oppsummering av debatten, må den bli at sannsynligheten for fremveksten av ekte KI synes liten, og uansett ligger såpass langt inn i fremtiden at vi ikke bør være for bekymret.

Jeg mener en slik passivitet er direkte farlig. KI-problemstillingen kan brytes ned til en enkel risiko-tese: Fremveksten av selvbevisst, kunstig intelligens i løpet av de neste femti årene er ikke veldig sannsynlig, men om det skjer, kan konsekvensene bli ekstremt alvorlige for mennesketen.

Hvis mange nok er enig i denne påstanden, bør verdenssamfunnet handle nå. Opprettelsen av et International Atomic Energy Agency (IAEA) for kunstig intelligens er én mulighet. I det minste må verden få på plass internasjonale kjøreregler for forskning på KI som ivaretar både staters, sivilsamfunnets og industriens interesser. I sum må «Robotikkens fire lover», slik de ble fremsatt av science fiction-forfatter Isaac Asimoc oppdateres, utvides og operasjonaliseres.

Elon Musks advarsel på Twitter minner om Albert Einsteins brev til Roosevelt i mars 1945. Einstein uttrykte bekymring for mangelen på kontakt mellom vitenskapsmenn som forsket på kjernevåpen, og de i regjeringen med ansvar for å regulere bruken av disse. Roosevelt døde før han fikk lest brevet.

Teknologiutviklingen stopper ikke. Kunstig intelligens er snart mer science fact enn science fiction. Det er felt med enormt potensial og potensiell enorm risiko. Hvordan vi forholde oss til dette dilemmaet i dag, avgjør hvordan det går når ånden en gang i fremtiden slippes ut av lampen.