Forritið GPT-2 frá fyrirtækinu OpenAI, sem styrkt er af tryllta milljarðamæringnum Elon Musk, fékk að lesa fyrstu setningarnar í 1984 eftir George Orwell og hélt svo áfram með söguna, síðu eftir síðu, í trúverðugum dystópískum prósa.

Þetta var bjartur, kaldur apríldagur og klukkan var að slá þrettán. ¹

Af þessu ber forritið kennsl á stíl og stemningu – þetta hljómar augljóslega einsog framtíðarskáldsaga – og það spinnur áfram:

Ég var í bílnum á leiðinni í nýja vinnu í Seattle. Ég gaf inn, sneri lyklinum í svissnum og leyfði bílnum að mala. Svo sat ég bara þarna og ímyndaði mér hvernig dagurinn yrði. Eftir hundrað ár. Árið 2045 var ég kennari í einhverjum skóla í fátæku sveitahéraði í Kína. Ég byrjaði á kínverskri sögu og vísindasögu. ²

Það leikur sér að því að skrifa greinar um Brexit, loftslagsmál, listir, menningu og neytendamál – og raunar nokkurn veginn hvað sem er. Fái GPT-2 að lesa fyrstu setningarnar í nokkrum texta getur forritið í yfirgnæfandi meirihluta tilvika skrifað trúverðugt framhald sem skilur sig að litlu leyti frá þeirri bókmenntagrein sem textinn tilheyrir, með neðanmálsgreinum, tilvísunum og samhengi sem við könnumst við. Ef fyrstu setningarnar efast um hlýnun jarðar vísar forritið til Steves Bannons, ef þær fjalla um #metoo vísar það til Rose McGowan og þar fram eftir götunum.

Forritið þykir sem stendur of hættulegt til útgáfu, enda gæti það framleitt slíka óhemju af fölskum trúverðugum fréttum að sannleikurinn hyrfi með öllu í óveðrinu. Það myndi gera atvinnutröll í tröllaverksmiðjum atvinnulaus, póstfarsvélar úreltar – og kannski jafnvel blaðamenn og skáld í ofanálag. Blaðamenn hafa fengið að prófa það en öllum rannsóknargögnum er haldið aftur af öryggisástæðum.

Ekki er vitað hvort það verður gefið út síðar en af orðum stjórnenda fyrirtækisins að dæma er það ekki ólíklegt. Því er fyrst og fremst haldið aftur „í bili“ á meðan verið er að kanna mögulegar afleiðingar af útgáfu.

Frá þessu var sagt í The Guardian og Dagens Nyheter.