Stríðið um hugann - Nýr veruleiki fyrir Ísland

Elfa Ýr Gylfadóttir, framkvæmdastjóri Fjölmiðlanefndar, segir að stríð sé hafið um skoðanir okkar, hvernig við hugsum og hvaða tilfinningar séu virkjaðar. Ljósmynd: Anton Brink

Erla Hlynsdóttir skrifar

Upplýsingaóreiða, markvissar áróðursherferðir, gervigreind og brothætt staða fjölmiðla eru ekki lengur aðskilin viðfangsefni í íslenskri umræðu. Þvert á móti eru þau orðin samtvinnuð ógn sem snertir lýðræði, menningu, þjóðaröryggi og daglega umræðu á netinu. Elfa Ýr Gylfadóttir, framkvæmdastjóri Fjölmiðlanefndar, segir þessa þróun vera hluta af því sem á ensku er kallað cognitive warfare - stríð um hugann. „Það er orðið stríð um skoðanir okkar, hvernig við hugsum og hvaða tilfinningar eru virkjaðar,“ segir hún og ítrekar að þetta stríð sé þegar hafið.

Frá hennar bæjardyrum séð má greina þrjár stórar bylgjur upplýsingaóreiðu sem rekja má til erlendra aðila, fyrst og fremst frá ríkjum eins og Rússlandi, Kína, Íran og Norður-Kóreu. Sú fyrsta tengist innlimun Krímskaga 2014, þegar samfélagsmiðlar urðu að áróðurstæki af áður óþekktri stærðargráðu. Önnur bylgjan kom í COVID-19 faraldrinum, þegar fólk sat heima fyrir framan skjáinn og „margir fóru niður í ákveðnar kanínuholur“ þar sem algóritmar héldu að þeim stöðugt meira af sömu tegund efnis. Þriðja bylgjan tengist svo 7. október 2023 og átökunum í Ísrael og Palestínu þar sem skipulagðar herferðir á báða bóga flæddu inn á samfélagsmiðla nánast samstundis.

Á sama tíma og þetta gerðist opnaðist nýtt svið: gervigreindarverkfæri urðu almenningi aðgengileg sem gjörbreytti landslaginu. „Það er orðið ótrúlega auðvelt fyrir nánast hvern sem er að framleiða texta, myndir og myndbönd sem eru búin til af gervigreind,“ útskýrir Elfa. Miðlarnir fyllast af slíku efni, sumt saklaust en annað beinlínis hannað til að búa til sundrung, grafa undan trausti og afvegaleiða umræðuna.

Ísland hvorki varið af smæð né tungumáli

Hugmyndin um að Ísland sé of lítið til að vera skotmark heldur ekki lengur. Elfa bendir á að landið hafi aftur orðið geópólitískt mikilvægt. Hlýnandi ís á norðurslóðum, breyttar siglingaleiðir og átök stórvelda hafi sett Ísland á kortið á ný. „Það er einfaldlega rangt að halda að enginn hafi áhuga á okkur,“ segir hún.

Annað sé ekki síður mikilvægt: Internetið hefur engin landamæri, og Íslendingar eru almennt enskumælandi. Upplýsingaóreiða sem er framleidd fyrir bandaríska, breska eða alþjóðlega markaði skilar sér því til landsins óhindrað. Þá tengist Ísland umræðu um átök annars staðar í heiminum, hvort sem um er að ræða Úkraínu eða átökin í Mið-Austurlöndum, og með þeirri umræðu fylgir efni sem getur verið markvisst hannað til að slíta umræðuna í sundur eða beina athyglinni frá öðrum málum.

Elfa leggur ríka áherslu á að íslenskan sé ekki lengur vörn gegn upplýsingaóreiðu. Gervigreindarverkfæri eru þjálfuð á íslensku, enda vilji íslensk stjórnvöld tryggja tungumálinu stafrænt líf. En sama þróun sé nýtt gegn okkur. Því megi fólk í auknum mæli sjá „gervigreindarprófíla“ á íslensku – aðgang sem talar hnökralausa íslensku en er ekki manneskja. Slíkar tilraunir birtast meðal annars í netsvikum og misvísandi upplýsingum.

Hún nefnir einnig rússneskt verkefni sem kallast Pravda Network þar sem milljónir greina eru framleiddar og þýddar á tugi tungumála, þar á meðal íslensku, til að miðla rússneskum áróðri og röngum upplýsingum, og notaðar til að mata stór mállíkön. Markmiðið sé að svör líkana verði hliðholl ákveðnum stjórnvöldum þegar spurt er um alþjóðamál.

Bottar taka sér pláss í umræðunni

Elfa bendir á að sjálfvirkir prófílar og bottar séu nú víða farnir að hafa áhrif á samfélagsumræðuna. Erlendar rannsóknir áætli að um það bil 25% af öllu efni á ensku á samfélagsmiðlum sé í raun framleitt af bottum. Þetta séu aðeins ágiskanir, en talan gefi til kynna hversu víðtæk þátttaka þeirra sé.

Um Ísland segir Elfa að engar íslenskar mælingar liggi fyrir, en sérfræðingar telji þó líklegt að bottar séu „einnig umtalsverðir hér“, sérstaklega þar sem gervigreind og tungumálalíkön hafi náð miklum framförum á íslensku á undanförnum árum. Þannig megi gera ráð fyrir að bottar séu að taka þátt í umræðum á samfélagsmiðlum á íslensku.

Hún bætir við að bottar séu oft hannaðir til að ýta umræðu út á ystu nöf; að vera stóryrtir, ýta undir skautun, eða tala inn í ótta og reiði. „Þetta er akkúrat efnið sem heldur fólki inni á samfélagsmiðlum,“ segir hún og bendir á að viðskiptamódel stórra miðla byggi á því að við notum þá sem mest, ekki á því að umræðan sé heilbrigð.

Stríð sem snýst um skoðanamyndun og tilfinningar

Þarna blandast saman tækni, sálfræði og stjórnmál. Elfa segir að í þeim fræðum sem hún starfi við sé hugtakið cognitive warfare orðið lykilatriði. Það lýsi því þegar erlendir aðilar – og stundum innlendir – reyni að hafa áhrif á það hvernig við hugsum, hvaða upplýsingar við fáum, hvernig við túlkum þær og hvaða tilfinningar séu virkjaðar. Hún segir: „Þetta er baráttan um hugann á okkur.“

Í slíkum herferðum sé markmiðið oft ekki að sannfæra fólk um eitthvað eitt, heldur að slíta umræðuna í sundur, sá fræjum tortryggni og veikja traust. „Styrkleiki okkar, tjáningarfrelsið, getur líka verið okkar stærsti veikleiki,“ segir hún.

Geta íslenskir fjölmiðlar sinnt þessu?

Í þessu umhverfi eru fjölmiðlar burðarás lýðræðisins. „Fjölmiðlar hafa sjaldan verið jafn mikilvægir og núna,“ segir Elfa. Ástæðan sé einföld: almenningur hefur hvorki tímann né færnina til að sigta hvert myndefni og hverja tilvitnun sem birtist á netinu.

En geta þeir brugðist við? Elfa segir að þetta sé eitt þeirra mála sem hún hefur hvað mestar áhyggjur af; staða íslenskra fjölmiðla er veikburða í samanburði við hin Norðurlöndin, auglýsingatekjur hafi flust yfir til alþjóðlegra fyrirtækja, og Íslendingar séu ekki jafn vanir því að greiða fyrir fréttir. Á meðan séu fjölmiðlar á hinum Norðurlöndunum með öflugar áskriftartekjur sem tryggi stöðugra rekstrarumhverfi.

„Við stöndum frammi fyrir risastórri áskorun,“ segir Elfa. Á meðan tekjur dragast saman hafa fjölmiðlar fengið á sig gríðarlega aukna vinnu: að staðreyndatékka myndir, myndbönd, erlendar fréttir og gervigreindarefni, að ógleymdu því að setja erlendar upplýsingar í íslenskt samhengi. „Þetta er nýr, mjög dýr útgjaldapóstur á sama tíma og tekjurnar eru að hrynja,“ segir hún.

Hún nefnir að spár geri ráð fyrir að allt að 90% efnis á netinu í lok árs 2026 verði búið til af gervigreind. Á sama tíma sýni rannsóknir að fréttaforðun fari vaxandi – fólk sé orðið of þreytt til að fylgjast með. Þetta þýði að álagið á blaðamenn sé að aukast á sama tíma og hlutverk fjölmiðla verði brýnna.

Ekki átaksverkefni heldur maraþon

Aðspurð hvað hún telji brýnast að gera segir Elfa að fyrsta skrefið sé meiri meðvitund. Samtal þurfi að eiga sér stað þar sem stjórnmál, fjölmiðlar, fræðasamfélag og almenningur átti sig á umfangi vandans. „Þetta varðar lýðræði, menningu, tungumál og þjóðaröryggi,“ segir hún og bætir við að þessi mál þurfi að færast ofar á pólitíska dagskrá.

Hún bendir á að nú þurfi að ræða hvar samfélagsleg umræða eigi heima. Samfélagsmiðlar, sem mótast af algóritmum og viðskiptamódeli tæknifyrirtækja, séu ekki endilega rétti staðurinn fyrir umræðu sem á að styðja lýðræði og traust. Í mörgum löndum sé þessi umræða þegar hafin.

Fræðsla þurfi að verða markviss og stöðug, þetta sé ekki átaksverkefni heldur verkefni til framtíðar. Hún nefnir Finna sem gott dæmi um þjóð sem hafi markvisst frætt almenning um upplýsingaóreiðu og fjölmiðlalæsi.

Þetta verkefni sé umfangsmikið, taki tíma og snerti alla. „Gervigreindarbylgjan er rétt að byrja,“ segir Elfa. Þetta sé maraþonhlaup þar sem ekkert eitt ráðuneyti, engin ein stofnun og enginn einn vettvangur geti einangrað borið ábyrgð.

„Þetta varðar seiglu þjóðarinnar,“ segir hún og vísar þar bæði til lýðræðisins og menningarlegra stoða eins og tungumálsins. Hún segir að ef við glötum stjórn á upplýsingastreymi, umræðu og tungumálaumhverfi okkar geti það haft afleiðingar langt út fyrir fjölmiðla. „Við þurfum að átta okkur á því að þetta er þegar í gangi.“