Gervigreind notar oft ótraustar heimildir samkvæmt nýrri rannsókn

Ný íslensk rannsókn bendir til þess að gervigreindarlíkön sem sækja upplýsingar af vefnum byggi svör sín oft á heimildum sem sérfræðingar telja ekki uppfylla kröfur um áreiðanleika og gæði. Höfundar rannsóknarinnar segja niðurstöðurnar undirstrika mikilvægi faglegra heimilda og ritstýrðra fjölmiðla í lýðræðislegu upplýsingasamfélagi.

Greinin, Curated retrieval versus open web search in public AI information services: a coverage–trust trade-off, er unnin af rannsakendum við Háskóla Íslands.

Rannsóknin sýnir að gervigreindarkerfi með opna vefleit geta svarað fleiri spurningum en kerfi sem byggja eingöngu á ritstýrðu efni. Hins vegar kom í ljós að heimildirnar sem þessi kerfi studdust við voru oftar taldar ótraustar eða óviðeigandi sem stoð fyrir staðreyndafullyrðingar, til dæmis skoðanagreinar, blogg eða annað efni sem ekki telst áreiðanleg heimild.

„Ekki er hægt að lesa af yfirborði svars hvort heimildirnar að baki því séu traustar,“ skrifar Hafsteinn Einarsson, dósent við HÍ og einn af höfundum greinarinnar. „Lipur og efnislega viðeigandi svör gátu allt eins byggt á heimildum sem sérfræðingar myndu ekki treysta, og hefðbundið gæðamat sem horfir aðeins á svarið sjálft missir því af stórum hluta vandans. Rannsóknin dregur einnig fram skýran fórnarkostnað milli umfangs og trausts: opin vefleit svaraði langflestum spurningum, en í ríflega þriðjungi þeirra svara sem sérfræðingar yfirfóru var að minnsta kosti ein heimild sem þeir töldu ýmist óáreiðanlega eða óviðkomandi efninu. Ritstýrt gagnasafn reyndist hins vegar byggja á traustum heimildum, en náði aðeins yfir hluta spurninganna.“

Þegar gervigreind miðlar upplýsingum

Ein af meginniðurstöðum rannsóknarinnar er að sannfærandi og vel skrifað svar gervigreindar er ekki sjálfkrafa byggt á traustum heimildum. Gott málfar og skýr framsetning geta þannig aukið trúverðugleika svara sem byggja á veikum eða ófullnægjandi heimildum.

Höfundar benda einnig á að þessi áskorun geti verið meiri í litlum málsamfélögum eins og því íslenska. Framboð á vönduðum stafrænum heimildum á íslensku sé minna en á stærri málsvæðum og því geti gervigreind átt erfiðara með að finna traustar heimildir um sértæk málefni. Að mati höfundanna getur það haft áhrif á umræðu um mikilvæg samfélagsmál, meðal annars í tengslum við kosningar og þjóðaratkvæðagreiðslur.

„Líkönin standa sig enn verr á íslensku en ensku og vandað íslenskt efni um mörg málefni er af skornum skammti á netinu. Þegar kerfi finnur lítið af traustu efni fyllir það í eyðurnar með því sem til er, sem getur verið einhliða, ónákvæmt eða jafnvel efni sem hefur verið komið fyrir í þeim tilgangi að hafa áhrif á umræðuna. Erlend dæmi sýna að hægt er að dæla inn á netið efni sem gervigreindarkerfi sækja síðan og endursegja og lítið málsvæði í aðdraganda þjóðaratkvæðagreiðslu er einmitt í þeirri stöðu að slíkt getur verið tiltölulega auðvelt. Rannsóknin sýnir einnig að kerfin leita ekki sjálfkrafa í sterkustu heimildirnar. Í þeim vefleitarsvörum sem við skoðuðum vitnaði kerfið til dæmis aldrei í RÚV, einn mest notaða fréttamiðil landsins. Lærdómurinn fyrir almenning er sá að vel skrifað svar á góðri íslensku segir ekkert um gæði heimildanna að baki því. Fólk ætti að venja sig á að skoða hvaða heimildir liggja að baki svörum og gera sömu kröfur til gervigreindar og annarra miðla, sérstaklega þegar um er að ræða pólitískt viðkvæm málefni,“ segir í greininni.

Blaðamennska sem frumheimild

Niðurstöðurnar minna á mikilvægi ritstýrðra fjölmiðla. Gervigreindarlíkön skapa ekki áreiðanlegar frumheimildir heldur byggja á efni sem aðrir hafa aflað. Ef framboð á faglega unnum heimildum er takmarkað getur það haft bein áhrif á gæði þeirra svara sem gervigreind veitir.

Hlutverk blaðamanna er að afla upplýsinga, sannreyna þær og setja í samhengi. Fagleg blaðamennska skiptir því ekki aðeins máli fyrir lesendur og lýðræðislega umræðu heldur einnig fyrir þau gervigreindarkerfi sem almenningur mun í auknum mæli reiða sig á. Á tímum þar sem gervigreind verður sífellt stærri milliliður upplýsinga verður gildi ritstýrðrar blaðamennsku því enn augljósara.

Greinina má lesa hér í heild sinni.