Rödd sem hljómar eins og náinn ættingi, mynd af þekktri manneskju eða myndskeið af atburði sem aldrei varð getur orðið trúverðugt á örfáum sekúndum. Ný tækniforskrift ETSI færir varnir gegn skaðlegum djúpfölsunum framar í ferlið, áður en gervigreint efni nær útbreiðslu.
Evrópsku staðlasamtökin ETSI kynntu 29. október nýju tækniforskriftina ETSI TS 104 275. Hún fjallar um hvernig þróunaraðilar og rekstraraðilar skapandi gervigreindar geta dregið úr hættu á að kerfi þeirra verði notuð til að framleiða skaðlegar djúpfalsanir.
Djúpfölsun er mynd, hljóð eða myndskeið sem virðist raunverulegt en hefur verið búið til eða breytt með gervigreind. Slíkt efni getur meðal annars verið notað í svikum, upplýsingaóreiðu, einelti, fjárkúgun og til að hafa áhrif á opinbera umræðu.
Hingað til hefur mikil áhersla verið lögð á að greina djúpfalsanir eftir að þær hafa verið birtar. Nýja forskriftin nálgast vandann fyrr og lítur á varnir sem hluta af hönnun, þróun og rekstri gervigreindarkerfisins. ETSI leggur meðal annars áherslu á áhættumat fyrir innleiðingu, mannlega yfirsýn, varnir gegn misnotkun, stöðuga vöktun og skjalfestingu.
Varnirnar geta falist í efnissíum, merkingum á gervigerðu efni og viðvörunum til notenda. Einnig þarf að vera skýrt hver getur gripið inn í, hvernig atvik eru rannsökuð og hvernig varnir eru uppfærðar þegar nýjar aðferðir við misnotkun koma fram.
Mikilvæg nýjung er að forskriftin inniheldur prófunarsviðsmyndir og viðmið um hvort varnir standist eða falli. Þannig er hægt að meta með gögnum og skjölum hvort ráðstafanir virki, í stað þess að láta almenn loforð um ábyrga gervigreind nægja. Forskriftin nær yfir fimm skeið: örugga hönnun, þróun, innleiðingu, viðhald og lok líftíma kerfis.
Efnið á skýrt erindi við Ísland. CERT-IS bendir á að gervigreind sé í auknum mæli notuð til að búa til falsaðar raddir sem líkja eftir fólki sem viðtakandi þekkir eða treystir. Slíkt getur aukið trúverðugleika svikasímtala og fyrirmælasvika. Ráð CERT-IS er að sannreyna óvæntar beiðnir eftir annarri samskiptaleið. Fjölmiðlanefnd hefur jafnframt fjallað um djúpfalsað efni sem áhættu í kosningaumhverfi og mikilvægi þess að slíkt efni sé merkt eða fjarlægt.
Fyrir íslensk fyrirtæki og stofnanir getur forskriftin nýst við þróun, innkaup og áhættumat. Kaupendur gervigreindarlausna geta til dæmis spurt hvernig birgir metur hættu á misnotkun, hvort hægt sé að merkja gervigert efni, hver geti stöðvað kerfið og hvernig fylgst sé með atvikum.
ETSI TS 104 275 er tækniforskrift en ekki lagaskylda, vottun eða samræmdur evrópskur staðall. Hún getur heldur ekki komið í veg fyrir allar djúpfalsanir. Gildi hennar felst í sameiginlegum og prófanlegum viðmiðum sem hjálpa fyrirtækjum og stofnunum að byggja varnir inn í tæknina, áður en fölsunin fer á flug.
