Skoppandi skrít­landi gervi­greindar­traust

Ekkert er eins og það áður var.

Heimurinn er hverfull og allt breytist, en það sem er að breytast hvað mest um þessar mundir er traustið. Traust á manneskjum og traust á vélum er hins vegar tvennt ólíkt.

Í sumar birti þýski ríkisfjölmiðillinn NDR niðurstöður athyglisverðs prófs þar sem fólk var beðið um að greina á milli raunverulegra ljósmynda og mynda sem gerðar höfðu verið með gervigreind. Af tæplega átján þúsund þátttakendum gátu aðeins rúmlega eitt prósent greint allar myndirnar rétt.

Þetta var ekki vísindaleg úrtakskönnun, en niðurstöðurnar vekja engu að síður athygli. Við eigum sífellt erfiðara með að greina á milli þess sem er raunverulegt og þess sem er tilbúið.

Það sem kannski er enn athyglisverðara er að gervigreindin hefur lært að gera vondar ljósmyndir. Myndir með lélegri lýsingu, hreyfiþoku, óheppilegri myndbyggingu og öllum þeim göllum sem einkenna hversdagslegar ljósmyndir úr farsímum. Það sem áður gat gefið mynd ákveðinn trúverðugleika, einmitt vegna þess að hún var ekki fullkomin, er nú hægt að framleiða með gervigreind.

En þetta snýst ekki lengur bara um ljósmyndir.

Nýlega kom upp athyglisvert mál í kringum vinkonur mínar þær Skoppu og Skrítlu. Þær höfðu leitað til Fiverr, alþjóðlegs markaðar þar sem meðal annars listamenn, hönnuðir og annað skapandi fólk býður fram þjónustu sína. Fiverr hefur byggt upp vettvang þar sem kaupendur geta fundið þjónustuaðila og metið þá meðal annars út frá umsögnum og fyrri verkefnum.

Fyrir nýja barnabók um hann Mola töldu þær sig vera að kaupa skapandi vinnu af ákveðnum myndhöfundi. Síðar komu fram vísbendingar um að myndirnar hefðu í reynd verið gerðar með gervigreind og að ljósmynd sem átti að sýna myndhöfundinn sjálfan væri einnig gervigreindarmynd. Þar með vaknaði jafnframt spurningin um hver stæði í raun á bak við þjónustuna..

Við þetta vaknar hér spurning sem nær langt út fyrir eina barnabók.

Hvað gerist þegar við teljum okkur vera að eiga viðskipti við ákveðna manneskju, með ákveðna hæfileika og reynslu, en komumst síðan að því að sú mynd sem okkur var sýnd af manneskjunni og vinnu hennar kann að hafa verið tilbúin?

Við erum þá ekki lengur aðeins að tala um falsaðar myndir. Við erum að tala um misnotkun á trausti.

Traust er ein mikilvægasta undirstaða mannlegra samskipta. Við treystum fólki sem við þekkjum, fólki sem við eigum viðskipti við og stofnunum sem við leitum til. Við getum ekki sannreynt allt sjálf. Ef við þyrftum að rannsaka hvert einasta orð, hverja einustu mynd og hverja einustu manneskju áður en við tækjum ákvörðun, yrði daglegt líf nánast ómögulegt.

Traust gerir samfélaginu kleift að starfa.

En traust er líka hægt að misnota. Það er ekkert nýtt. Mannkynið hefur logið, svikið og falsað frá örófi alda. Gervigreindin fann ekki upp blekkinguna. Hún hefur hins vegar verið þjálfuð með gjörðum manna og getur nú gert möguleikana á blekkingum aðgengilegri, ódýrari og í mörgum tilvikum mun sannfærandi.

Í dag er hægt að búa til andlit manneskju sem aldrei hefur verið til. Gefa henni nafn, starfsferil og hæfileika. Láta hana tala, skrifa og eiga samskipti við fólk. Það þarf ekki einu sinni mikla tæknikunnáttu til þess.

Og þá vaknar spurningin: Hvernig vitum við lengur við hvern við erum að tala?

Það er auðvitað ekkert rangt við að nota gervigreind til sköpunar. Hún getur verið öflugt verkfæri fyrir listamenn, ljósmyndara, rithöfunda og fjölda annarra. Það er heldur ekkert rangt við að nota dulnefni eða skapa skáldaða persónu í listrænum tilgangi.

En það er grundvallarmunur á því að nota tæknina til sköpunar og að nota hana til þess að láta aðra byggja ákvarðanir sínar á röngum forsendum.

Ef ég kaupi þjónustu af manneskju vegna þess að ég tel hana búa yfir ákveðinni þekkingu eða hæfileikum, þá skiptir máli hvort þær forsendur standast. Ef mér er vísvitandi gefin röng mynd af því hver vinnur verkið eða hvernig það er unnið, er ekki aðeins verið að selja mér vöru. Það er verið að misnota traust mitt.

Og ábyrgðin á því liggur ekki hjá gervigreindinni. Hún liggur hjá manneskjunni sem misnotar hana.

En hér er önnur hlið málsins sem er jafnvel enn alvarlegri.

Gervigreindin gerir okkur ekki aðeins kleift að búa til trúverðugar lygar. Hún gerir okkur líka kleift að draga sannleika í efa.

Ef ljósmynd birtist af atburði sem einhver vill ekki kannast við er nú hægt að halda því fram að myndin sé gerð með gervigreind. Ef upptaka birtist af orðum sem einhver vill ekki hafa sagt má halda því fram að röddin sé fölsuð.

Það þarf ekki einu sinni að sanna að um fölsun sé að ræða. Stundum getur nægt að vekja efasemdir.

Við erum því að nálgast þann veruleika að það verður sífellt auðveldara að búa til lygi, en hugsanlega sífellt erfiðara að sýna fram á sannleikann.

Og hver greiðir kostnaðinn af því?

Oft er það ekki sá sem býr til lygina. Það er sá sem þarf að sanna að hann sé að segja satt.

Samfélag sem byggist á trausti getur leyft sér ákveðinn einfaldleika. Samfélag sem byggist á vantrausti þarf sífellt fleiri reglur, staðfestingar, vottanir og eftirlit. Það kostar tíma, peninga og fyrirhöfn.

Traust er því ekki aðeins siðferðilegt verðmæti. Það er líka efnahagslegt verðmæti. Ein mikilvægasta eign manneskjunnar getur verið það traust sem hún hefur áunnið sér á löngum tíma.i

En hvað gerist þegar það verður hægt að framleiða ásýnd trúverðugleika á nokkrum sekúndum?

Og hvað gerum við þegar við hættum að treysta eigin augum?

Við leitum að einhverjum öðrum til að staðfesta það sem við sjáum.

Fyrir skemmstu fékk ég enn eitt tilboðið frá Meta. Fyrirtækið bauðst til að selja mér staðfestingarmerki sem sýnir að reikningurinn minn hafi verið auðkenndur.

Ég hef verið Ég í rúm sextíu ár og hingað til hefur það ekki kostað mig mánaðarlega áskrift.

Auðvitað er gagnlegt að geta staðfest hver stendur á bak við reikning á samfélagsmiðlum. En það er grundvallarmunur á því að staðfesta auðkenni manneskju og að staðfesta að hún sé traustsins verð.

Blátt merki við nafnið mitt segir ekkert um hvort ég sé heiðarlegur, hvort ég fari með rétt mál eða hvort aðrir eigi að treysta mér.

Samt getur slíkt merki haft áhrif á hvernig fólk metur trúverðugleika minn.

Og þá vaknar önnur spurning. Ef við þurfum þriðja aðila til þess að staðfesta hverjum við getum treyst, hvernig vitum við þá að sá þriðji sé sjálfur traustsins verður?

Hver staðfestir þann sem staðfestir okkur?

Breski heimspekingurinn Onora O’Neill hefur fjallað mikið um traust og trúverðugleika. Hún hefur bent á að lausnin á vantrausti sé ekki endilega sú að við treystum meira. Mikilvægara sé að við höfum forsendur til þess að greina á milli þeirra sem eru traustsins verðir og þeirra sem eru það ekki.

Þetta er mikilvægur greinarmunur.

Við þurfum ekki samfélag þar sem allir treysta öllum. Við þurfum samfélag þar sem hægt er að byggja traust á heiðarleika, hæfni, ábyrgð og reynslu.

Og þar liggur einmitt vandinn.

Ef við afhendum stórum tæknifyrirtækjum sífellt meira vald til þess að staðfesta auðkenni, uppruna upplýsinga og trúverðugleika, verðum við jafnframt að geta spurt hvaða hagsmunir liggi að baki, hvernig ákvarðanir séu teknar og hver beri ábyrgð þegar þær reynast rangar.

Tæknileg staðfesting getur verið gagnleg. En hún má ekki koma í stað eigin dómgreindar.

Það sem gerðist í kringum bók Skoppu og Skrítlu er því ekki aðeins áhugaverð frétt um gervigreind og myndskreytingar. Það er dæmi um mun stærri samfélagslega breytingu sem við stöndum frammi fyrir.

Við erum að ganga inn í heim þar sem sífellt erfiðara getur orðið að vita hvort það sem við sjáum sé raunverulegt, hvort sá sem við eigum samskipti við sé sá sem hann segist vera og hvort upplýsingarnar sem okkur eru gefnar standist skoðun.

En við megum ekki bregðast við þeim veruleika með því að hætta að treysta hvert öðru.

Því án trausts verður samfélagið fátækara, flóknara og tortryggnara.

Stærsta áskorunin er því ekki aðeins að læra að þekkja gervigreindarmyndir eða greina falsaðar raddir. Hún er að varðveita traustið sjálft, án þess að verða auðveld bráð þeirra sem vilja misnota það.

Kannski er stærsta hættan við gervigreindina ekki sú að hún geti logið að okkur, heldur að óttinn við lygina fái okkur til að afhenda öðrum vald til að ákveða hverjum við megum trúa.

Því ef við hættum að treysta hvert öðru og þurfum sífellt einhvern þriðja til þess að segja okkur hvað sé satt, höfum við þá leyst vandann?

Eða höfum við einfaldlega búið til nýjan aðila sem við verðum að treysta, án þess að vita hvort hann sé traustsins verður?

Höfundur er ljósmyndari.