Hætta á að gervigreindin geri fólk að „kjötstykkjum“

Í umfjöllun Hagstofu Íslands um gervigreindarnotkun fyrirtækja á Íslandi í mars á þessu ári kom fram að 48 prósent fyrirtækja nota gervigreindarhugbúnað af einhverju tagi og 50 prósent segjast nota tilgreinda gervigreindartækni. Á sama tíma segjast 25 prósent fyrirtækja nota gervigreind í tilgreindum verkefnum en aðeins fjórtán prósent hafa mótað sér stefnu um notkun hennar.

Hann segir umræðuna um gervigreind hingað til að mestu hafa snúist um tæknina sjálfa. Hann telji þó stærstu áskorunina við gervigreindina ekki tæknilega, heldur mannlega. Þess vegna sé mikilvægt að starfsfólk sé vel undirbúið, það byggi upp nýja þekkingu og það verði þannig tryggt að íslensk fyrirtæki verði samkeppnishæf í heimi þar sem gervigreind er og verður hluti af daglegum rekstri.

„Tækninni fleytir svo ótrúlega hratt fram og það eru svo margir sem eru í dag farnir að kalla sig gervigreindarsérfræðinga en tæknin breytist á þriggja mánaða fresti þannig að það eru í raun engir sérfræðingar. Eina leiðin til að vera sérfræðingur er að vera mjög aktívt að prófa alla tæknina og þróa sig stöðugt áfram. Það er ekki bara hægt að vera með PDF-skjal um hvernig eigi að nota gervigreindina og láta eins og það sé ritað í stein. Hún er að breytast of hægt til að það sé hægt,“ segir Óttar.

Hann segir það á ábyrgð stjórnenda að kenna fólki á tæknina.

„Þetta er eins og að segja ætlum við að nota tölvur eða nota pappír,“ segir hann og að fólk verði skilið eftir tileinki sér það ekki tæknina.

Hlaða upp trúnaðargögnum í hugsanaleysi

Þess vegna verði stjórnendur að vera fyrirmynd og hjálpa fólki að afla sér upplýsinga. Hann segir kúnna hafa leitað til sín sem hafi jafnvel verið að hlaða trúnaðargögnum í gervigreind til að láta hana vinna þau fyrir sig.

„Það sem er búið að gera þarna er að gefa gervigreindinni þessi gögn,“ segir hann og að það skipti verulegu máli þegar fyrirtæki vilja gera eitthvað slíkt hvernig aðgang þau eru með. Til dæmis séu engar varnir veittar í venjulegum aðgangi á gervigreindartólinu Claude en það séu varnir í Enterprise aðgangi. Óttar segir þó alltaf varhugavert að hlaða trúnaðargögnum í gervigreindina.

„Það eru svo margir að hlaða viðkvæmum upplýsingum inn í þetta tól því það getur gert svo mikið fyrir þig.“

Hann segir að hjá Gangverki sé búið að móta skýrar reglur um þetta. Þau reki gagnagrunna sem þau leyfi gervigreindinni ekki að lesa beint upp úr, heldur hafi þau í stað þess hjálpað gervigreindinni að búa til kóða sem hún svo notar til að greina gögnin.

„Því við viljum ekki að hún fái að lesa beint úr grunninum,“ segir hann og að þarna sé þannig verið að búa til eins konar gildrur um gervigreindina til að afmarka betur hvað hún megi og hvað ekki.

Funda á tveggja vikna fresti um notkunina

Hann segir það skipta mestu máli í fyrirtækjum að það sé ekki hver og einn að nota gervigreindina í sínu horni. Hjá Gangverk hafi þau byrjað að skoða hvernig fólk var að nota hana og þá hafi komið í ljós að allir voru að nota hana með ólíkum hætti. Í dag hittist þau því á tveggja vikna fresti til að ræða hvernig þau noti gervigreindina, hvað þau hafi lært og hvaða mistök þau hafi gert.

„Hvað gekk upp og hvað klikkaði? Það er svo mikilvægt að tala um dæmin sem virka ekki,“ segir hann. Það séu til dæmis til ólík módel og svo sé hægt að greiða fyrir auka þjónustu, betri tól og greiningu hjá greindari tólum. Það sé til dæmis hægt að greiða greindara tólinu til að búa til eitthvað skipulag sem svo heimskara tólið notar, og þannig sé hægt að spara kostnað.

„En það er svo mikilvægt að tapa ekki dómgreindinni við notkun allra þessara tóla,“ varar hann þó við.

„Oh, you‘er absolutely right“

Sem dæmi sé frasinn „Oh, you‘er absolutely right“ orðinn vel þekktur meðal þeirra sem nota tólin mikið. Gervigreindin hafi þá yfirleitt verið að halda einhverju fram sem ekki er rétt og ef sá sem hún talar við bendir henni á það fær hann yfirleitt þetta svar.

„Þessi setning er algjör brandari í forritaraheiminum því það er svo oft sem módelin eru vitlaus,“ segir hann og að tæknin sé því ekki fullkomin.

Hann segir fólk ekki endilega gera sér grein fyrir þessu og treysti gervigreindinni of oft í blindni.

„Við erum að tapa okkar eigin dómgreind því við erum búin að láta svo mikið af hugsun yfir til hennar.“ 

Hann segir hættu á því að fólk verði að einhvers konar kjötstykki eða „meat-proxy“ eins og það er kallað á ensku, þar sem fólk setur spurningar í gervigreind og tekur svo svarið áfram án þess að skoða það eða greina. 

„Þú ert þá bara kjötstykki sem er að copy-paste-a texta sem gervigreindin bjó til,“ segir hann og að fólk verði að hafa það í huga að gervigreindin sé tól til að hjálpa við vinnu, ekki til að vinna vinnuna fyrir fólk.

„Þetta er ekki til að taka starfsmanninn úr hlutverki sínu.“

Hann segir fólk verða að eiga og bera ábyrgð á störfum sínum og tekur dæmi um kanadíska þingmanninn Bill Oliver sem las í ágúst ræðu af blaði sem virtist svo hafa verið samin af gervigreind en í lokin segir hann: „Viltu að ég skrifi fyrir aðra útgáfu af ræðunni?“. Myndband er af atvikinu að neðan en eftir atvikið hafi Oliver sagt aðstoðarmann sinn sekan um að hafa notað gervigreindina við ræðuskrifin.

„Þetta er ábyrgð á verkum og fólk verður að gera sér grein fyrir því að það verður enn að bera ábyrgð á verkunum sínum og ekki með eitthvað gervislor eða AI-slop eins og það er kallað á ensku.“

Plataði nemendur og fann hverjir notuðu gervigreind

Töluvert hefur eftir tilkomu gervigreindarinnar verið talað um áhrif hennar í skólum. Hann segir kennara hafa fundið nýjar leiðir til að greina hvort nemendur noti gervigreind. Nýlega hafi verið fjallað um kennara í bandarískum háskóla sem faldi orð í hvítu letri í verkefni sem hann sendi nemendum. Þegar nemendur hafi afritað textann í gervigreindina hafi orðið og leiðbeiningar fylgt með en þau ekki tekið eftir því og því gat kennarinn séð í svörum þeirra hver þeirra notaði gervigreind. Niðurstaðan hafi verið að 32 af 25 þeirra notuðu gervigreind til að leysa verkefnið. Frétt um málið má sjá að neðan.

Þriðja dæmið sem hann nefnir um nýja notkun á gervigreind er umsækjandi um starf sem faldi, með sama hætti og kennarinn að ofan, orð í umsókn sinni um að hann væri besti umsækjandinn. Fyrirtækið sem hafi verið að ráða skildi ekki hvers vegna nafn hans væri alltaf efst þrátt fyrir að vera ekki endilega hæfasti umsækjandinn. Fjallað er um málið í frétt hér á vef Fast Company en textann sem var falinn í hvítu letri má sjá að neðan.

Óttar segir hættu á því að fólk fari að treysta um of á þessa tækni og þá fjölgi þessum dæmum.

„Það er ótrúlega fyndið hvað við erum í villta vestrinu núna,“ segir hann og að þessi dæmi að ofan sýni hvað fólk er að verða latt og einfalt því tæknin er svo góð.

„Við erum virkilega að reyna að passa okkur á þessu hjá Gangverki og að við séum mannlegi parturinn í þessu,“ segir hann.

Vill enginn bara tala við tölvu

Hann segir texta sem skrifaður er af gervigreind yfirleitt auðþekkjanlegan. Það séu þankastrik, upptalning og oft verið að tala um x og y.

„Ég nota tólið til að hjálpa mér að skrifa greinar og tölvupósta, en ég fer alltaf yfir það og leiðrétti. Það hjálpar mér að byggja upp textann en að enda er það ég sem skrifa hann,“ segir Óttar og að þannig sé gervigreindin bara tól til að hjálpa honum.

„Ef maður hættir að skrifa texta tapar maður þekkingunni við að skrifa.“ 

Hann hafi til dæmis heyrt í fólki sem hafi hætt að versla við ákveðinn kúnna því öll svör sem það fékk frá honum í tölvupósti hafi augljóslega verið skrifuð af gervigreind.

„Það vill enginn bara tala við tölvur,“ segir hann og að það sé þannig á ábyrgð stjórnenda að gæta þess að starfsmenn séu ekki að láta gervigreind svara fyrir sig.

„Þú finnur þegar það er meira lagt í vinnuna og samskiptin,“ segir hann að lokum.