Gervigreindin lýgur að þér – og það er ná­kvæm­lega það sem þú baðst um

Umbreytingin er algjör. Fyrir örfáum árum notuðum við Google til að leita að hlekkjum og heimildum, en í dag notum við gervigreind í leit að bestu mögulegu svörunum. Við treystum því að tæknin flokki hismið frá kjarnanum og dæli út upplýsingum sem við getum byggt rekstur og ákvarðanir á. En þar liggur hættan. Við gleymum því nefnilega að gervigreindin er ekki alvitur véfrétt sem geymir hinn eina sanna sannleika; hún er ferkantaðasti og lygamesti já-bróðir sem þú hefur nokkurn tímann unnið með.

Forrituð til meðvirkni

Stóru mállíkönin, eins og ChatGPT og Claude, eru þjálfuð með einkunnagjöf frá mannfólki. Og hvað kom í ljós í því þjálfunarferli? Mannskepnan er hégómleg. Við gáfum vélunum alltaf hærri einkunn þegar þær voru sammála okkur eða sögðu okkur nákvæmlega það sem við vildum heyra.

Rannsakendur hjá Anthropic sýndu nýlega fram á þennan innbyggða undirlægjuhátt í gervigreindinni. Ef þú mætir að lyklaborðinu með ranga eða afar hlutdræga fullyrðingu, hefur tæknin tilhneigingu til að skrifa undir hana, fegra hana og rökstyðja, frekar en að leiðrétta þig. Ef forstjóri biður gervigreindina um að finna rök fyrir því að segja upp fólki, mun hún finna þau. Ef markaðsstjóri biður hana um rök fyrir því að nýja, lélega herferðin sé frábær, þá staðfestir hún það.

Tökum eitt heitasta hitamál samtímans á Íslandi: ESB-aðildina. Ef inngróinn ESB-sinni biður gervigreindina um ástæður þess að Ísland verði að ganga í sambandið, fær hann tíu hárbeitt rök sem staðfesta eigin snilld. Ef harður andstæðingur mætir mínútu síðar og biður um tíu rök fyrir því að við eigum ekki að hefja viðræður, dælir mállíkanið þeim út með sama brosi. Þú getur jafnvel beðið gervigreindina um að tæta í sundur rök ESB-sinnans sem hún skrifaði sjálf fimm mínútum áður. Hún hefur enga skoðun; hún er bara að keppast við að fullnægja manneskjunni sem spyr. Útkoman er fullkominn, stafrænn bergmálshellir í kringum þínar eigin gloppóttu hugmyndir.

Þetta er einmitt ástæðan fyrir því að við finnum oft fyrir eðlislægri andúð á greinum og skýrslum sem eru alfarið eða að stórum hluta skrifaðar af gervigreind. Við finnum á okkur að textinn hefur ekkert hryggjarstykki. Hann tekur enga raunverulega afstöðu, hann er of samþykkjandi, sléttur og felldur. Það vantar manninn sem er tilbúinn að setja nafnið sitt við sterka og jafnvel óvinsæla skoðun.

Hvernig þvingum við fram upplýstari ákvarðanir?

Ef við ætlum að nota gervigreind til að taka stórar viðskiptaákvarðanir, stýra framkvæmdum eða einfaldlega leysa flókin vandamál, þá verðum við að brjótast út úr meðvirkninni. Við þurfum að breyta þessum hjálplega já-bróður í miskunnarlausan gagnrýnanda. Hér eru sex skotheldar aðferðir til að fá betri, nákvæmari og gagnlegri svör:

1. Skilgreindu hlutverkið fyrst: Áður en þú spyrð stóru spurninganna skaltu segja vélinni hver hún er. Ef þú gerir það ekki, fer hún í sjálfgefna hlutverkið: kurteisan aðstoðarmann sem vill vera sammála þér. Byrjaðu frekar á: „Þú ert tortrygginn og raunsær fjármálastjóri sem hatar áhættu.“ Þetta slekkur á klappstýrunni og þvingar vélina í faglegt og hlutlægt hlutverk.

2. Bannaðu kurteisina (Miskunnarlausi vinkillinn): Næst þegar þú setur hugmynd, drög að tölvupósti eða stefnumótun inn í vélina, ekki biðja hana bara um yfirlestur. Bættu við þessari nákvæmu skipun: „Vertu miskunnarlaus (e. brutally honest). Slepptu allri kurteisi, tættu þennan texta í sundur og finndu þrjá helstu veiku punktana.“ Þú munt sjá svörin breytast úr innantómu hrósi yfir í hárbeitta greiningu.

3. Rauða og bláa teymið (Red / Blue Team): Búðu til átök. Þú biður gervigreindina um að setja upp „Rauða teymið“ (hinn miskunnarlausa keppinaut sem á að skjóta hugmyndina í kaf) og „Bláa teymið“ (verjandann). Láttu vélina rökræða við sjálfa sig á skjánum þínum og dragðu þínar eigin ályktanir af átökunum.

4. Kryfja fyrirfram: Í stað þess að spyrja hvernig eigi að láta verkefni heppnast, biddu gervigreindina um að ferðast fram í tímann. Segðu: „Ímyndaðu þér að það séu liðnir sex mánuðir. Þetta verkefni hefur farið algjörlega til fjandans og fyrirtækið hefur tapað milljónum. Útskýrðu nákvæmlega hvað klikkaði.“ Þetta neyðir mállíkanið til að finna blinda vinkla sem hvorki þú né samstarfsfélagarnir þorðuð að ræða.

5. Láttu hana hreinsa þína eigin blindu: Við afhjúpum okkar eigin hlutdrægni um leið og við skrifum skipunina. Snúðu dæminu við: Lýstu vandamálinu í stuttu máli og segðu: „Ég vil fá hlutlaust mat. Skrifaðu fyrir mig hið fullkomna prompt sem fjarlægir alla mína hlutdrægni, svo þú getir gefið mér heiðarlegt svar.“ Þú lætur þannig vélina endurskrifa spurninguna þína áður en hún svarar henni.

6. Kveiktu á djúphugsuninni (Deep Research / Thinking): Við erum orðin góðu vön að fá svör á sekúndubroti. En þessi hraði ýtir oft undir yfirborðskennd, meðvirk svör. Nýjustu og öflugustu líkönin bjóða í dag upp á rökrétta djúphugsun, þar sem vélin tekur sér mínútur eða jafnvel klukkutíma til að leita heimilda á netinu, sannreyna eigin niðurstöður og efast um eigin fullyrðingar áður en hún birtir svarið. Ef ákvörðunin skiptir raunverulegu máli, hættu þá að flýta þér og kveiktu á djúphugsuninni.

Hinn sanni styrkleiki stjórnandans

Það er nákvæmlega hérna sem stærsti styrkleiki okkar stjórnenda og sérfræðinga liggur. Í mínu starfi við ráðgjöf og innleiðingu gervigreindar hjá fyrirtækjum fer einn stærsti hlutinn einmitt í að leysa þennan hnút: Að kenna teymum að leiðrétta undirlægjuháttinn. Þeir stjórnendur sem ná raunverulegum árangri í dag eru ekki þeir sem nota gervigreindina til að staðfesta eigið ágæti, heldur þeir sem kunna að smíða ramma þar sem hún dregur þá til ábyrgðar, heldur þeim við efnið og kemur í veg fyrir að fyrirtækið keyri blint í kolranga átt.

Raunverulegt verðmæti gervigreindar felst nefnilega ekki í getu hennar til að klappa okkur á bakið. Það liggur í getu hennar til að benda okkur á okkar eigin blindu. Ef þú notar hana bara til að staðfesta eigin snilld, ertu ekki að stíga inn í framtíðina; þú ert bara að byggja hraðbraut að næstu stóru mistökum. Ráðið andstæðing, ekki já-bróður – og fáið sérfræðinga til að stilla hann af.

 Höfundur er ráðgjafi í nýsköpun og gervigreind.