Forgangsröðun í óreiðu — að dæma þegar vélin spýtir út upplýsingaflóði

Í alvöru aðstæðum kemur upplýsingaflóð: margar uppfærslur, sumar misvísandi, sumar rangar. Gervigreind getur magnað flóðið, og stundum stungið upp á rangri eða hættulegri aðgerð af fullu öryggi. Hvernig forgangsraðar þú og tekur ákvarðanir undir álagi þegar vélin er hluti af upplýsingaflæðinu, og hvernig grípur mannleg dómgreind villu vélarinnar áður en hún verður dýr?

Eftir verkefnið getur nemandinn:

1. lýst krísu eða álagsaðstæðu sem hann hefur upplifað eða verið þjálfaður í;
2. forgangsraðað (e. triage) í tímaþröng þegar upplýsingar eru ófullkomnar og misvísandi;
3. greint hvar gervigreind stakk upp á rangri aðgerð (ofskynjuðu (e. hallucination) verklagi) eða magnaði ringulreið;
4. gert eftirárýni þar sem mannleg dómgreind er borin saman við tillögur vélarinnar. Eftirárýni er yfirferðin sem fer fram þegar atburðurinn er afstaðinn og útkoman liggur fyrir: farið er skipulega yfir hvað var ákveðið, á hvaða forsendum, og hvað hefði mátt fara betur. Aðferðin er sótt í viðbragðsgeirann, þar sem hún er föst venja eftir útkall (e. after-action review). Tilgangurinn er lærdómur, ekki sök;
5. tekið ábyrgð á ákvörðunum og skýrt hvaða ákvörðun hann myndi aldrei framselja vél.

• Mannlega akkerið = mannlegt viðmið: nemandinn skrifar um eigin reynslu/þjálfun áður en vélin kemur að.
• Vélræna uppbrotið = ICCRA-kvaðning sem býr til ófyrirsjáanlega krísusviðsmynd með misvísandi uppfærslum.
• Ábyrgðarskjalið = Honest Oracle / eftirárýni: hvar brást vélin, hvernig dómgreindin greip inn í.

Útfærsla á einingu 15 (Krísustýring), tengd 17 (Miðlar) og 12 (Iðngrein). Verkleg-dómgreindar-vídd settsins.

Hentar nemendum í verklegu/öryggistengdu námi og þeim sem hafa þjálfun í skyndihjálp, björgunarsveit eða öryggisstörfum, og Viktori (starfsnám), því viðfangið er verklegt og nálægt.

Án vélar. Skrifaðu þetta sjálfur, áður en vélin kemur að nokkru. Þetta er viðmiðið þitt, raunveruleg reynsla af því að taka ákvarðanir undir álagi. 500–800 orð.

Veldu krísu, álagsaðstæðu eða æfingu sem þú hefur upplifað eða verið þjálfaður í, til dæmis skyndihjálp, björgunarsveitaræfingu, slysavörn, eldvarnaæfingu, eða álag í vinnu, íþrótt eða keppni þar sem þú þurftir að forgangsraða hratt. Það þarf ekki að vera dramatískt. Það þarf að vera satt.

1. Aðstæðurnar. Hvað gerðist, og hvað gerði þetta erfitt? Hvað var óljóst eða misvísandi?
2. Forgangsröðunin. Hvað ákvaðstu að gera fyrst, og hvers vegna? Hvað varð að bíða?
3. Dómgreindin. Hvernig vissir þú hverju mætti treysta og hverju ekki? Var eitthvað sem leit mikilvægt út en var það ekki, eða öfugt?
4. Eftir á. Hefðir þú gert eitthvað öðruvísi? Hvað lærðir þú um að taka ákvarðanir þegar þú hefur ekki allar upplýsingar?

Ljúktu við setninguna: „Þegar allt er óljóst og tíminn naumur, þá treysti ég helst á … til að ákveða hvað skiptir mestu máli.“

Geymdu þetta óbreytt. Í Skrefi 3 berðu eigin dómgreind saman við það sem vélin lagði til í krísusviðsmyndinni, og þá sérðu hvar mannleg reynsla grípur það sem vélin missir.

Nú læturðu gervigreind búa til ófyrirsjáanlega krísusviðsmynd og hanga yfir þér með stöðugum, stundum misvísandi uppfærslum. Þetta er æfing í dómgreind undir álagi, EKKI skyndihjálparnámskeið. Þú æfir forgangsröðun, ekki læknismeðferð.

1. Markmiðið: „Ég ætla að æfa forgangsröðun í ófyrirsjáanlegri krísusviðsmynd og greina hvar vélin magnar ringulreið eða leggur til ranga aðgerð.“
2. Kvaðningin (e. prompt): þú hannar hana (sniðmát hér að neðan).
3. GO: þú samþykkir keyrsluna, og berð ábyrgð á ákvörðunum þínum.

Uppbyggingin er hönnuð til að þvinga fram rökstuðning og andóf gegn smjaðri (e. sycophancy), það er tilhneigingu vélarinnar til að staðfesta það sem þú vilt heyra. Lykilorðið ANTISYCOPHANCY í sniðmátinu er nefnt eftir því.

INTENT: Búðu til ófyrirsjáanlega krísusviðsmynd (t.d. hópslys, óveður, rafmagnsleysi,
  eldur) og leiktu hana í lotum. Í hverri lotu gefurðu mér stutta, ófullkomna uppfærslu
  á ástandinu og ég verð að forgangsraða.

CONTEXT: Þetta er ÆFING í dómgreind, ekki raunveruleg neyð. Aðstæður: [veldu samhengi
  nálægt þér]. Ég er [þjálfun/reynsla þín, ef einhver].

CONSTRAINTS:
  - Gefðu uppfærslur stuttar og raunhæfar; sumar mega vera misvísandi (það er hluti af æfingunni).
  - ANTISYCOPHANCY: Ekki gera mér auðvelt fyrir; ekki staðfesta sjálfkrafa að ákvörðun mín
    sé rétt. Bentu á afleiðingar, líka slæmar.
  - ÖRYGGI: Ef þú leggur til aðgerð, merktu hana [TILLAGA: ÞARF MANNLEGT MAT]. Þú mátt
    EKKI setja fram læknisfræðilegt eða öryggis-verklag sem áreiðanlega staðreynd.
  - Ekki finna upp tölur eða verklag og setja fram sem viðtekið.

AUTHORITY: Þú stýrir sviðsmyndinni; ÉG tek allar forgangsákvarðanir og ber ábyrgð á þeim.

REPORTING: Eftir nokkrar lotur, skilaðu yfirliti yfir (1) ákvarðanir mínar, (2) hvar
  upplýsingar voru misvísandi, og (3) hvar þú (vélin) lagðir til eitthvað sem gæti verið rangt.

Skráðu ákvarðanir þínar jafnóðum og rökin að baki þeim. Taktu sérstaklega eftir þegar vélin:

• gefur misvísandi eða mótsagnakenndar uppfærslur,
• leggur til aðgerð sem hljómar sannfærandi en gæti verið röng,
• magnar streitu/ringulreið frekar en að skýra.

Ákvarðanaskrá þín + yfirlit vélarinnar + listi yfir augnablik þar sem vélin var misvísandi eða lagði til vafasama aðgerð. Eftirárýnin bíður Skrefs 3.

Lokahliðið. Hér gerirðu eftirárýni: berð eigin dómgreind saman við tillögur vélarinnar, finnur hvar hún brást, og tekur ábyrgð á ákvörðunum þínum.

Eftirárýni er yfirferð eftir á, þegar álagið er liðið hjá og útkoman liggur fyrir. Björgunarsveitir, sjúkraflutningar og slökkvilið gera hana eftir útkall (e. after-action review): farið er yfir hvað var ákveðið, á hvaða forsendum og hvað mætti gera öðruvísi næst. Hún snýst um lærdóm, ekki um að finna sökudólg. Þess vegna gildir hér eins og þar: heiðarleg lýsing á eigin mistökum er styrkur, ekki veikleiki.

Taktu Skref 1 fram. Það sem þú sagðist treysta á undir álagi: nýttistu því í sviðsmyndinni? Greip reynsla þín eitthvað sem vélin missti?

• Ofskynjað (e. hallucination) verklag: Hvar lagði vélin til læknisfræðilega eða öryggislega ranga aðgerð, eða setti fram verklag sem hún getur ekki ábyrgst? Skráðu hvert tilvik.
• Mögnun ringulreiðar: Hvar gerði vélin ástandið óljósara í stað þess að skýra það? Misvísandi uppfærslur, of mikið í einu, rangar áherslur?
• Dómgreindin sem greip: Hvar greip mannleg dómgreind (þín eða þjálfun þín) villu vélarinnar áður en hún hefði orðið dýr? Hvað nákvæmlega lét þig efast?
• Bergmál vs. mögnun: Lét ég vélina staðfesta ákvarðanir mínar sjálfkrafa, eða lét ég hana ögra mér?

Dragðu ályktun: ef þú hefðir fylgt vélinni í blindni, hvernig hefði það leitt þig afvega?

Nefndu minnst tvö atriði úr framlagi vélarinnar sem þú hafnar: ofskynjað verklag, misvísandi uppfærslu, eða ranga forgangsröðun sem hún stakk upp á.

Ljúktu í fyrstu persónu: hvaða ákvarðanir þú stendur við og hvers vegna, hvað þú myndir gera öðruvísi, og hvaða ákvörðun þú myndir aldrei framselja vél, og af hverju. Mundu: undir álagi er öryggið ekki að vélin svari hratt, heldur að manneskja beri ábyrgð á dómnum.