Her finn du nyttige ressursar og tips som kan hjelpe deg som undervisar å prate med studentane om KI, læring, vurdering og etikk.

Kunstig intelligens, ala språkmodellar som ChatGPT, dukka først opp på radaren for mange av oss i november 2022, og sidan då har diskusjonen kring bruken av slike verktøy gått for fullt i UH-sektoren.

Engelsk versjon: Discussing artificial ingelligence with your students

Under finn du nokre forslag til konkrete tema med tilhøyrande ressursar som du kan bruke i samtalar med studentane dine når det gjeld KI og kva som er problematisk og nyttig ved bruk av kunstig intelligens i vurdering, læring og undervisning. Målet er at vi kan skape ei felles forståing for slike verktøy og ein konstruktiv bruk av desse.

Dialog om kunstig intelligens i undervisninga

I denne videoen får du grunnleggande kunnskap om kunstig intelligens. Det kan vere lurt å sjå den i lag med studentane eller be dei sjå den sjølve, som utgangspunkt for dialog om kva kunstig intelligens eigentleg er, og korleis slike verktøy kan påverke liva våre som samfunnsborgarar, studentar og arbeidstakarar.

Videoen (6:30 minutt) gir deg grunnleggande kunnskap om kunstig intelligens). Videoen er på engelsk.

Kva kan kunstig intelligens eigentleg gjere og kva er den lite god på?

Kunstig intelligens, som ChatGPT, verkar som ein framifrå samtalepartnar på alle vis; den vert aldri lei av spørsmåla våre og den gir svar som vi oppfattar som fornuftige og kunnskapsrike. Og det er ikkje så rart, desse verktøya genererer tekst med utgangspunkt i «what would the humans say»? Den set altså saman tekst ved å føresjå det neste ordet som sannsynlegvis bør følgje, ikkje ved å kopiere setningar eller avsnitt frå datasettet den er trena opp på. Difor vil ein også kunne få ulike svar på same spørsmålet, nett slik ein får viss ein stiller same spørsmålet til ulike folk. Men på trass av si menneskelege framtoning; slike store språkmodellar er på ingen måte sjølvbevisste vesen. Og vi som brukar slik verktøy bør utvikle ei bevisstheit kring nettopp dette.

Under vil du finne punkt til refleksjon knytt til kva KI kan og ikkje kan gjere og korleis dette skil seg frå våre unike menneskelege bidrag og kapasitetar.

Men kva skil oss frå KI, kva er det unike menneskelege vi kan bidra med?

KI som tekstforfattar er ofte overdriven nøytral og upartisk. Den gir informasjon og betraktningar på eit generelt og kontekstuavhengig vis og den gjer ikkje etiske eller fagleg grunna vurderingar (normativt), altså den viser ikkje reell innsikt. KI forankrar heller ikkje påstandar i erfaringar og observasjonar. Ein kan nesten seie at KI er på språket sitt lag, med logiske oppbygning og «korrekt» framstilling, med dei orda vi «likar» å bruke eller «stoler» på. Under listes fundamentale motsettingar mellom KI og det som er unike menneskelege kvalitetar i tenking, handling og formidling.

Kunstig intelligens

• Tekst produsert av KI har ein påfallande nøytral form, den (tek ikkje stilling).
• Teksten pregast av en logistisk oppbygning, den deler opp temaet og presenter ofte materialet som punktlister (uavhengig om det er ei meiningsfull eller korrekt oppdeling).
• Innhaldet som formidlast er ofte tilsynelatande verdinøytralt*, den (tek ikkje posisjon).
• Innhaldet som formidlast er også kontekstuavhengig og vert generert som noko «generelt»/«allmenngyldig».
• Tekstene står fram som tydeleg på det viset at det «i varetek» alle tenkelege lesarar.
•  KI som tekstforfattar produserer også tekst som er prega av sikkerheit (ingenting står på spel)

Menneske

• Tekst skrive av menneskje er prega av at vi er personleg involvert og engasjert.
• Vår formidling er grunnleggande fortolkande i motsetning til logistikk.
• Menneskje er partisk i motsetnad til verdinøytrale.
• Vi evner å skrive, handle og tenkje partikulært (historisk/situert).
• Vi skriv i lys av «nokon» (vi har ein lesar i mente; eit forbilde, ein stemme, eitt menneskje, ei framtid, ein Gud).
• Som menneskje er vår samhandling og formidling preget av en grunnleggande usikkerheit (vi er alltid i spel).

Er KI eit reiskap eller eit hinder for danning og læring?

Akademisk danning handlar om evna til kritisk refleksjon, å vere i stand til å både utvikle kunnskap og vere kritisk til den, samt innsikt i vitskapleg tenkjemåte. For den etiske danninga handlar det om å utvikle ansvarlege haldningar hjå studenten, til medmenneska sine, samfunnet og naturen. Det handlar også om studenten si evne til å forstå og opptre i tråd med dei retningslinjer og regelverk som gjeld når ein studerer ved universitet eller høgskuler.

NTNU sine studentar er her for å lære og utvikle seg som individ og samfunnsborgarar, og vi har ansvar for å fremelske innsikt, forståelse, ny kunnskap og gode menneska og samfunnsborgere, og for å ruste dei til å ta del i og bidra inn i eit framtidig arbeidsliv. Snakk med studentane om læring, hjelp dei å utvikle eit godt og innsiktsfylt forhold til læringsprosessen.

Spørsmål til ettertanke

Viss ChatGPT kan produsere tekstar med logisk oppbygging, presise setningar, som gjengir innhald på en nøytral og upartisk måte som tilsynelatande har humane verdiar, er desse da vurderingskriterier, altså noko vi bør sjå etter når vi søkjer å avdekke reell innsikt, fagleg dømmekraft, formidlingsevne, og omsorg for medmenneske og verda?

• Kan KI fungere som verktøy for å avdekke korleis vi som menneskjer tenkjer og forstår?
• Kan KI avsløre kva vi verdset?
• Lukkar rommet for tenking i skriving? (gjengir det mest generiske, vanlege og forventa).
• Flater ut skriftleg formidling? (tydeleggjer struktur, grammatikk og setningsoppbygging sin privilegerte posisjon i utdanning som målbare og lett vurderbare einingar)
• Manglar stil og personleg utrykk. (Høyrer personlegdom heime i høgare utdanning?) Minner dette meir om uttrykket i naturvitskapelege forskingsartiklar? Privilegerer det i så fall en type akademisk skrivekunst over andre?)

Ting å tenke på når det gjeld vurdering

KI-reiskap får stadig fleire og sterkare funksjoner både kva gjeld tekstproduksjon, bilete og video. Korleis vi legg opp emnar og vurderer studentarbeid vert då sentrale spørsmål. Skal ein fortsette å nytte vurderingsformer som vektlegg sluttevurderingar, i motsetting til fokus på studenten sin kontinuerlege, pågåande læringsprosess? Det vert også viktig å reflektere kring korleis vi kan utforme eksamensoppgåver som gir studentane høve til å vise reell innsikt, fagleg dømmekraft, formidlingsevne, og omsorg for medmenneske og verda på ein måte som ikkje ein KI lett kan etterlikne og framstille.

Meir konkrete tips finn du i wikien Eksamen og kunstig intelligens - for faglærar

Etiske problemstillingar

Partiske datasett gir partiske output

Språkmodellar, som ChatGPT, er bygd på partiske datasett; dei har blitt trena opp på enorme mengder tekst frå nettsider, bøker og andre kjelder utan at den er i stand til å vurderte innhaldet på noko vis. Mesteparten av tekst på internettet er produsert av kvite menn frå vestlege land, og det er truleg at KI-verktøy, som ChatGPT, er trena på datasett der denne demografien er overrepresentert. Det er og mykje innhald på nettet som ikkje er av den «gode» sorten. Med andre ord vil datasettet til slike tekstmodellar kunne innehalde partiske, rasistiske, sexistiske og anna diskriminerande tekstar, som igjen vil prege teksten den genererer når vi brukar den.

Nokre ressursar for vidare lesing: