Veileder for kunstig intelligens

Noen råd til eleven og lærlingen

KI som sparringspartner.

• Som elev kan du bruke KI som en sparringspartner, men pass på at KI ikke blir et verktøy som gjør jobben for deg. La KI hjelpe deg med å forstå oppgavetekster bedre og gi forslag til hvordan du kan strukturere oppgavene dine. På denne måten blir KI din personlige assistent som gir deg raske tilbakemeldinger, spesielt når læreren ikke er tilgjengelig.

Vurder svarene du får.

• Språkmodeller lager språk, de presenterer ikke fakta. En språkmodell kan være feilinformert. Det betyr at svaret den gir deg kan være farget av informasjonen den har fått tidligere, og gi deg gale og diskriminerende svar. Du må bruke andre kilder til informasjon for å sjekke at den informasjonen du har fått av KI, er riktig.

Husk kildehenvisning.

• Husk at du må forklare hvordan du har brukt KI i kildehenvisningen. 
• Du kan lese mer om kildehenvisning ved bruk av KI på Kildekompasset sine nettsider.

Del erfaringer.

• De andre i klassen kan sitte på verdifull erfaring med bruk av KI. Samarbeid og ta initiativ til å snakke om hvordan dere bruker KI i læringsarbeidet, og ta gjerne læreren med i diskusjonen.

Noen råd til læreren

Gjør deg kjent med ulike typer KI - verktøy for å forbedre undervisningen. Når du bruker KI-verktøy på en etisk og bevisst måte, kan det bidra til variert og tilpasset opplæring i klasserommet.

• Snakk med eleven: Gjennom dialog med elevene kan dere finne ut hvordan KI kan brukes i læringsarbeidet. Hvis KI ikke passer for å løse en oppgave, kan samtalen hjelpe elevene med å forstå teknologiens fordeler og ulemper bedre.
• Bruk godkjente verktøy: Bruk bare KI-verktøy som skolen eller fylkeskommunen har godkjent.
• Utforsk KI-verktøy: Bruk KI-verktøyene jevnlig for å bli tryggere på bruken av dem. Det vil hjelpe deg å vurdere hva KI-verktøyet egner seg best til.
• Lag gode ledetekster: Øv deg på å lage gode ledetekster til KI-verktøyene. Skaff deg kunnskap om hvordan teknologien fungerer ved å utforske hva som skjer dersom du endrer ledetekstene.
• Personvern: For å ivareta elevenes personvern, er det viktig at du ikke laster opp elevbesvarelser i et KI-verktøy.
• KI til vurdering av elevens bruk av KI: KI skal ikke brukes for å sjekke om elever har brukt KI fordi teknologien pr. i dag ikke er nøyaktig nok.

Noen råd til skolelederen

Som skoleleder bør du ha god kunnskap om kunstig intelligens (KI) og hvordan det påvirker både lærere og elever. Her er noen enkle råd for å håndtere bruken av KI på din skole:

• Godkjente KI-verktøy: Finn ut hvilke KI-verktøy som er godkjent av fylkeskommunen. Oppdatert oversikt finner du her: Hugin
• Bruk og utforsk KI-verktøy selv: Bruk de KI-verktøyene du har tilgang til regelmessig. Å bruke teknologien hjelper deg til å forstå den bedre.
• Respekter reglene for bruk av KI: Ikke bruk KI til å lage grunnlag for viktige beslutninger, f.eks enkeltvedtak, som kan inneholde personopplysninger. Vær nysgjerrig på hvorfor noen verktøy ikke er tillatt, og utforsk grunnene til det.
• Støtt lærerne: Hjelp lærerne ved å støtte utviklingen deres og ha samtaler om fordeler og ulemper med bruk av KI i opplæringen.

Du kan også bruke KS sin veileder for å få oversikt over viktige temaer om KI i skolen. KS sin veileder for kunstig intelligens i digitale læringsressurser og fagsystem gir skoleledere en oversikt over aktuelle problemstillinger knyttet til bruk av ressurser med kunstig intelligens, i undervisningspraksis og læring. https://www.ks.no/fagomrader/digitalisering/felleslosninger/skolesec/nasjonal-dpia-for-kunstig-intelligens/

KI og vurdering

Kunstig intelligens utfordrer kjente og etablerte måter å vurdere på. Det er imidlertid ikke noe nytt at elever får hjelp til å skrive oppgaver utenfor skolen. Mange oppgaveformater innebærer en risiko for at elever får hjelp til å forbedre arbeidet sitt. Læreplanen krever dessuten at elevene skal kunne bruke digitale verktøy for å lære. Hvordan kan du som lærer da vite med sikkerhet at elevene faktisk har lært, og ikke bare brukt KI til å skrive besvarelser?

Eksempler på positive bruk av KI som hjelp til å tenke (kognitiv avlastning):

• Bruk av ulike KI-verktøy til å lage tekstutkast. Elevene må selv vurdere kvaliteten på utkastene
• Lese kilder og bruke KI til å oppsummere innholdet. Elevene må selv vurdere kvaliteten på oppsummeringen

Bruk av KI på denne måten hjelper elevene til å komme raskere fram til de mer krevende delene av læringsarbeidet. 

KI gjør det nødvendig å endre hvordan du underviser og vurderer på, spesielt når det gjelder skriftlige oppgaver som kan være utfordrende å vurdere. Det krever at du varierer både undervisningsmetoder og vurderingsmetoder:

• Bruk ulike typer oppgaver med både åpne spørsmål og konkrete spørsmål, som krever både korte og lange svar
• Jobb med prosjekter over både kort og lang tid
• Inkluder oppgaver som kombinerer kunnskap, ferdigheter, kritisk tenking og refleksjon
• Lag oppgaver som tar utgangspunkt i ukjente caser eller elevenes egne erfaringer
• For å kunne løse en oppgave, kan du kreve at eleven svarer ved å tolke eller reflektere over temaet
• Elevene kan jobbe sammen i grupper for å løse problemer, diskutere ideer eller lage prosjekter som kombineres med oppgaver som skal løses individuelt
• Kombinerer ulike oppgaveformater for eksempel skriftlig, muntlig (for eksempel presentasjon, podkast), praktisk, ved hjelp av filmsnutt/opptak etc. For eksempel at elevene kan forklare muntlig eller skriftlig hvordan de kom fram til en påstand eller et argument og hvilke kilder som ble brukt. 

KI og eksamen

Eksamen i videregående skole har flere formål. Den skal gi informasjon om kandidatens kompetanse ved slutten av opplæringen i faget, den gir en mulighet for å bli vurdert av en ekstern sensor, og den gir grunnlag for opptak til videre utdanning. For å sikre at eksamen er trygg og rettferdig, er det ikke tillat med KI-verktøy på sentralt gitt eksamen.  

Det gjelder:

• nettbaserte og installerte KI-programmer, installasjonsfiler og modellfiler
• nettbaserte hjelpemidler som ikke finnes på eksamenssiden https://eksamen.telemarkfylke.no/
• alle former for kommunikasjon med andre, både fysisk og digitalt
• i norsk og språkfag er ikke oversettelsesprogrammer tillatt

Kandidaten er selv ansvarlig for:

• å ikke ha ulovlige hjelpemidler tilgjengelig under eksamen
• å kun bruke godkjente hjelpemidler
• å bruke riktig nettverk under eksamen
• å følge reglene for riktig kildehenvisning. Dersom kandidaten bruker materiale som er skapt av KI før eksamen i besvarelsen sin, må den også inneholde kildehenvisning

Kontroll ved eksamen

Nå kan man bruke programmer med KI uten å være koblet til internett. Derfor er det ikke nok å bare stenge av nettilkoblingen under eksamen. Med stadig bedre hjelpemidler blir det også vanskeligere å sikre at eksamener er trygge og rettferdige. Telemark fylkeskommune har økt vaktholdet i eksamenslokalene og gitt eksamensvaktene opplæring i hvordan de kan oppdage ulovlig bruk av hjelpemidler. Både før og under eksamen, og når eksamensbesvarelsene skal sensureres, tas det stikkprøver:

• bruk av internett vil bli logget, og kan bli kontrollert under eller etter eksamen
• ved mistanke om juks kan kandidaten bli bedt om å vise innholdet på sin datamaskin før eksamen, under eksamen eller etter at eksamen er avsluttet
• tilfeldige kandidater trekkes ut til stikkprøver. Hvis kandidaten nekter å vise innholdet, blir dette regnet som forsøk på juks
• hvis det er ulovlige programmer eller filer på maskinen, regnes det som forsøk på juks

Konsekvenser av juks eller forsøk på juks

• eksamen i faget blir annullert
• kandidaten mister standpunktkarakteren i faget (hvis du er elev)
• kandidaten må vente minst ett år før hen kan ta ny eksamen i faget

Instruks, sytemledetekster, og temperatur

Når du bruker KI og språkmodeller som Hugin, sender du spørsmål i chatten for å få hjelp med oppgaver. Disse spørsmålene kalles instruksjoner eller ledetekster. Husk at teknologien bak språkmodellen påvirker svarene du får. Her er noen tips for å skrive gode instruksjoner, enten du er elev, lærer eller skoleleder. Du finner flere råd på NDLA: NDLA-ledetekster.

Systemledetekster: Når du formulerer systemledetekster gir de språkmodellen en ramme for hvordan den skal svare. Det hjelper hvis du vil styre samtalen eller få mer relevante og nøyaktige svar. Vær oppmerksom på at språkteknologien kan gjøre feil eller være skjev, dvs. gi diskriminerende svar.

Temperatur: Denne innstillingen bestemmer hvor forutsigbare svarene blir. Lav temperatur (nær 0) gir mer presise, forventede svar, som er bra for spesifikke oppgaver. Høy temperatur (>1) gir mer kreative, men uforutsigbare svar. Ofte brukes en middels temperatur (rundt 0,7) for en balansert respons.

Husk at teknologien kan ha begrensninger, så du kan må alltid sjekke ut svarene fra KI. Det kan du f.eks. gjøre ved å teste ut Hugin gjennom å forskjellene i respons når du formulerer samme ledetekst på ulike måter: Hugin

Kunstig intelligens og behandling av personopplysninger

KI-verktøy behandler som regel alltid personopplysninger, noe som påvirker elever og ansattes personvern på ulike måter:

• Informasjon som du selv gir, eller som kommer fra andre personer eller systemer som f.eks. navn, hvor du kommer fra, hva du liker, hva du er flink til, eller andre ting om deg.
• Informasjon fra systemet som inneholder personlige opplysninger. Dette kan være informasjon som systemet husker, men oftere informasjon som kommer fra det du har skrevet inn tidligere. Hva er personvern? – Datatilsynet

• Hvis en tjeneste er gratis på nettet, brukes ofte informasjonen du gir til andre ting enn bare å levere tjenesten. For eksempel kan informasjonen bli solgt videre eller brukes til å utvikle kunstig intelligens (KI). 

Skoleledere, lærere og elever kan bare bruke tjenester som fylkeskommunen har vurdert og godkjent. Det er også viktig at skoleledere og lærere vet hvordan de skal bruke disse verktøyene på en etisk og pedagogisk måte.

Hvis du som ansatt vil bruke et nytt KI-verktøy, kan du be om en vurdering ved å sende en forespørsel til din nærmeste leder. Lederen vil ta dette videre til teamet som jobber med digitale læringsressurser og fagsystemer.

Telemark fylkeskommune bruker ikke informasjonen til lærere eller elever til utvikling eller salg av KI-verktøy. De er ansvarlige for dine personopplysninger når du jobber eller går på skole i fylkeskommunen. Det betyr at de må sørge for at dine rettigheter og friheter blir ivaretatt.

Du kan lese mer om behandling av personopplysninger i Telemark fylkeskommune her

Vil du lære mer om personvern i opplæringen?

Se videoleksjoner og veiledninger på sidene til SkoleSec-prosjektet.

Noen viktige begreper

Kunstig intelligens (KI): Teknologi som brukes til å få systemer til å "tenke" som mennesker. KI kan deles inn i to typer: ekspertsystemer og maskinlæring. Når vi snakker om KI mener vi som oftest maskinlæring.

Generativ KI: Dette er teknikker som lar maskiner skape (generere) tekst, bilder, videoer og lyd ved å etterligne dataene de har lært fra.

Språkmodeller: En språkmodell lager tekst basert på sannsynligheten for hvilke ord som hører sammen. Store språkmodeller har blitt trent på mye tekst for å bli flinke til dette.

Ledetekst: Når du gir en språkmodell instruksjoner for hva du vil ha, kalles det ledetekst. Det bør være detaljert for å gi deg det svaret du ønsker.

Systemledetekst: En instruksjon som forteller språkmodellen hvordan den bør oppføre seg og svare generelt.

Temperatur: Styrer hvor mye tilfeldighet det er i svarene du får fra språkmodellen. Lav temperatur gir mer forutsigbare svar, mens høy temperatur gir mer variasjon.

Generere: Å lage eller skape noe nytt.

Bias: Når KI leverer resultater som er skjeve eller urettferdige og kan føre til forskjellsbehandling. Det kan skje hvis dataene systemet er trent på, har innebygde skjevheter.

Konfabulasjon: Dette er når KI finner på informasjon som ikke er basert på fakta. Den skriver ting som kan høres riktige ut, men som kan være feil.