Kunstig intelligens (KI) i skolen

Retningslinjer for bruk av Kunstig intelligens ved Saltdal videregående skole
Kunstig intelligens kan, ved riktig bruk, være et godt verktøy i læringsarbeidet. Som ved all annen kildebruk er åpenhet og ærlighet en selvfølge. Regler for plagiering omtales i Ordensreglementet, og gjelder også ved bruk av KI.
Av hensyn til personvern anbefaler skolen NDLAs praterobot, som er tilgjengelig via Feidepålogging.

KI og kildehenvisning  
Ved bruk av KI i skolearbeid skal kilder oppgis med kildereferanse etter standard som f.eks. APA 7. Se Kildekompasset.no for hvordan kilder refereres ved bruk av KI:

«For tekst generert av kunstig intelligens (KI) må du beskrive i teksten din hvordan du har brukt KI-verktøyet, og ta med det du skrev inn og det du fikk ut av verktøyet (ledetekst/prompt), eventuelt i et vedlegg.» (Kildekompasset.no). Ved direkte sitat fra KI markeres teksten i anførselstegn etter vanlige referanseregler. 

Vær varsom! 
KI bør ikke anvendes som kunnskapskilde eller oppslagsverk spesielt ikke når du skal lære noe nytt.

Svarene KI gir er ikke nødvendigvis tilpasset våre verdier, og kunstig intelligens kan presentere feil informasjon som fakta. Vær kritisk, og les alltid over og sikre kvaliteten i innholdet fra språkmodellene mot andre kilder.

Hva regnes som juks eller plagiat 

Hva regnes som juks: juks er å bruke ulovlige hjelpemidler, samarbeide med andre uten lov, eller å presentere andres arbeid som sitt eget.

Hva regnes som plagiat: Plagiat er direkte avskrift eller lettere omskrivinger av andres tekster – uten kildereferanser, og uten at teksten er markert som sitat. For å unngå plagiering og juks er det viktig å lære seg riktig kildebruk.  

KI og juks: Eksempel på juks kan være å levere eller presentere et oppgavesvar, som helt eller delvis er produsert av kunstig intelligens, og presentere det som sitt eget arbeid.
 

Kilder:

1. Rogaland fylkeskommune - Kunstig intelligens (KI) i skolen
2. Møre og Romsdal fylkeskommune - Kunstig intelligens i skolen
3. Store norske leksikon - Språkmodell
4. Store norske leksikon – Kunstig intelligens
5. Utdanningsdirektoratet - Språkutvikling
6. Helsedirektoratet - Ettertrening og helsefagleg rettleiing av språkmodellar
7. Råd om kunstig intelligens i skolen fra Udir.
    

Kunstig intelligens (KI) eller "artificial intelligence" (AI) på engelsk, er et samlebegrep på datasystemer som kan løse oppgaver som vanligvis forbindes med menneskelig problemløsning.

Kunstig intelligens er delt inn i to hovedkategorier: 

• Kunstig generell intelligens (generative tjenester): Tjenesten har evne til å løse et bredt spekter av oppgaver.
• Kunstig spesialisert/smal intelligens (spesialiserte tjenester): Tjenesten er spesialisert på å løse én bestemt oppgave.

Språkmodeller
Språkmodeller er en modelltype innen kunstig intelligens som er opplært til å generere menneskeliknende tekst. De er utformet for å forstå og generere tekst i et naturlig språk, noe som gjør dem ideelle for oppgaver som språkoversetting, tekstgenerering og tekstklassifisering. Når språkmodeller skal brukes, trenger de ledetekster eller "prompts" som brukeren mater inn i modellen. En ledetekst er en setning som blir brukt til å generere et svar. 
Det finnes mange ulike språkmodeller, og utviklingen går raskt med stadig mer avanserte systemer som kan behandle, generere og analysere tekst på komplekse måter.

Hvordan generer språkmodellene tekst?
Språkmodeller lærer seg å forstå og produsere tekst ved å analysere store mengder tekstdata. De bruker statistikk og mønstre for å forutsi hvilke ord eller setninger som sannsynligvis kommer etter en gitt kontekst. Når en språkmodell er trent, kan den generere tekst ved å kombinere mønstre og sannsynligheter. For eksempel kan den fullføre ufullstendige setninger eller skrive nye setninger basert på tidligere erfaringer.

Det er viktig å huske at datasettet språkmodellene legger til grunn, kan være hele internett. Siden vi ikke har kontroll på det statistiske grunnlaget for praterobotens svar, eller om et datagrunnlag for eksempel er preget av religiøse, politiske eller andre overbevisninger, vil det ikke være mulig å ha full kontroll på faktagrunnlaget bak det prateroboten skriver.
Språkmodeller kan også komme med grove faktafeil. Det er derfor svært viktig at vi alltid sjekker faktagrunnlaget i svaret vi får fra en praterobot.

Hva er NDLA sin praterobot

Nordland fylkeskommune er en del av NDLA-sambeidet og i dag bruker vi NDLA sin praterobot i læringsarbeidet ut fra funksjonalitet og at personvernet ivaretas.

NDLA lagrer ingen persondata knyttet til denne tjenesten. All samhandling med praterobotene foregår direkte mot Microsoft Azure OpenAI. Det du skriver inn, blir bare lagret av Microsoft i 30 dager, og det blir slettet etter denne perioden. Microsoft vil bare se gjennom loggene ved mistanke om misbruk av tjenesten.

Tjenesten vil ikke være tilgjengelig for de som har eksamen.

NDLA(ndla.no)

Det er viktig å være bevisst at KI-feltet utvikler seg raskt, og at det ikke er mulig å få full oversikt over hele feltet. Veiledningen tar utgangspunkt i den informasjonen vi har per nå.

Veiledning:

1. Ikke skriv eller last opp sensitiv informasjon i prateroboter
   Ikke skriv eller last opp informasjon som er unntatt offentlighet eller inneholder personopplysninger.  Bakgrunnen for dette er blant annet GDPR og Forvaltningslovens regler om taushetsplikt.  
    
2. Ikke last opp bilde, video, lydfiler eller annet av personer det er mulig å identifisere
   Husk at bilde av personer regnes som personopplysninger i GDPR. 
    
3. Krav om åpenhet
   Hvis oppgaven tillater det, kan eleven bruke prateroboter til å videreutvikle idéer og tekst, men resultatene skal ikke erstatte eget arbeid, og teksten skal alltid omarbeides underveis og helt til slutt. Eleven skal alltid være åpen om når og hvordan KI er brukt, for eksempel i et avsnitt i teksten som er levert inn, eller i vedlegg til oppgaver. Kildehenvisninger blir gjort i henhold til gjeldende mal for kildehenvisninger. Se for eksempel Kildekompasset sine nettsider om hvordan referere til materiale som er skrevet av kunstig intelligens. 
   Dette kravet er også gjeldene for andre medietyper, som bilder, lyd, video og annet. 
   
    4. Vær kritisk til svarene fra praterobotene
   Prateroboter benytter språkmodeller som er basert på statistiske relasjoner mellom ord, ikke kunnskap. Språkmodellene har ingen forståelse for, eller kunnskap, om svaret er riktig eller ikke.
   Kvalitetssikre alltid innhold fra prateroboter.  
   
   5. Prateroboter skal ikke brukes til plagiering og fusk
   En skal ikke generere svar ved hjelp av slike tjenester. Det å levere helt eller delvis som eget svar uten å være åpen om bruken av KI, er å regne som fusk i vurderingssituasjoner.
   
   6. Fagansvarlige skal vurdere elevarbeid
   Prateroboter kan være en støtte i å gi tilbakemelding på elevers arbeid underveis i læringsprosessen.

Hva betyr "prompts"? Prompts kan i KI-sammenheng oversettes til ledetekst eller kommandoer du bruker i kommunikasjonen din med KI. Ledeteksten blir brukt både til å definere på hvilken form KI skal svare og hvilke svar du får. Jo mer spesifikk ledetekstene er, jo bedre svar vil du få. Det kan være lurt å dele en oppgave eller spørsmål inn i mindre deler og sekvenser.
Vær alltid kritisk reflekterende til svarene du får fra kunstig intelligens.

Siden dagens prateroboter er språkmodeller og ikke kunnskapsmodeller, er kvaliteten på spørsmålene vesentlig for resultatet. 

Dagens språkmodeller er på ingen måte perfekte, og det er viktig at du er klar over dette.

Har språkmodellene meninger?
Prateroboter har ikke egne meninger. Språkmodeller genererer tekst basert på mønstre i store mengder data de er trent på. De har ingen bevissthet, følelser eller egne meninger, og det de skriver er et resultat av statistiske beregninger og mønstre, ikke personlige holdninger eller overbevisninger. Språkmodeller er ikke objektive. Selv om de kan fremstå nøytrale, er de trent på store mengder tekst fra mennesker og internett, og kan derfor reflektere fordommer, skjevheter eller kulturelle holdninger som finnes i dataene. De kan også prioritere enkelte svar fremfor andre basert på statistiske mønstre, ikke en universell sannhet.

Sammenheng i lengre tekster:
Språkmodeller kan misforstå konsepter - ofte fordi de ikke forstår hva som er konteksten i en situasjon. Selv om en praterobot husker tidligere svar i en samtale, kan den noen ganger glemme konteksten. Dette kan føre til inkonsekvent tekstinnhold i lengre tekster. Hvis prateroboten blir bedt om å skrive en bok, kan manglende forståelse og dårlig «hukommelse» gjøre at innholdet i teksten ikke henger sammen.

Dybde i tekst:
Prateroboter kan generere tekst og fortellinger, men de mangler ekte kreativitet og nyskapning, og derfor blir historiene ofte overfladiske sammenlignet med det en erfaren forfatter kan skape.

Faktagrunnlag:
Språkmodeller har ikke full kontroll over faktagrunnlaget. Den kan generere tekst som virker korrekt, selv om den ikke alltid stemmer med virkeligheten. Det er viktig å kritisk vurdere informasjonen praterobotene gir.

Sitering og referanser:
Modellen produserer svar basert på mønstre i dataene den er trent på, men den kan feiltolke informasjon, blande sammen kilder eller lage plausible, men feilaktige svar. Det er viktig å være klar over at informasjonen den gir, ikke alltid er basert på faktiske kilder. 

Kjønnsnøytralitet:
Språkmodeller kan forsterke kjønnsstereotypier. Det er viktig å være bevisst på dette når man bruker slike verktøy. Den kan forsterke holdninger om kjønn som allerede eksisterer i samfunnet. Prateroboten kan lage skiller som etableres gjennom antall ganger de er funnet i kildematerialet – men som ikke dermed anses som gyldige i samfunnet.

Krenkelser:
OpenAI, Google og andre leverandører av prateroboter har strenge retningslinjer for å unngå krenkelser. Det er likevel alltid mulig at slike situasjoner kan oppstå.