Råd om AI, Chat GPT och liknande verktyg

Här får du som är lärare eller rektor stöd i att lättare säkerställa att Chat GPT och andra chattbottar används på ett ansvarsfullt och etiskt sätt. Det saknas forskning och beprövad erfarenhet om generativ AI i skolan. Därför är informationen av övergripande karaktär. Den visar på risker men också på hur chattbottar kan användas i undervisning eller annat arbete i skolan.

Konkreta tips

Det viktigaste att veta om chattbottar

  • Chattbottar ökar risken för fusk. AI-baserade chattbottar kan skriva uppsatser av god kvalitet om mycket av det som undervisas i skolan, och det finns inget tillförlitligt verktyg för att avgöra om en text är AI-skapad. Skolverket avråder från inlämningsuppgifter som betygsunderlag om man inte kan säkerställa tillförlitligheten. Läs mer om Skolverkets råd och rekommendationer kring om hur man kan motverka fusk.
  • AI-genererade texter kan innehålla felaktigheter. Texter från chattbottar kan vara tydliga och övertygande samtidigt som de innehåller faktamässiga fel. Det är alltid viktigt att ha ett kritiskt förhållningssätt till information, och det gäller även från chattbottar. Elever som fortfarande har begränsade kunskaper i ett område löper särskild risk för att missuppfatta informationen.
  • AI-genererade texter och media kan innehålla fördomar och vinklade eller olämpliga budskap. De stora AI-verktygen har filter för olämpliga budskap, men det förekommer ändå att budskap avspeglar fördomar och skeva värderingar som finns i den data som AI:n tränas på, och ibland även budskap som är direkt skadliga.
  • Tänk på vilken data du lämnar ut. Som med alla webbtjänster bör du tänka igenom vilken data du lämnar vidare. De flesta AI-tjänster skickar data till USA. Om du inte är säker på att datan hanteras på ett säkert sätt bör du inte lämna ut personuppgifter eller andra känsliga uppgifter. Det är därutöver rimligt att be om elevers tillåtelse innan du lämnar ut texter som de skrivit.
  • Undvik oreflekterad avlastning. Lärande kräver ansträngning, och när arbete läggs över på ett verktyg innebär det färre möjligheter att befästa kunskaper. Om du låter elever använda chattbottar, fundera inte bara över vilket lärande som gynnas utan också vilket som kan missgynnas. Språkutveckling, som är en fråga för hela skolan, kan vara särskilt utsatt.
  • Chattbottar utgår inte från svenska skolans styrdokument. Om du använder chattbottar för att skapa eller bedöma material som hänger samman med kursplaner eller andra styrdokument behöver du vara vaksam på att resultatet stämmer med ditt pedagogiska omdöme och uppdrag. Du kan till exempel inte utgå från att en chattbot kan göra en lektionsplanering eller bedöma en uppsats enligt en viss kursplan.

Skolverkets råd och rekommendationer kring om hur man kan motverka fusk

Skolverket rekomenderar

Gemensamma förhållningssätt till AI på skolan

Skolverket uppmanar skolor att ha uttalade förhållningssätt gällande användning av AI. Det ökar tydlighet för både lärare, elever och vårdnadshavare och bidrar till en genomtänkt användning av AI-verktyg. Nedskrivna förhållningssätt gör samtidigt att det blir lättare att diskutera och förbättra dem.

Hur förhållningssätten på varje skola utformas beror på en rad faktorer, så som ålder på elever, hur kunskapsläget om AI ser ut hos pedagogisk personal, och vilket stöd som lärare och elever kan få. Några uppslag för hur förhållningssätt kan se ut syns nedan.

Gällande inlämningsuppgifter som betygsunderlag

  • På vår skola använder vi inte inlämningsuppgifter som betygsunderlag.
  • Lärare som vill använda inlämningsuppgifter som betygsunderlag behöver redogöra för hur man hanterar fuskrisken för rektorn.
  • Varje ämneslag avgör om inlämningsuppgifter ska kunna användas som betygsunderlag, och hur tillförlitligheten i så fall ska säkras.

Gällande AI-verktyg i undervisningen

  • På vår skola ska elever inte själva använda generativ AI som en del av undervisningen.
  • Om generativ AI används i undervisningen måste läraren hela tiden ha insyn i vad eleverna gör.
  • Lärare som vill använda AI i undervisningen måste först få utbildning av vår ikt-pedagog.

Gällande AI-verktyg i övrigt arbete

  • All användning av generativ AI i arbetet måste godkännas av rektorn.
  • Chattbottar får inte användas för att bedöma elevarbeten.
  • Texter som publiceras på skolans webbplats eller används i massutskick ska först språkgranskas av en AI enligt våra mallar.

Om skolan uppmanar eleverna att använda chattbottar eller andra webbtjänster har huvudmannen ansvar för att relevanta bestämmelser följs. Samma sak gäller för verktyg som lärare använder i tjänsten.


Konkreta tips

Hur påverkar chattbottar och generativ AI skolan?

Chattbottar och generativ AI kan påverka skola och undervisning på flera sätt. Det finns inte någon omfattande forskning om hur den här typen av teknik påverkar undervisning eller annat arbete i skolan. Därför behöver man vara varsam när man utforskar hur den kan användas. Det är också särskilt värdefullt att dela erfarenheter med andra, vilket gäller både sådant som fungerar väl och sådant som inte fungerar väl.

Använda chattbottar i administrativt arbete

Chattbottar och generativ AI kan, som många andra verktyg, användas för att underlätta administrativt arbete och annat arbete som sker utanför den direkta undervisningen.

Några tänkbara exempel på användningsområden är att omvandla snabba anteckningar till välskriven text, bearbeta texter, få uppslag för aktiviteter och övningar, och hitta relevant forskning för fortbildning.

Risker att särskilt se upp med är faktafel, datasäkerhet och att chattbottar inte utgår från skolans styrdokument.

Hur påverkas undervisningsmetoder av AI?

Det finns inte några storskaliga undersökningar om att använda modern AI som pedagogiska verktyg, och det bör därför göras med stor försiktighet. Ett förhållandevis försiktigt sätt är att läraren och elever tillsammans använder chattbottar eller generativ AI på en storskärm eller projektorduk, vilket ger läraren möjlighet att peka på eventuella felaktigheter eller skeva budskap samtidigt.

Risker att särskilt se upp med är faktafel, olämpliga budskap, datasäkerhet, oreflekterad avlastning samt att chattbottar inte utgår från skolans styrdokument.

Om man väljer att elever själva ska använda chattbottar eller generativ AI behöver man också säkerställa att det är förenligt med användarvillkor, som bland annat kan omfatta åldersgränser.

Vilka pedagogiska metoder som används är upp till rektorn och den undervisande läraren. Utgångspunkten måste vara lärandet, inte verktygen.

Om du vill bidra till att ta fram beprövad erfarenhet eller att låta elever själva använda chattrobotar i undervisningen kan du ta del av vår skrift om att ställa frågor och söka svar.

Att ställa frågor och söka svar

Om åldersgränser och tillgång till chattbottar

Många skolungdomar använder sannolikt redan chattbottar regelbundet. Snapchat har sedan våren 2023 en AI-baserat chattbot My AI i alla användares kompislistor. Enligt rapporten Svenskarna och internet 2023 använder hälften av svenskar födda på 2000-talet Snapchat varje vecka. Tre av fyra födda 2000–2009 använder Snapchat dagligen.

Användarvillkoren för Snapchat har en åldersgräns på 13 år. Åldersgränsen för ChatGPT är 13 år med vårdnadshavarens tillstånd, annars 18 år. För Bard är åldersgränsen 18 år. Dessa gränser kan komma att ändras.

Forskning och fördjupning

Hur påverkas undervisningens innehåll av AI-utvecklingen?

Innehållet i många ämnen påverkas av bland annat förändringar i samhället, ny forskning och teknikutveckling. Den utveckling som sker inom AI kommer sannolikt att påverka både samhället och arbetsmetoder inom många områden, vilket också kan ha effekter för undervisningens innehåll i skolan.

Nedan är några exempel på hur chattbottar och generativ AI kan påverka innehåll i undervisning.

  • Bearbetning av längre texter. Chattbottar ger nya sätt att arbeta med texter, genom att till exempel agera språklig redaktör, korrekturläsa eller ge inspiration och idéer.
  • Programmering. AI-verktyg är redan idag vanliga inom programmering, till exempel för att skriva enklare kod.
  • Skapande av bild, musik och annan media. AI-verktyg gör det möjligt för många fler att skapa media, men väcker samtidigt både juridiska och etiska frågor.
  • Källmedvetenhet och kritiskt tänkande. När AI används för att skapa felaktiga eller aktivt vilseledande texter och media ställs högre och delvis nya krav på att reflektera över budskap och källor, och vilket ansvar man själv har som människa och medborgare i hur information sprids.
  • Förhållande mellan teknik och samhälle. AI-teknik för till exempel med sig frågor om maktstrukturer, arbetsmarknad, samhällsekonomi och kultur. Samtidigt påverkas teknikutvecklingen av saker som lagstiftning, internationell politik och värderingar i samhället.

Om din undervisning eller ditt ansvarsområde omfattar någon av punkterna ovan, eller något annat där modern AI har stor påverkan, kan det vara värdefullt att sätta dig in i relevanta aspekter av AI för att kunna ta ställning till om och i så fall hur det ska synas i din undervisning.

Måste man undervisa om AI?

Artificiell intelligens nämns på mycket få ställen i skolans styrdokument, och om det inte nämns explicit finns inte formella krav på att ta upp AI i undervisningen. Det finns däremot många skrivningar som ger utrymme för att ta upp AI, både i enskilda kurs- och ämnesplaner och i övergripande formuleringar i läroplaner.

Som nämns i stödmaterialen få syn på digitaliseringen kan digital kompetens i skolans styrdokument beskrivas i fyra aspekter, nämligen att förstå digitaliseringens påverkan på samhället och individen, använda och förstå digitala verktyg och medier, ha ett kritiskt och ansvarsfullt förhållningssätt, samt lösa problem och omsätta idéer i handling med hjälp av digitala verktyg. AI berör alla dessa aspekter.

Forskning och fördjupning

Webbinarier om AI och skola

Skolverket håller öppna webbinarier och andra träffar om AI och skola. Du kan hitta nästa tillfälle genom att söka på ”AI” i Skolverkets kalender. Du kan också hitta inspelade föreläsningar nedan.

Inspelning från 5 oktober 2023: Länk till annan webbplats. Hur påverkas din undervisning av generativ AI? Vad är viktigt att tänka på om man vill använda generativ AI som lärare? Hur kan man tänka gemensamt på skolan? Några konkreta exempel på hur chattbottar kan användas.

Inspelning från 15 augusti 2023: Länk till annan webbplats. Introduktion till chattbottar. Styrkor, svagheter och risker. En blick mot framtiden.

Skolverkets kalender

Konkreta tips

Det här är Chat GPT och chattrobotar

Chat GPT är en av många AI-baserade chattbottar som kan ge naturliga, tydliga och förtroendeingivande svar inom många olika områden. Det går till exempel att be chattroboten berätta varför vissa grundämnen är radioaktiva eller skriva en uppsats om industrialiseringens betydelse för kvinnors möjligheter att förvärvsarbeta.

Texterna är inte kopierade från befintliga texter, utan skapas utifrån mönster som identifierats i analyser av enorma mängder text som AI:n tränats på. Det finns inga tillförlitliga verktyg för att avgöra om en text är skriven av en AI.

Några AI-relaterade begrepp

Artificiell intelligens (AI) är ett brett uttryck med olika definitioner. Det utgår ofta från att maskiner gör något som anses kräva mänsklig intelligens.

Maskininlärning är en avgränsad del av AI, där datorprogram tränas på data för att klara av vissa uppgifter.

Generativ AI omfattar AI som tränats att skapa exempelvis text, bilder, video eller ljud utifrån stora mängder data.

Stora språkmodeller (LLM) är statistiska representationer av språk som används av chattbottar och en del andra typer av program.
Exempel på stora språkmodeller är GPT-3.5, Llama, Palm 2, Claude 2, GPT-SW3.

AI-drivna chattbottar (i den här texten endast ”chattbottar”) är applikationer som använder stora språkmodeller, ibland i kombination med andra typer av programvara. De kan vara webbtjänster, appar i telefoner eller andra typer av program.
Exempel på chattbottar: ChatGPT, Bard, Bing och MyAI. Vissa chattbottar har samma namn som språkmodellen de baseras på.

Senast uppdaterad 15 januari 2024