Användningen av AI-verktyg i undervisningen förutsätter noggrann planering, öppen kommunikation och kontinuerlig utveckling av läraren. På så sätt är det möjligt att se till att tekniken tjänar undervisningens syften på ett tryggt och pedagogiskt sätt. Undervisnings- och bedömningsplanerna bör omarbetas så att valet och användningen av AI-verktyg görs på ett ändamålsenligt sätt. Den nya tekniken bör främja målen för undervisningen och inte vara en extra belastning. När AI-baserade verktyg används rätt har de med sin snabba utveckling potential att effektivisera skolans vardagsrutiner, vara en källa till undervisningsmaterial och främja lärandet.
Det är på utbildningsanordnarens ansvar att bedöma hur användningen av AI-verktyg utformas i praktiken, så att informationssäkerheten, dataskyddet och upphovsrätten beaktas och elevernas och personalens rätt till sina egna data och sin integritet respekteras. Samtidigt ska man se till att eleverna inte blir föremål för till exempel politisk eller ideologisk påverkan, kommersiella intressen eller marknadsföring och att de inte får ta del av skadligt eller stötande innehåll.
Utbildningsanordnaren ska därutöver utvärdera huruvida AI-verktygen uppfyller EU:s kriterier för AI-system och följer de tillhörande förpliktelserna och villkoren.
Särskilt viktigt är det att beakta de etiska utmaningarna vid användning av AI-verktyg, stötta både lärare och elever och försäkra sig om verktygens tillgänglighet. Användningen av AI-verktyg bör stödja lärarens arbete, effektivisera det administrativa arbetet och främja alla elevers lärande i enlighet med målen i läroplanen.
Den nya tekniken bör främja målen för undervisningen och inte vara en extra belastning.
EU-kommissionen [i] har gett ut en lista, som sammanställts av en expertgrupp, över etiska riktlinjer, som med tanke på användningen av AI är centrala för utbildningsanordnare och lärare. Riktlinjerna fokuserar på mänskligt agentskap, transparens, mångfald, samhällets välbefinnande, integritet, teknisk robusthet och ansvarsskyldighet.
- Mänskligt agentskap: I utvecklingen och användningen av AI är det viktigt att beakta människans roll och påverkan. Det är viktigt att se till att människor förblir i centrum för beslutsfattandet och att deras rättigheter och behov beaktas.
- Transparens: De operativa principerna och beslutsprocesserna för AI ska vara tydliga och lätta att förstå. Användarna och andra berörda grupper ska kunna förstå hur och varför AI fattar vissa beslut.
- Mångfald, icke-diskriminering och rättvisa: I utvecklingen av AI är det viktigt att främja mångfald och förebygga diskriminering. AI-system ska vara rättvisa, och de får inte förstärka befintliga fördomar eller diskriminerande praxis.
- Samhällets och miljöns välbefinnande: Användningen av AI ska främja samhälleligt och ekologiskt välbefinnande, och AI-lösningar ska stödja hållbar utveckling och förbättra människors livskvalitet.
- Integritet och datahantering: Integritetsskydd utgör en central fråga vid användning av AI. Det är viktigt att säkerställa att personuppgifter hanteras säkert och att användarna har tillgång till sina egna data.
- Teknisk robusthet: AI-system ska fungera tillförlitligt och förutsägbart. Detta förutsätter noggrann planering och testning, så att risken för fel och misstag kan minimeras.
- Ansvarsskyldighet: De som utvecklar och använder AI-system har ett ansvar för effekterna av dem. Det är viktigt att avgöra vem som bär ansvaret för de beslut som fattas av AI och konsekvenserna besluten kan ha.
Etiska krav på utbildningsanordnare
När AI-baserade system, verktyg och program införskaffas och används är det viktigt att de följer den lokala lagstiftningen och är i linje med läroplanerna och målen för lärandet. Lärarnas representanter får gärna erbjudas möjlighet att vara involverade i upphandlingen av systemen och beslutsprocessen kring den.
AI-system som införskaffas för undervisningsändamål bör vara etiska, tillförlitliga, säkra och människocentrerade. Med människocentrerade system avses bland annat att AI-systemen inte bör ges egen beslutanderätt utan mänsklig tillsyn till exempel vid elevantagning eller bedömning.
AI-system som införskaffas för undervisningsändamål bör vara etiska, tillförlitliga, säkra och människocentrerade.
Lagar och förordningar
Enligt EU:s AI-förordning [ii] bedöms användningen av AI i utbildningen ha hög risk, eftersom systemet kan utsätta användarens grundläggande rättigheter för risker som berör bland annat integritet, icke-diskriminering och yttrandefrihet. EU-förordningarna skyddar speciellt minderåriga barns digitala rättigheter.
Enligt artikel fyra [iii] i AI-förordningen ska leverantörer och tillhandahållare av AI-system vidta åtgärder “för att i största möjliga mån säkerställa att deras personal och andra personer som för deras räkning arbetar med drift och användning av AI-system har tillräcklig AI-kunnighet, med beaktande av deras tekniska kunskaper, erfarenhet och utbildning samt det sammanhang i vilket AI-systemen ska användas, och med hänsyn till de personer eller grupper av personer på vilka AI-systemen ska användas.”
AI-systemen ska följa EU:s dataskyddsförordning. Tillgången till data ska vara förbehållen endast de personer som behöver komma åt dem, och användarna bör veta vad som händer med deras data och hur de används. Lärare och skolledare bör vara medvetna om hur de kan rapportera om problem som gäller integritets- eller dataskyddet.
Med tanke på eventuella personuppgiftsincidenter bör det finnas tillräckliga säkerhetsåtgärder som vid behov kan vidtas och övervakningsmekanismer för behandling av information (datainsamling, lagring, uppgiftsminimering). Personalen bör erbjudas ändamålsenlig utbildning så att de kan följa säkerhetsanvisningarna.
Potentiella risker med användningen av AI-verktyg, såsom farorna med ökat fokus på kommersiella intressen eller en ökad digital klyfta, bör övervakas och granskas kritiskt. På så sätt är det möjligt att säkerställa att AI-verktyg inte leder till ökad orättvisa eller diskriminering.
Tillgänglighet
AI-systemen bör vara tillgängliga för alla elever oavsett kön, färdighetsnivå eller andra personliga egenskaper. Särskild uppmärksamhet bör ägnas åt elever med särskilda behov.
Vid val av AI-verktyg är det viktigt att ta hänsyn till att de inte ska öka den digitala klyftan som redan existerar. Alla elever ska ha möjlighet att dra nytta av de möjligheter som AI erbjuder. Det är därför viktigt att se till att både lärare och elever har tillgång till samma AI-verktyg. Detta gör det också lättare att samarbeta, sprida information, ge vägledning och ordna lärarfortbildning.
AI-systemen bör vara tillgängliga för alla elever oavsett kön, färdighetsnivå eller andra personliga egenskaper.
Anvisningar
Både lärare och elever bör erbjudas tydliga anvisningar om hur de kan använda AI-verktyg.
Under våren 2025 ger Utbildningsstyrelsen och Undervisnings- och kulturministeriet [iv] ut rekommendationer och förordningar för användningen av AI i småbarnspedagogik, grundläggande utbildning, fritt bildningsarbete och andra stadiets utbildning. Syftet med stödmaterialet “AI i utbildning – lagstiftning och rekommendationer” är att stötta anordnare av småbarnspedagogik och utbildning i användningen av AI i undervisning och studier. Stödmaterialet kommer att ges ut på svenska, finska och engelska.
Etiska krav på lärare
AI innebär nya möjligheter för lärare, men samtidigt skapar den nya etiska utmaningar. Lärarna bör ha en förståelse av hur AI-tekniken fungerar och vara medvetna om möjligheterna, begränsningarna och riskerna med AI-verktyg. Därutöver bör lärarna se till att AI används etiskt och på ett sådant sätt att den stöder lärandet.
Lärarnas representanter bör ha möjlighet att vara involverade när det fattas beslut om anskaffning och användning av AI-verktyg. Lärarna bör dessutom ha möjlighet att ge respons på verktygen och hur väl de fungerar. I undervisningen ska personalen använda endast sådana verktyg som godkänts av utbildningsanordnaren i enlighet med givna anvisningar.
Kännedom om och en ansvarsfull användning av AI-verktyg förutsätter fortbildning
För att AI-verktyg ska kunna tas i bruk är det viktigt att lärare får fortbildning och kan i viss mån sätta sig in i hur till exempel stora språkmodeller har tränats, hur de fungerar och varför användningen av verktygen alltid präglas av vissa osäkerhetsfaktorer, vilket gör att det som verktygen producerat alltid måste granskas.
Utbildningsanordnarna bör se till att lärarna har goda grundläggande kunskaper om verktygen och programvaran som används och att de ges tydliga anvisningar om hur verktygen fungerar, vad de kan användas till och vilka begränsningar de har. Utbildningsanordnarens dataskyddsombud bör ge lärare information om vilka uppgifter systemen samlar in om eleverna, hur de insamlade uppgifterna behandlas, vad de används till och var de lagras. I slutändan är det lärarens ansvar att se till att verktygen används på ett ändamålsenligt sätt och så att de stöder undervisningen och lärandet.
Lärarna bör själva vara medvetna om vilka verktyg som baserar sig på AI-applikationer, hur de används och vilka potentiella risker som är förknippade med användningen av verktygen. Lärarna har också i uppgift att förklara för eleverna hur AI-verktygen på skolan används och vägleda dem att använda verktygen på ett säkert sätt.
Pedagogik
AI-verktyg ska användas pedagogiskt utgående från barnens ålder och i situationer där de tillför mervärde i lärandet. Lärarna bör vara medvetna om vilka verktyg som lämpar sig för olika åldersgrupper och hur de kan integreras i undervisningen så att de stöder lärandet.
Undervisningen ska planeras så att eleverna har lika möjlighet att använda AI-verktyg, och eventuella brister i tillgängligheten ska rapporteras till utbildningsanordnaren. På så sätt är det möjligt att se till att alla elever får tillgång till AI-verktyg oavsett bakgrund. AI har visat sig vara ett ytterst användbart verktyg i specialundervisningen, i och med att den erbjuder flera möjligheter till differentiering, personlig anpassning av undervisningsmaterial och användning av AI som mentor i lärandet.
I elevbedömningen ska man aldrig enbart och utan mänsklig kontroll förlita sig på AI-verktyg. Läraren bör se till att AI inte ersätter lärarens roll utan att AI fungerar som ett hjälpmedel som stöder undervisningen.
Det är viktigt att läraren informerar eleverna om hur och varför AI-verktygen används. Öppenheten hjälper eleverna att förstå vilken roll AI har i undervisningen, vilket i sin tur motarbetar farhågor, rädslor och oärlig användning av AI.
AI har visat sig vara ett mycket användbart verktyg i specialundervisningen.
Övervakning
AI-verktyg och -system utvecklas väldigt snabbt. Deras funktionalitet är något som bör utvärderas kontinuerligt, och personalen bör ha möjlighet att ge respons utifrån sina erfarenheter till utbildningsanordnaren. Med hjälp av responsen är det möjligt att se till att AI-verktygen utvecklas och förbättras kontinuerligt.
Lärare som aktivt deltar i användningen och utvecklingen av AI-verktyg kan skapa nya möjligheter till lärande och förbättra inlärningsresultaten. Det förutsätter i sin tur kontinuerlig dialog, fortbildning och övervakning, så att man kan säkerställa att AI främjar målen för utbildningen och inte utgör ett hot mot dem.
Lärare bör förses med tillräckliga grundläggande kunskaper så att de kan identifiera och rapportera eventuella personuppgiftsincidenter. Lärare bör också vara medvetna om att AI-verktyg kan missbrukas, till exempel för akademiskt fusk, och de bör kunna identifiera och minimera potentiella risker för missbruk.
Observera särskilt
AI håller på att förändra vårt utbildningssystem genom att erbjuda mer personfokuserat lärande och individualiserad mentorhjälp. Samtidigt för AI med sig stora utmaningar.
Något som speciellt ger upphov till bekymmer är datamissbruk. Det är viktigt att se till att elevernas och lärarnas personuppgifter hanteras på ett ansvarsfullt sätt och inte används som inmatningsdata eller promptar i GenAI-verktyg.
En annan betydande risk har att göra med informationens tillförlitlighet. Informationen som genereras av AI är inte alltid helt tillförlitlig, och eleverna måste lära sig att kritiskt granska det som AI producerat, till exempel genom att verifiera källornas tillförlitlighet.
Dessutom finns det en risk för att ansvaret för lärandet läggs på AI. Om eleverna förlitar sig för mycket på AI-baserade lösningar utvecklar de inte längre sin egen problemlösningsförmåga eller fördjupar sig i olika ämnen på egen hand. Det kan i sin tur leda till att lärandet i själva verket är bara ytligt.
Kommersialiseringen av utbildning är också en oroande trend. De som utvecklar AI-verktyg är för intresserade av ekonomiska fördelar, vilket kan leda till att innehållet i utbildningen är mer anpassat efter kommersiella än pedagogiska intressen.
Hanteringen av etiska risker förutsätter att lärare är vaksamma. Lärare, skolor och utbildningsanordnare bör tillsammans fastställa tydliga spelregler för användningen av AI i utbildningen. Det förutsätter en kontinuerlig diskussion, fortbildning och övervakning, så att användningen av AI tjänar målen för utbildningen. Ett mycket användbart verktyg för det är listan som utarbetats av en expertgrupp vid Europeiska kommissionen och som tar upp centrala etiska och övriga frågor, som är viktiga med tanke på användningen av AI. Bilagan till AI-guiden [v] som Faktabaari gav ut 2024 ger en sammanfattning av de mest centrala frågorna.
Tarmo Toikkanen från Sitra har på ett briljant sätt sammanfattat varför det som produceras av AI behöver granskas och övervakas av en människa [vi].
Artificiell intelligens som producerar text …
- förstår inte vad ord betyder
- har inga åsikter, värderar inte
- tänker inte, ger inga förutsägelser
- känner inte, bryr sig inte
- tar inget ansvar
- hallucinerar.
Om eleverna förlitar sig för mycket på AI-baserade lösningar utvecklar de inte längre sin egen problemlösningsförmåga eller fördjupar sig i olika ämnen på egen hand.
- Läs guiden kapitel för kapitel på vår webbplats – tack vare Svenska folkskolans vänner rf också på svenska
Källor
[i] European Commission, Directorate-General for Education, Youth, Sport and Culture, Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for educators, Publications Office of the European Union, 2022, https://data.europa.eu/doi/10.2766/153756
[ii] AI-förordning https://digital-strategy.ec.europa.eu/sv/policies/regulatory-framework-ai
[iii] EU:s förordning om artificiell intelligens i kommunerna (hämtad: 1.12.2024) https://www.kommunforbundet.fi/kommunledning-och-digitalisering/digital-utveckling-i-kommunerna/lagstiftning/eu-digitalisering-och-data/artificiell-intelligens
[iv] Utbildningsstyrelsen (hämtad: 29.11.2024) https://www.oph.fi/fi/tekoalysuositukset
[v] AI-guiden från Faktabaari (2024) https://www.faktabaari.fi/dil/ai/
[vi] Tarmo Toikkanen (hämtad: 31.12.2024) Tekoäly opetuksessa https://drive.google.com/file/d/1dFhZjEWXRJn3OYP4iC-zTQJuPd5Qz-u7/view
- Läs guiden kapitel för kapitel på vår webbplats – tack vare Svenska folkskolans vänner rf också på svenska
Jaa eteenpäin
