Introduktion
🎯 Lärandemål
- Veta när AI är ett perfekt verktyg och när du behöver ditt eget omdöme
- Förstå varför AI ibland “hittar på” (hallucinerar) och hur du minskar risken
- Kunna kombinera AI:ns styrkor med din egen expertis för bästa resultat
Att förstå vad språkmodeller är dåliga på handlar inte om att vara skeptisk – det handlar om att vara smart.
Tänk på en hantverkare som känner sina verktygs begränsningar. Känner hon till att sågen fungerar dåligt i vissa material använder hon ett annat verktyg för det jobbet. Resultatet blir bättre, inte sämre – för att hon vet exakt när varje verktyg ger bäst resultat. Samma sak gäller språkmodeller: när du vet vad de är bra på och vad de kämpar med kan du använda dem mycket mer effektivt.
Den viktigaste begränsningen att känna till är hallucinationer – och vad som faktiskt orsakar dem.
Hallucinationer – varför språkmodeller ibland 'hittar på' saker
Här är något konstigt: Språkmodeller genererar alltid ett svar. Även när de inte vet. Även när informationen saknas. Även när de borde säga “jag vet inte”.
Varför händer detta?
Kom ihåg från Avsnitt 1 att språkmodeller arbetar med språk på ett statistiskt sätt – de beräknar sannolikheter för vilka ord som brukar följa efter varandra. När du ställer en fråga försöker de alltid konstruera ett svar som statistiskt sett verkar rimligt.
Ur språkmodellens perspektiv – rent matematiskt – är sannolikheten större att svara “rätt” om den ger ett svar (gissar baserat på mönster) än om den inte svarar något alls. Systemet är tränat på att alltid producera text, inte på att erkänna osäkerhet.
Ett konkret exempel
Du frågar: “Vad heter VD:n för Företag XYZ som grundades 2023?”
Språkmodellen har aldrig hört talas om detta företag (det finns inte i träningsdata). Men istället för att säga “jag vet inte” gissar den ett namn som statistiskt sett låter trovärdigt baserat på hur andra VD-namn brukar formuleras. Den kanske svarar “Anna Andersson” eller “Johan Svensson” – helt påhittade namn som “låter rätt”.
Detta kallas hallucination – språkmodellen presenterar påhittad information som om den vore sann, med fullständig självklarhet.
Utöver hallucinationer finns en annan central begränsning som handlar om tid – mer specifikt om när modellen slutade lära sig ny information.
Träningsdatum: Information efter träningsdatumet
Varje språkmodell har ett datum då träningen avslutades. Det kan vara i början av 2024, slutet av 2023 eller något annat datum beroende på modell. Händelser, nyheter eller information efter det datumet känner språkmodellen inte till – om den inte har tillgång till webbsök eller uppdaterade dokument.
Vad innebär det i praktiken?
Om du frågar “Vem vann Eurovision 2025?” och modellen tränades i början av 2024, kan den inte veta svaret. Den kanske gissar baserat på tidigare vinnare eller säger att tävlingen inte ägt rum än – även om den faktiskt har det när du frågar.
Kontrollera alltid vilket träningsdatum en modell har om du arbetar med tidskänslig information, och ge modellen tillgång till webbsök eller uppdaterade dokument när det behövs.
Precis som träningsdata kan vara föråldrad kan den också vara snedvriden – och det påverkar modellens svar på subtila sätt.
Bias : Att lära sig fördomar
Eftersom AI:n bara är en spegel av all den textdata den tränats med, bär den också med sig våra mänskliga brister. Om den har läst miljoner texter där “läkare” oftast beskrivs som män, kommer den statistiskt sett att gissa att en läkare är en man.
Den är inte elak och den har inga egna åsikter – den härmar bara mönstret den sett flest gånger.
Din roll som kritisk granskare
Som användare är det din roll att vara den kritiska granskaren. Var uppmärksam på om AI:ns svar verkar spegla en snäv bild av verkligheten – och korrigera eller komplettera när det behövs.
Det finns uppgifter där begränsningarna spelar extra stor roll – nämligen när konsekvenserna av ett fel är stora.
Känsliga bedömningar
Språkmodeller kan ge bra underlag, lyfta fram olika perspektiv och strukturera information snabbt. Men när konsekvenserna är stora – juridiska bedömningar, personalärenden, medicinsk rådgivning, etiska dilemman – fattar alltid en människa det slutliga beslutet.
Varför?
Eftersom språkmodeller saknar verklig förståelse för kontext, konsekvenser och mänskliga nyanser. De kan ge dig hjälp att se saken från olika håll, men de kan inte:
- Väga in allt det outtalade som en erfaren människa gör
- Bära något juridiskt eller etiskt ansvar
- Förstå de unika omständigheterna i ett enskilt fall med verklig djupförståelse
Använd AI som ett underlag för att se saken från flera håll – men lämna aldrig bort det slutliga ansvaret.
Nu när vi gått igenom begränsningarna – låt oss vara lika tydliga med vad språkmodeller verkligen lyser i.
Vad språkmodeller faktiskt är riktigt bra på
1. Hitta mönster och trender i text
Ge språkmodellen hundra kundfeedbackmail och be den identifiera återkommande klagomål eller önskemål. Den spottar ut trender på sekunder som skulle ta dig timmar att hitta manuellt.
"Analysera dessa 50 kundrecensioner och identifiera de tre vanligaste problemen våra kunder nämner."
2. Uppgifter med tydliga regler och struktur
Behöver du kategorisera 200 inkommande supportärenden? Formatera data på ett specifikt sätt? Skriva om samma information på fem olika sätt för olika målgrupper? Språkmodeller är blixtsnabba på uppgifter där reglerna är tydliga.
"Kategorisera dessa mail i Fakturafrågor, Teknisk support, Produktinfo eller Klagomål."
3. Första utkast och brainstorming
När du står inför ett tomt blad är språkmodeller oslagbara. De ger dig ett första utkast att arbeta med på sekunder – struktur, formuleringar, olika vinklar.
"Ge mig tre olika strukturer för en presentation om vårt nya hållbarhetsarbete."
4. Sammanfatta och extrahera nyckelinformation
Har du ett 20-sidigt dokument och behöver veta vad som är viktigt? Språkmodeller kan dra ut essensen på minuter.
"Sammanfatta detta protokoll i tre huvudpunkter och lista alla beslut som fattades."
5. Översätta och omformulera
Behöver du samma information på olika språk eller anpassad för olika läsare (experter vs nybörjare)? Språkmodeller gör det snabbt och konsekvent.
"Skriv om denna tekniska beskrivning så att en kund utan teknisk bakgrund förstår den."
Sammanfattning
Styrkor och begränsningar hänger ihop – förstår du båda kan du använda AI betydligt mer effektivt.
- Hallucinationer är inbyggda – Språkmodeller genererar alltid ett svar, även när de inte vet. Minska risken genom tydliga instruktioner om att säga “jag vet inte”, genom att ge modellen tillgång till rätt data och genom att alltid verifiera viktig information.
- Träningsdatum och bias är reella begränsningar – Modellen vet ingenting om händelser efter träningsdatumet, och dess svar speglar mönstren i träningsdata – inklusive eventuella snedvridningar.
- Känsliga beslut kräver mänskligt omdöme – AI ger underlag och perspektiv, men vid juridiska, medicinska eller etiska frågor fattar alltid en människa det slutliga beslutet.
- Styrkan ligger i snabbhet och mönster – Trendanalys i text, strukturerade uppgifter, första utkast, sammanfattningar och omformuleringar är områden där språkmodeller är exceptionella.
- Den smartaste strategin – Kombinera språkmodellens snabbhet och formuleringsförmåga med ditt eget omdöme och granskning.