AI hallucinationer: Kontrollera fakta i AI-text

AI hallucinationer kan göra att en språkmodell presenterar påhittade uppgifter med samma självsäkra ton som verifierad information. Med en tydlig kontrollrutin kan du hitta riskerna, kontrollera källor och minska risken att faktafel följer med till en publicerad text.

Så kontrollerar du AI-text steg för steg

Börja med att skilja mellan språkmodellens förslag och sådant du faktiskt vet. AI-text är ett utkast, inte en källa. Ju mer en uppgift påverkar beslut, säkerhet, pengar eller människors rykte, desto noggrannare behöver den kontrolleras.

Steg 1: Markera påståenden som går att kontrollera

Läs igenom texten och stryk under konkreta påståenden: namn, datum, siffror, citat, laghänvisningar, produktuppgifter, orsakssamband och beskrivningar av vad en organisation har gjort. Sådana uppgifter kan i regel jämföras med en oberoende källa.

Skilj dem från allmänna resonemang och stilistiska formuleringar. En mening som ”lösningen kan vara användbar” är en bedömning; ”lösningen lanserades 2022” är ett kontrollerbart faktapåstående. Var särskilt uppmärksam på precisa detaljer som modellen inte fått i underlaget. De kan låta trovärdiga utan att vara riktiga.

Steg 2: Bedöm vilka uppgifter som innebär störst risk

Alla faktafel är inte lika allvarliga. Prioritera uppgifter som kan leda till skada, juridiska problem, ekonomiska beslut eller missvisande information om en person. Kontrollera även sådant som står i rubrik, ingress, faktaruta eller bildtext: läsare kan uppfatta de delarna som extra auktoritativa.

Fråga dig vad som händer om påståendet är fel. Om svaret är ”någon kan fatta ett viktigt beslut på fel grund” ska du inte nöja dig med en snabb sökning. Ta hjälp av den ansvariga sakkunniga eller kontrollera uppgiften mot en primärkälla.

Steg 3: Be modellen visa vad den bygger svaret på

Du kan be verktyget ange vilka påståenden som behöver verifieras, föreslå sökord eller skilja mellan fakta och tolkning. Be gärna om källor, men behandla dem som ledtrådar. En språkmodell kan hitta på en titel, tillskriva ett uttalande till fel person eller ange en verklig webbadress som inte stöder påståendet.

Det här är ett sätt att hitta vad du ska granska, inte ett bevis på att texten är sann. Om ChatGPT hittar på fakta är det ofta just den självsäkra formuleringen som gör felet svårt att upptäcka. Låt därför inte modellen godkänna sitt eget svar genom att bara fråga om det stämmer.

Steg 4: Öppna källan och kontrollera originalet

Gå till den länkade källan själv. Kontrollera att sidan finns, att den faktiskt innehåller uppgiften och att den gäller rätt person, plats och tidsperiod. Om texten hänvisar till en rapport, ett beslut eller ett citat, leta efter originaldokumentet i stället för att lita enbart på en sammanfattning.

En källhänvisning är användbar först när läsaren kan följa den och se stöd för påståendet. Om du använder Wikipedia som orientering, följ artikelns referenser vidare och kontrollera relevanta uppgifter i de ursprungliga källorna på Wikipedia. En hänvisning till en sekundär sammanställning är inte automatiskt fel, men primärkällan ger ofta bättre möjlighet att granska sammanhanget.

Steg 5: Jämför med en oberoende och relevant källa

Sök efter påståendet med egna ord och jämför med en källa som har direkt kunskap om frågan. En myndighet kan vara lämplig för myndighetsbeslut, en vetenskaplig artikel för forskningsresultat och en officiell organisationssida för organisationens egna uppgifter. Bedöm också när informationen publicerades och om den fortfarande gäller.

Två webbplatser är inte nödvändigtvis två oberoende bekräftelser. De kan båda återge samma pressmeddelande eller kopiera samma fel. Leta efter en annan ursprungskälla, en dokumenterad metod eller ett separat expertunderlag. När källor säger emot varandra ska du redovisa osäkerheten i stället för att välja den version som passar texten bäst.

Steg 6: Kontrollera siffror, datum och sammanhang

Siffror behöver både källa och sammanhang. Kontrollera vad som mäts, vilken period siffran avser, vilken grupp som ingår och om enheten har återgetts rätt. Ett procenttal utan jämförelsegrund kan ge en missvisande bild även om själva siffran är korrekt.

För citat, kontrollera ordalydelse, talare och sammanhang. För historiska uppgifter, skilj mellan händelsens datum och när en källa publicerades. Ändra inte ett fastställt årtal för att texten ska kännas aktuell. Om du inte kan bekräfta en uppgift, stryk den, formulera den tydligt som osäker eller förklara vad som saknas.

Steg 7: Gör en sista kontroll av hela texten

Läs den färdiga texten en gång till och jämför varje konkret påstående med dina anteckningar och öppnade källor. Kontrollera att ingen omskrivning har ändrat betydelsen, att länkarna går till rätt material och att slutsatserna inte går längre än beläggen. Spara gärna en enkel notering om källa och kontrolltidpunkt för uppgifter som kan ändras.

Läs också efter motsägelser mellan olika delar. En modell kan ge rätt svar i ett stycke och felaktigt upprepa samma uppgift i ett annat. För innehåll med hög risk bör en andra person granska både faktauppgifterna och hur osäkerhet presenteras.

Hur minskar du risken för faktafel i AI-text?

Ge modellen ett avgränsat uppdrag och bifoga tillförlitligt underlag när du har det. Be den att inte fylla i luckor med antaganden och att markera sådant som inte kan utläsas ur materialet. Det kan göra utkastet mer användbart, men ersätter inte källkritik för AI.

Skapa sedan en enkel rutin: markera påståenden, rangordna risk, öppna källor, jämför oberoende belägg och dokumentera osäkerhet. Det är den mänskliga granskningen som avgör vad som får stå kvar. AI hallucinationer går inte alltid att förutse genom hur välskrivet ett svar verkar; kontrollera därför innehållet, inte bara tonen.

Vanliga frågor om AI-svar

Kan jag lita på källorna som ChatGPT anger?

Inte utan att kontrollera dem. Öppna varje källa och se efter att den finns och stöder just det påstående du använder. Om den inte gör det, ta bort hänvisningen och sök efter bättre belägg.

Vad gör jag om jag inte hittar en bekräftelse?

Låt bli att presentera uppgiften som ett faktum. Du kan ta bort den, beskriva den som obekräftad eller kontakta en kunnig person. Hur du går vidare beror på hur viktig uppgiften är för läsarens förståelse.

Måste jag kontrollera varje mening?

Kontrollera varje konkret och betydelsefull sakuppgift, men lägg mest tid på påståenden med hög risk. Allmänna formuleringar behöver inte samma källkontroll som datum, citat, statistik eller råd som kan påverka viktiga beslut.