När både filmen och tipsaren är fejkade – lärdomen från SVT
En intervju kan inte bekräfta ett klipp om båda är delar av samma AI-bluff. SVT:s experiment väcker frågor om oberoende kontroller, rättelser och vad ett enskilt stresstest egentligen kan visa.
En film och en person som intygar att den är äkta kan se ut som två bevis. Men om båda har skapats av samma avsändare är de inte oberoende av varandra. Det är en central lärdom av AI-experimentet mot SVT:s lokalredaktioner.
Aktuellt.nu har tidigare rapporterat om själva bluffen. I den här fördjupningen undersöker vi skillnaden mellan en trovärdig berättelse och ett kontrollerat underlag – och varför även ett stresstest behöver granskas.
Bakgrunden i korthet
Enligt SVT Verifierars genomgång den 6 november publicerade lokalredaktionerna i Skåne, Västmanland och Gävleborg manipulerade djurfilmer. Även intervjun med tipsaren var en deepfake. Andra kontaktade redaktioner fattade misstankar och avstod. Bakom försöket stod en dokumentärproduktion för SVT:s programdivision.
SVT uppger att klippen låg ute en kort stund och upptäcktes genom redaktionernas verifieringsarbete. Det är bolagets egen redovisning, inte en oberoende extern utredning av samtliga kontroller som gjordes före publiceringen.
Forskaren och programledaren Gustav Almqvist beskriver upplägget som en prövning av samhällets beredskap inför AI-relaterade hot. Ansvarige utgivaren Axel Björklund försvarar metoden som ett sätt att testa rutiner, trots risken för skadat förtroende.
Det finns samtidigt en skillnad mellan att visa att en svaghet existerar och att bedöma om metoden att testa den är försvarlig. En verklig publicering når läsare som inte vet att de ingår i ett experiment. Att syftet är att granska beredskap gör inte den ursprungliga uppgiften sann.
Varför blir en intervju inget säkert kvitto?
En intervju brukar kunna hjälpa en redaktion att bedöma vem som skickat material och under vilka omständigheter det skapats. Men om även den intervjuade personen eller framträdandet är manipulerat kan intervjun bli ännu en del av samma falska beviskedja.
Det avgörande är då inte hur många gånger berättelsen upprepas, utan om någon del kan kontrolleras oberoende av den som lämnade tipset. Plats, tid, originalfil och andra vittnen kan vara relevanta kontrollspår. Inget enskilt spår garanterar dock att en avancerad manipulation avslöjas.
För läsare är det också vanskligt att enbart leta efter märkliga tassar, konstiga skuggor eller andra synliga AI-fel. Frånvaro av uppenbara fel är inte bevis för äkthet. En film kan dessutom vara verklig men försedd med fel plats eller datum.
Vad visar fallet egentligen?
Experimentet visar att falskt material nådde publicering hos tre redaktioner och att andra avstod. Det säger inte hur stor andel av alla nyhetstips som är falska eller hur ofta liknande försök lyckas.
Den användbara frågan efteråt är därför vilka rutiner som fungerade, vilka som inte gjorde det och hur rättelserna nådde dem som redan sett filmerna. Förtroende byggs inte av att lova att inga misstag någonsin kan ske, utan av kontroller som tål prövning och öppenhet när de brister.