Trygghet

Är det säkert att låta AI läsa företagets ekonomi?

Av Insights by Erahres · · 6 min läsning

Bokföring, löner, kundregister och avtal hör till det mest känsliga ett företag har. Att låta AI arbeta med den informationen väcker rimliga frågor. Svaret är att det kan vara säkert – men bara om du vet vad du ska kräva.

Kort svar: Det är säkert att låta AI arbeta med företagets ekonomi om fyra saker är på plats: tydligt dataskydd (GDPR, avtal och kännedom om var data behandlas), ingen träning av AI-modeller på din data, begränsad åtkomst (AI:n läser bara det den behöver) och mänskligt godkännande av allt som lämnar huset.

1. Dataskydd och avtal

Ekonomidata innehåller nästan alltid personuppgifter – löner, anställda, kontaktpersoner hos kunder. Den som behandlar uppgifterna åt dig är då personuppgiftsbiträde enligt GDPR, och ni behöver ett personuppgiftsbiträdesavtal.

Fråga också var datan behandlas. Behandling inom EU/EES är enklast. Om data förs över till ett land utanför EU/EES krävs ett giltigt stöd för överföringen enligt GDPR. En seriös leverantör kan redovisa detta svart på vitt, inklusive vilka underleverantörer och AI-tjänster som används.

2. Används datan för att träna AI-modeller?

Det här är den fråga många glömmer. Vissa AI-tjänster – särskilt gratisversioner för konsumenter – kan använda det du skriver för att förbättra sina modeller. Affärsversioner och API-tjänster från de stora AI-leverantörerna har i regel villkor som utesluter det.

Kräv ett tydligt besked: din data ska användas för att ge dig svar, inte för att träna någon annans modell. Och klistra aldrig in känslig bolagsdata i en gratis AI-chatt.

3. Åtkomst och behörigheter

  • Läsbehörighet som utgångspunkt. De flesta analyser kräver bara att AI:n kan läsa data – inte ändra eller betala.
  • Minsta möjliga åtkomst. Varje agent ska bara komma åt det den behöver för sin uppgift.
  • Krypterade kopplingar mot ekonomisystem och bank, och personliga inloggningar för de människor som arbetar med datan.
  • Loggning av vad som hämtats och av vem, så att det går att följa upp.
  • Möjlighet att stänga av – du ska kunna dra tillbaka åtkomsten när som helst.

4. Mänskligt godkännande

Den största risken med AI i ekonomin är inte att någon kommer åt datan, utan att AI:n agerar fel på egen hand. Därför bör gränsen vara tydlig: AI får läsa, stämma av, bevaka, flagga och föreslå. En människa godkänner allt som:

  • skickas till Skatteverket eller andra myndigheter
  • rör betalningar och banken
  • går ut till kunder eller leverantörer
  • blir ett råd eller en rekommendation till dig

Det är vad "human in the loop" betyder i praktiken – och det är en grundprincip i CFO as an Agent.

5. Bokföringslagen gäller fortfarande

AI ändrar inte kraven på räkenskapsinformationen. Den ska bevaras i den tid bokföringslagen föreskriver och på ett sätt som gör att den går att granska. Analyser och sammanställningar som AI tar fram är ett komplement till bokföringen – inte en ersättning för den.

Checklista att ta med till leverantören

  1. Har vi ett personuppgiftsbiträdesavtal?
  2. Var behandlas vår data, och vilka underleverantörer och AI-tjänster används?
  3. Används vår data för att träna AI-modeller? (Svaret ska vara nej.)
  4. Vilken åtkomst får AI:n – läsa, skriva, betala?
  5. Vad får AI:n göra utan att en människa godkänner?
  6. Hur loggas åtkomsten, och hur stänger vi av den?
  7. Vem är ansvarig människa, och hur når vi den personen?

Får du tydliga svar på alla sju har du goda förutsättningar att använda AI i ekonomin – tryggt.

Läs vidare