BykiAllt fler AI-verktyg kan göra mer än att svara på frågor. De kan skicka mejl, uppdatera kundregistret, ändra i en webbplats eller köra samma uppgift hundra gånger medan du sover. Det kallas ofta för AI-agenter, och de kan spara mycket tid.
Men en agent som jobbar utan tillsyn kan också göra mycket fel utan att någon märker det. Frågan är därför inte bara vad den ska få göra, utan vad som hindrar den från att ställa till det.
En berättelse att ta med en nypa salt
Det berättas om ett AI-system som lämnades ensamt i två dagar, körde runt 700 experiment och hittade ett tjugotal verkliga förbättringar. Den kopplas till Andrej Karpathy, en av grundarna av OpenAI, och till en guide han ska ha skrivit. Vi har inte kunnat kontrollera vare sig guiden eller siffrorna, så se det som en berättelse.
Det intressanta är inte siffrorna utan de fyra egenskaper som sägs ha gjort det möjligt. Att det var just de fyra som avgjorde är en tolkning. De är ändå bra att tänka på, oavsett hur stor eller liten din agent är.
1. Agenten kan bedöma sitt eget resultat
En agent som inte kan skilja ett bra resultat från ett dåligt kan inte jobba själv. Den gör bara saker.
Därför behöver det finnas ett mått. Blev det bättre, behåll ändringen. Blev det sämre, släng den. Måttet kan vara enkelt: gick testerna igenom, laddar sidan snabbare, stämmer summan med bokföringen. Men det måste finnas, och det måste gå att kontrollera utan att en människa sitter bredvid.
Kan du inte formulera hur bra ser ut, är uppgiften inte redo för en agent. Den behöver fortfarande dig.
2. Allt går att ångra
En dålig idé ska aldrig kunna förstöra något. Ge agenten en ångraknapp.
I praktiken betyder det att varje ändring sparas så att den kan backas: versionshantering för kod och texter, en kopia innan något raderas, ett utkast i stället för ett skickat mejl. Det som inte går att ta tillbaka, som en betalning eller ett mejl till alla kunder, bör en agent inte få göra utan att en människa godkänt det först.
3. Små steg, om och om igen
Ett jättelikt uppdrag i en enda prompt är svårt att bedöma och svårt att ångra. Går något fel vet du inte var.
Låt i stället agenten ta en liten ändring i taget, pröva den och gå vidare. Små steg gör att måttet i punkt ett faktiskt säger något, och att ångraknappen i punkt två bara behöver backa en liten bit.
4. Tydliga gränser
Agenten ska bara få röra en avgränsad del av systemet. Ska den förbättra texterna på produktsidorna behöver den inte kunna ändra priserna, och absolut inte komma åt kundregistret.
Gränser handlar både om behörighet och om omfattning. Ge den bara de rättigheter jobbet kräver, och skriv ner vad den inte får röra. Det är samma princip som när du ger en ny medarbetare nycklar: man börjar inte med huvudnyckeln.
Mer frihet kräver bättre ramar
Det är lätt att tro att en smartare agent behöver färre begränsningar. Det är snarare tvärtom. Ju mer en agent får göra på egen hand, desto viktigare blir det att den kan mäta sig själv, backa och hålla sig innanför sina gränser.
Det gäller inte bara avancerade experiment. Samma fyra frågor fungerar på ett automatiskt flöde som sorterar inkommande mejl eller en AI som uppdaterar webbplatsen.
Checklistan
Innan du låter en agent jobba utan tillsyn, fråga:
- Mått: kan den själv avgöra om resultatet blev bättre eller sämre?
- Ångra: kan varje ändring backas, och kräver det oåterkalleliga ett mänskligt ja?
- Små steg: gör den en sak i taget och prövar den innan nästa?
- Gränser: har den bara de behörigheter jobbet kräver?
Kan du inte svara ja på alla fyra, låt den jobba med dig bredvid ett tag till.
Vill du prata om hur ni kan använda AI-agenter tryggt i er verksamhet kan du boka ett kostnadsfritt samtal på 30 minuter med oss.