Automation bias er tendensen til å stole på anbefalninger gitt av automatiske systemer, og samtidig overse motstridende korrekt informasjon. Noe som kan føre til at vi ikke handler der vi burde ha gjort det (error of omission).
Vår gjerrige hjerne får skylden for å spare på kruttet der det er mulig, det er grunnleggende overlevelsesinstinkt. Enda mer så når vi slipper å bli stående alene igjen med skylda, og lettere kan slippe unna. Tryggheten av å være en del av større sosial gruppe, gjør at vi kan senke skuldrene.
Trygghet er jo vel og bra, hvem vil vel arbeide med kniven på strupen hver dag? Å kunne stole på sine kolleger må man jo, ofte en kollega av kjøtt og blod. Et scenario vi ser og vil se mer og mer av fremover i vår testhverdag, er at denne kollegaen er en maskin.
«Automation bias» er tendensen til å favorisere beslutninger tatt av en maskin, fremfor å bruke energi på å tenke selv, kombinert med at vi reduserer vår egen innsats når vi deler oppgave. I tillegg har vi overdreven stor tiltro til maskinen, og tror ofte at den er overlegen vår egen beslutningsevne.
Når jeg skriver denne teksten satser jeg på at stavesjekk luker vekk skrivefeilene, at robotgressklipperen holder stand i hagen, at flyets autopilot tar meg trygt frem, og jeg satser på at de automatiske testene tar unna regresjonstesten.
Jeg mener, vi kan jo ikke sette spørsmålstegn ved alt, noe må man jo kunne stole på. Og så deilig det er å kunne skylde på robotene (word foreslår helt ærlig robåtene her…), vi får bare håpe at det vi stoler på ikke gir en falsk trygghet…
Kvalitetspuff
Kvalitetspuffing er en serie korte tekster skrevet av Geir Maurud, med hovedfokus på hvordan vi kan gjøre arbeidshverdagen litt bedre ved hjelp av enkle grep. Hver tekst presenterer en ny tankefeil vi kan gjøre noe med, slik at vi daglig kan bli en litt bedre versjon av oss selv.
