Vågar du vara datadriven?

På varje bolag, stora som små, så pratar varje CEO, CIO, CMO, CTO, C… om att ”vi skall bli ett datadrivet företag”. Besluten skall fattas av algoritmer snarare än av människor.

Ovanstående är något jag skriver under på alla dagar i veckan, men jag tror många missar att de får några utmaningar på köpet.

Att bli datadriven innebär

  1. Man har ett eller flera dataset (information) som beslut fattas på
  2. Man skapar ett beslutsträd/algoritm som fungerar som recept för beslutet
  3. Man vet i förväg hur man skall exekvera på beslutet

Dynamiken ovan kommer sannolikt/förhoppningsvis genomsyra företagets alla delar. Allt från HR och marknadsföring till produktion och strategiska beslut.

Etiska beslut

Algoritmer är i slutändan binära. Programmerare kommer att skapa algoritmerna, men beslutsträd kommer att behöva fattas av verksamhetsnära personer.

Då jävlar ska ni få se på ängslighet och hyckleri när man inte kan gömma sig bakom svepande ord om mångfald, etik, inkluderande etc. Det kommer uppstår frågor som är närmare filosofi och vetenskap än affärsmässighet.

Bias

Bias är ”en persons sätt att värdera och reagera på omvärlden”. Varje algoritm som byggs innehåller i de flesta fall ”Bias”. Medvetet eller omedvetet. Lägger vi dessutom in maskininlärning i detta så kan vi få ”Bias” på steroider.

Några som kommer att få det jobbigast är HR avdelningar. När vi väljer en datakälla, vill vi då att den skall spegla verkligheten eller den önskade verkligheten? När vi bygger en algoritm kan vi fundera på om den skall vara diskriminerande eller inte?

Frågor som dessa kan man ducka med svepande förklaringar, men inte med en algoritm.

I en maskininlärningssituation kan ”ostraffad” vara ett ingångsvärde i ett urval. Om en oproportionerligt stor grupp av pojkar i ett visst postnummerområde är tidigare straffade så clustrar maskininlärningsprogrammet bort dessa. Datorn har heller inte några etiska betänkligheter så kanske clustret blir att pojkar från ”orten” (postnumret) som är första generationens invandrare inte finns i data-setet. Sug på den bästa HR-ansvarig!

Men eftersom ”ethnic diversity” är en del av vår strategi så skruvar vi i algoritmen. Kanske sätter ett tak på 40 år. Vips så har vi medvetet åldersdiskriminerat den högkompetenta kvinnan som är 43. Helvete! Vi tar bort alla män över 40! Pang, där satt könsdiskrimineringen.

Korrelation

En annan utmaning blir när vi amatörer skall tolka information och dessutom exekvera på den i realtid. Har nog skrivit om detta tidigare, men om vi ser att väldigt många drunknar i samband med att glassförsäljningen ökar så har vi sagt till algoritmen att agera på detta. Kanske i realtid och med stora konsekvenser. Men om vi är amatörer så missar vi att lägga in ”sommar” i ekvationen……..

Slutsats

Detta är mycket fria tankar. Jag har inte svar på frågorna. Det jag vill belysa är de etiska utmaningarna vi har när vi sätter beslut i system.

Hade Tinder funnits när jag var ung hade jag sannolikt inte kommit upp i min frus profil. Maskininlärningen hade prioriterat solariebrända, långhåriga kroppsbyggare. Tack vare avsaknaden av Tinder sitter hon efter 27 år med en smalfet, flintkallig gubbe istället. Hade algoritmen rätt? Kanske, kanske inte.

Möjligen skall algoritmerna förpassas till det som faktiskt är binärt? Än så länge har vi inte kommit så långt när det gäller människor tror jag.

God fortsättning med en spellista som gör dig både gladare och snyggare i under julhelgen!

About Patrick Gilbert

Jag hjälper företag och människor att lyckas skapa exceptionella kundupplevelser, lönsamhet och effektivitet genom att utnyttja digitaliseringens möjligheter.

Leave a Reply

Your email address will not be published. Required fields are marked *