Torbjörn Kronander: Vad är AI, egentligen?
För tio år sedan kom Nobelpristagaren Daniel Kahneman ut med en bok som snabbt fick kultstatus, ”Thinking, Fast and Slow” (FSG förlag, 2011). Den handlar i korthet om att vi människor när vi tänker använder två parallella system: ett ”snabbt intuitivt system”, System 1, som tar snabba, ofta omedvetna beslut som vi ofta inte riktigt kan förklara i efterhand, och ett annat system som är sekventiellt, logiskt och långsamt, System 2.
Båda är helt nödvändiga men löser väldigt olika problem och hamnar ibland i konflikt med varandra.
De flesta beslut vi fattar tas av det snabba systemet, det långsamma kräver att vi nästan medvetet drar igång det när det snabba inte räcker till. Ska vi känna igen ett ansikte vet vi inte varför, vi bara gör det, System 1 i arbete. Ska vi lösa ett komplext problem, till exempel ett korsord eller ett problem i matematiken, kan vi inte direkt se svaret och System 2 sätts i arbete. System 1 fungerar parallellt och det märker vi inte mycket av, System 2 kräver ansträngning och vi klarar normalt bara ett sådant problem i taget.
Boken är kolossalt läsvärd och för den som ännu inte läst den rekommenderas den starkt om man vill förstå hur vi människor fungerar. Kahnemans slutsats är att den parallella strukturen mellan dessa två system är helt avgörande för vår möjlighet att fungera och resonera. Skulle vi göra allt analytiskt och ”långsamt” så skulle vi inte klara oss, skulle vi göra allt parallellt skulle vi inte kunna hantera riktigt komplexa problem.
Nyligen hörde jag en intervju i en podcast med just Kahneman av en podcaster vid namn Lex Fridman, som för övrigt har gjort väldigt många bra intervjuer inom AI och deep learning. Dataingenjören Lex Fridman intervjuade alltså en humanist, nobelpristagare i ekonomi och psykolog om computer science.
Innan vi går vidare får vi definiera vad vi menar med AI. Vad jag avser här är ett stort nätverk av icke linjära enkla operatorer, ett Artificial Neural Network (ANN) där varje förbindelse mellan två noder har en ”vikt” som kan ändras. Nätet ”tränas” genom att man med olika metoder påverkar vikterna. Nätverket skapar alltså utdata från indata genom sin struktur och de vikter man har i noderna. I de största ANN:er man idag arbetar med finns det uppemot 200 miljarder noder. Det finns andra typer av ”AI” med, men här avser jag ANN.
Tillbaka till intervjun med Kahneman som var fascinerande och öppnade i alla fall mina ögon för vad som egentligen händer nu. Det sekventiella systemet, System 2 i Kahnemans bok, är egentligen det vi använt datorer till sedan de kom till. De kan hjälpa oss med lösningar vi kan beskriva algoritmiskt, lösa stora beräkningar, styra förlopp som vi kan beskriva matematiskt med mera.
Datorerna har varit en enorm förstärkare av vårt system 2. Men de har, tills ANN:er kom, varit genuint dåliga på de uppgifter som vi själva hanterar med system 1. Jag minns själv när jag som ung doktorand på 1980-talet försökte göra bildanalys med algoritmer. Det gick lugnt sagt inget vidare.
Idag tror många, inte minst inom medicinen, att AI skall lösa alla världens problem åt oss. 2016 chockade Googles Geoffrey Hinton, en av de riktigt tunga pionjärerna inom ANN, medicinvärlden när han föreslog att man i stort sett omedelbart skulle lägga ner all utbildning av radiologer, för de skulle snart ersättas av AI. Fem år senare är vi inte i närheten av detta. Vi kan göra vissa smalt avgränsade uppgifter med ANN (vilket det ligger mycket värde i), men vi är inte i närheten av att ersätta radiologerna.
Just radiologin är intressant, När vi på Sectra började med digitalisering av radiologin bestämde jag mig för att sitta med ett antal radiologer ett antal dagar för att förstå hur de jobbade. Jag minns särskilt en dag med Göran Karner, radiolog i Motala, som den eftermiddagen granskade thoraxbilder. Han tittade genom ett antal patienter med blixtens hastighet och sorterade dem i två högar. Den ena kallade han friska, den andra sjuka.
Jag, som varande civilingenjör som vill förstå varför man gör saker, frågade hur han kunde avgöra det så snabbt, samt vilken sjukdom de ”sjuka” hade. Hans svar var bara ”De är sjuka för att bilderna ser sjuka ut, jag skall titta mer på dem om en stund och bestämma vad det är. Ibland har jag fel, men det är väldigt sällan”.
De ”friska” lade han undan och ödde inte mer tid på. Granskningstiden av de bilderna var extremt kort, kanske 20-30 sekunder per fall om två bilder. Sen gick han tillbaka till ”sjukhögen” och läste genom patienthistoriken, tittade noga på bilderna och, visade det sig, hade oftast rätt i sin blixtsnabba gissning om att de faktiskt var sjuka på något sätt.
Föga anade jag då att jag 30 år senare skulle höra en podcast som verkade förklara det där. System 1, det snabba parallella, är ju precis det vi försöker göra med AI idag. Det går ofta inte att förklara algoritmiskt, alltså den förklaring jag försökte få ur Göran Karner. Jag trodde då att han bara inte orkade berätta det. Nu inser jag att han faktiskt inte visste när han gjorde snabbsorteringen. De ”sjuka” såg bara sjuka ut. Basta. En oerhört irriterande förklaring för den unge civilingenjören.
Men sedan, vid den noggrannare analysen, så kopplade Göran in både det parallella och det sekventiella systemet när han skulle dra slutsatsen.
Tänk om det är så vi måste göra inom medicinen med. ANN räcker inte ensamt. Det kan komplettera oss genom att förstärka vårt eget ”System 1”. Men de ersätter oss inte eftersom vi jobbar med både System 1 och System 2.
För att få något som börjar närma sig ett mänskligt beslutsfattande måste vi ha båda systemen arbetande parallellt. De gamla algoritmiska beslutsmetoderna (ofta baserade på Bayesiansk beslutsteori och alltså rent algoritmiska) måste kombineras med ANN för att ge oss något som kommer i närheten av radiologers förmåga. Men ANN kommer kanske aldrig att ensamt ta oss hela vägen?
Innan vi lyckats kombinera båda typerna av system i våra datorer kommer vi inte att närma oss en människas förmåga att diagnosticera och ta beslut. Såväl boken ”Thinking, Fast and Slow” som podcasten rekommenderas starkt för den intresserade.
Artikeln är en del av vårt tema om Krönika.