Första veckan som ledarskribent på UNT är gjord. Den som vill kan med fördel läsa min text om friskolor eller om papperslösa i vården.

På söndag kommer en längre krönika om AI inom sjukvården, men HAIK serverar förstås smakprov. Teckna en prenumeration, stöd din lokala AI-skribent!

Jag har också funderat över besjälandet av AI. Och så övervägde jag att inte servera en plusmeny. Men det kändes fel. Så ni får läsa om finansnissar. Ciao!

/Dagens meny 🥘 

• Sätt dig och rita åt doktorn ✏️ 

• Sluta besjäla AI 🧘 

/Plusmeny 🍺 

• Finansnissarnas kamp mot konkurrensen 💰️

Trött på att drunkna i ett hav av komplexitet? Testa HAIK!

/ Rita din smärta – för vem? ✏️ 

Teknik har möjlighet att hjälpa människor. Och sjukvården har det tydligaste uppdraget på det området.

Därför har jag gång på gång dragits till olika människor och verksamheter inom vården som använder AI för att göra något lite bättre för patienterna.

Jag ringde runt en del i veckan för att förstå vad som händer på Akademiska sjukhuset i Uppsala.

Jag blev genuint förvånad över vad som kom fram, vilket blev till en längre krönika som publiceras på söndag (kommer finnas här).

De flesta som kommer till akuten sitter där ett antal timmar före de får träffa en läkare. Den tiden är viktig att använda för att ta reda på så mycket som möjligt om patientens tillstånd.

Smärtritning är ett sätt att förstå vad patienten själv upplever och hur den vill beskriva det.

Det är tänkt att användas med andra datamängder, exempelvis EKG och journaldata, för att vägas samman till en diagnos och behandling. Så småningom ska algoritmer få träna och använda de ritade bilderna för att ställa bättre diagnoser.

Min initiala tanke var: Gud så bra! Tänk vad mycket klokt människor ägnar sig åt helt utan förväntningar på tacksamhet från de som hjälps.

Men ju mer jag funderade på saken, desto mer växte frågorna.

För det första: För att kunna rita sin smärta godkänner man att delta i en studie som efter avslutandet samlar patientens data från ett stort antal register i tio år.

Det kan inte vara rimligt, hur mycket läkarna än vill kunna följa upp och jämföra såväl sjukvårdens som algoritmernas utveckling.

För det andra: Kan en person i en så utsatt situation ta ett välinformerat beslut om att ge bort ett årtionde av data?

Sist jag satt på akuten oroades jag av vad det var som drabbat mig (en kraftig öroninflammation = inställd resa till Karibien), när man får hjälp (nio timmar senare) och hur länge man måste vara på sjukhuset (två dygn), när man ska få mat och vatten (sköterskan kom med en mugg i timmen) och vad som kommer hända framöver.

Det är nog fler akutpatienter vars tankar följer det mönstret. Man kan komma runt det här genom att göra ett hemskick via brev, mail eller sms där man i lugn och ro får läsa igenom vad studien syftar till och kräver av den enskilde. Där kan det stå att den som godkänner deltagande och sedan behöver akut vård kan rita sin smärta i utbyte mot följande data.

Det är inte rättvist att tvinga sjuka människor att bestämma sig om sin personliga data i en stressad situation.

Som jag också skriver i söndagens krönika:

Det finns några tankar jag inte fick med i krönikan på grund av platsbrist.

1. Stora vårdcentraler (och andra vårdenheter, exempelvis mobila) i primärvården utför nästan samma arbete som akutmottagningar ibland. Det finns ingen principiell skillnad på deras åtaganden, utrustning eller patientunderlag som vid akuten på ett större sjukhus. Även de tjänar på att undersöka vad AI kan bistå med. Kanske smärtritning är ett bra sätt att underlätta arbetet i primärvården?

2. Datainsamling är ofarlig, sägs det så ofta, för att vi kan ta del av och radera vår data. Rätten att syna den insamlande parten tycks räcka för att skänka legitimitet till själva insamlandet. Systemet avväpnar patienter i förväg – en maktlöshet som förstärks ju längre in i AI-åldern vi rör oss. Fler, även AI-utvecklare, måste fråga sig varför de ska ta folks data.

3. Ytterst blir detta till en existentiell fråga. Vad är vi till för? Många bidrar gärna till en gemenskap och en bättre vård, men vill inte behandlas som dataproducenter åt staten. Hur tillgodoser det offentliga sådana legitima anspråk och förväntningar?

/ Sluta besjäla AI 🧘 

Jag gillar Jonna Bornemark. Ända sedan jag lyssnade på hur hon beskrev vad vi ska med filosofi till en mörk decemberkväll i Umeå 2013.

Hon skrev nyligen en artikel i DN om arbetsplatsers och anställdas relation till AI.

Much appreesh, som Hank Moody skulle säga.

Tesen är enkel: Människor och teknik smälter samman när AI-system övertar uppgifter. Så vad blir över för oss?

Det är inte särskilt originella insikter som kommer från den arbetsplats Bornemark besöker, och hennes egna resonemang fick mig inte att ställa ifrån mig skålen med fil vid frukosten.

Men jag studsade till vid en grej. Bornemark skriver:

Hon har rätt. Men hon gör ju själv det hon uppmanar andra att inte göra, nämligen att besjäla en teknik. Skriver man “AI:n” så ger man den en bestämd form den vare sig förtjänar eller vi är betjänta av.

Jag tror att sommartablån för HAIK leder till ett uppdämt behov att skriva om AI. Men jag ska försöka förklara vad det är jag menar. Håll till godo!

För den som inte orkar läsa allt: Jag tycker att vårt språk skänker för mycket agens till något som är icke-biologisk materia. Vi besjälar AI och det är inte bra.

För den som inte håller med: Läs astrofysikern David Brins argument för att besjäla AI.

Tekniken känner aldrig världen knuffa tillbaka

Ledarskribenter, bolagschefer, vetenskaps- och nyhetsreportrar gör det hela tiden. De pratar om vad “en AI” eller “AI:n” kan och inte kan. Felet begås även av de mest erfarna.

I boken The Age of AI skriver USA:s tidigare utrikesminister Henry Kissinger ihop med Googles förre vd Eric Schmidt genomgående om artificiell intelligens i singular och plural.

Men det finns vare sig en eller flera AI, och det stämmer inte att “AI:n” svarat när någon använder AI-tjänster som ChatGPT.

Att sätta en artikel på AI gör kanske inte tekniken till en människa, men väl till en varelse. Språkbruket besjälar icke-biologisk materia.

Att missförstå blir att missköta AI

Sedan 1940-talet har forskare på olika sätt eftersträvat att skapa intelligens som efterliknar människans. Det är inbyggt i forskningen, och kulturen i stort, att beskriva AI som en varelse i en evolutionär process. Ju mer data, ju bättre datorer, desto närmare mänsklig intelligens når vi.

Att chatbottar som bygger på AI är designade att ge svar i första person befäster narrativet. Vad hade hänt om alla svar i stället inleddes med förledet “Enligt databasen”? Hade vi litat mer på det som framställs i en AI-tjänst för att det kommer från en databas och associeras med kalla siffror och varma hårddiskar? Eller hade det fått oss att sluta se tjänsterna som magiska orakel?

Men som datavetaren Jaron Lanier skrivit i New Yorker (20/4) är det värsta sättet att missköta en teknik att missförstå den. Att ge AI (o)bestämda artiklar framställer tekniken som varelser med begynnande intelligens snarare än vad det handlar om: icke-biologisk materia.

Den reduktionistiska beskrivningen väcker ofta ont blod: AI är inte bara kod, elektriska signaler och statistiska fördelningar av ordföljder! Det finns komplexa resonemang och en intuition om abstrakta fenomen! Det finns spår av medvetande!

Att förmänskliga AI, eller djur och natur, kallas för antropomorfism. Det är svårt att förhålla sig till. Och vissa arbetar aktivt för att göra det svårare genom att bygga AI-tjänster vars svar och innehåll är mer oförutsägbara, just för att efterlikna mänsklig kreativitet där tankarna rör sig i oväntade banor. Men många inom AI och techbranschen i stort tycks inte vilja bemöta sådant.

De hemfaller i stället åt en doktrinär hållning där AI enbart är kod. Hållningen kan bäst summeras som att AI fortfarande inte kan knyta sina skor.

Det är sant. Men det behöver AI inte kunna. Eller: Ingen har ännu sett ett värde i att skapa AI som kan det. Skoknytarargument syftar måhända till att lugna folk men säger egentligen ingenting nyttigt.

AI måste bli mer materiellt förankrad

Men har inte tunga namn och bolag inom AI-sektorn varnat för att tekniken börjar likna liv? Microsofts forskare tyckte sig i den senaste versionen av ChatGPT ha identifierat “gnistor av artificiell generell intelligens”, alltså på par med människors intellektuella förmågor.

Det är självcentrerat. Ju mer kapabla bolagens tekniker verkar, desto fler användare och högre intäkter följer. Det finns också ideologiska underströmmar. Begreppet intelligens är svävande. Ju mer immateriellt betingat det görs, desto mindre ansvar behöver man ta.

Men modern AI är allt annat än immateriell.

Det krävs enorma mängder el, och därmed utsläpp, för att driva alla datacenter som gör att bolag kan utveckla och leverera avancerade AI-modeller.

Det krävs tusentals arbetare för att samla, klassificera och strukturera den data som modeller tränas på. Och hårdvaran bakom allt detta har en global produktions- och transportkedja som är högst fysisk, från jordartsmetaller till kinesiska fabriker till fraktfartyg.

Det vederlägger dock inte ansatsen att förmänskliga AI. Genom att se samtliga resurser bakom AI-utvecklingen blir det lättare att förstå den som djupt icke-mänsklig och långt ifrån den biologiska intelligens som utvecklats i naturen över hundratals miljoner år.

Det finns en djupare aspekt av att inte besjäla AI: Vad är intelligens?

Filosofen Peter Godfrey-Smith gör i sina två böcker Metazoa och Other minds en poäng av att intelligens handlar om självmedvetenhet. Han och många andra biologister menar att intelligens är oseparerbar från en fysisk kropp, att själva kroppsmedvetandet är bryggan mellan rå kunskap och fullfjädrad intelligens.

Robotforskaren Joshua Bongard har sammanfattat det fantastiskt: Förkroppsligad intelligens måste kunna knuffa mot världen och känna världen knuffa tillbaka.

Att vara människa är att känna motstånd. AI vet inte vad friktion är. Men likväl skapas det gnistor när det står “en” framför akronymen. Det är i sig förmänskligande.

/Plusmeny 🍺 

#1 💰️ 

När det kommer till att investera utifrån magkänslan så ligger “ligger AI än så länge i lä”, enligt en skribent i Privata Affärer – och nämner ett teoretiskt begrepp, artificiell intuition. Never heard…

Två andra finansnissar från varsin fond säger tvärtom: AI ändrar allt. De pratar bolag, sektorer, värdekedjor. Den första vågen av värdefulla AI-investeringar är borta. Men långsiktigt finns ett värde att styra kapital mot sektorn.

Jag saknar ett företag: Scale AI. Det är värderat till 70 miljarder kronor, understödjer träningen av alla stora språkmodeller och flyger HELT under radarn.

Det finns alltså, som inom många andra branscher, motsättningar i synen på AI. Men de verkar överens om att det behövs och ska investeras i, och att de största bolagen erbjuder bra långsiktig avkastning.

Jag tänker på det här när jag läser en publicering från amerikanska konkurrensmyndigheten FTC. Det finns risk för konsolidering och sämre konkurrens inom generativ AI. Med andra ord: dyrare och sämre produkter från företag som har monopol.

Jag tänker: OpenAI, den generativa AI-ålderns Facebook.

Det tycks som att FTC också tänkt på OpenAI, även om bolaget inte nämns med namn. Myndigheten varnar för att “Öppet först, sedan stängt” är en skadlig taktik för den långsiktiga tillväxten som börjat sättas i bruk.

Det är precis vad OpenAI använt för att samla ihop och bygga massiva datamängder, för att nu sluta sig själv hermetiskt kring såväl affärs- som språkmodell.

Hur ska stora institutionella investerare styra det här? Kommunicerar de sånt här internt? Finns det externa forum där de lyfter vikten av öppenhet och konkurrens? Vågar de det?

För den som vill investera i AI: Det finns exempelvis fonder från SEB och Allianz, och börshandlade fonder som Robo och iShares.

/Prat 🦜 

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag har länge intresserat mig för smarta städer.

In Machines We Trust är alltid tunga. Jag fastnade på det här avsnittet om just smarta städer. Programledaren beskriver hur sådan AI-teknik nyttjades mot folk i Iran under vinterns protester.

Inte så smart att bli smartare…

/Läsbart 📚️ 

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

1. Bryt AI genom 1700-talets störste idealist.

2. Sommarlovseffekten på ChatGPT.

3. Erik Sandewall sågar ChatGPT.

4. EN MILJARD TOKENS!

5. Sverige: Tre av fyra chefer vill lära sig om AI.

6. USA: Två av tre chefer vill inte använda AI.

7. Sverige ser AI som “framtidsvapen”

8. Ryssland använder olaglig ansiktsigenkänning.

/En yta för fri reflektion om något av det jag har läst 🤓 

#1. Idealisten.

I en understreckare skriver Håkan Lindgren att AI får människan att inträda i den omyndighet som 1700-talsfilosofen Immanuel Kant skydde som pesten.

Kanske tänker man: Men det säger ju inte Håkan. Motfrågan är: varför skriva något man inte själv tror på och har intresse av att få andra att förstå?

Nåväl. Lindgren pratar om upplysning. Det är att använda sitt förstånd. Det är ju inte samma sak som intelligens.

Så hur ska artificiell intelligens förstås genom Immanuel Kants idealism? Det är snarare hans kategoriska imperativ som bör vägleda.

1. Handla som om maximen för din handling genom din vilja skulle kunna bli allmän lag.

2. Handla så att du aldrig behandlar mänskligheten i [vare sig] din egen [eller någon annan] person bara som ett medel utan alltid tillika som ett ändamål.

3. Handla enligt maximerna tillhörande en allmänt lagstiftande medlem i ett blott möjligt ändamålens rike.

Tl;DR: Behandla andra som du själv vill bli behandlad. Det man lär sig i förskolan, med andra ord – utan att förringa Kants mästerlighet. (Läs hans bok “Kritik av det rena förnuftet” och du är renad. Det är som att lära sig att äta hummus eller använda balsam, du är evigt ändrad.).