Terve! Vikariatet på UNT är slut. Från 14 augusti skriver jag ledare i Vestmanlands Läns Tidning. Tills dess: fjäll, skärgård, Österlen.

Som enda huvudrätt på veckans meny kommer en utbyggd version av söndagens krönika i UNT: Kulturdepartementet ska starta en arbetsgrupp för AI. Bravissimo!

I dag serveras en något teknisk plusmeny: maskinell uppmärksamhet.

Airbnb lanserade en partymodell och språkarbetare har mardrömmar.

Jag, Johanna och en hel tågvagn med släktingar har åkt till Abisko. På söndag bombar vi in i Kebnemassivet. Ute ur radioskuggan om en vecka.

/Dagens meny 🥘 

• En ny AI-sheriff 👮‍♀️ 

/Plusmeny 🍺 

• En knackig ekvation 💹 

/ Den nya AI-sheriffen i svensk politik 👮‍♀️ 

Det brukar sägas att teknik slår politik. Det ligger viss sanning i det. Teknik, och därmed den moderna kulturen, är ofta spjutspetsen vid sociala förändringar.

När plattformsekonomin växte fram i takt med nya taxi-, mat- och handelstjänster blixtbelystes välfärdssystemen. Vem var ansvarig för pensioner, arbetsgivaravgifter och försäkringar för gigjobbare? Ska kommuner verkligen ha monopol på att frakta bort möbler? Är skatterna på arbete rimliga?

AI står för samma sorts systemomvälvning. Det har kulturminister Parisa Liljestrand (M) förstått.

Sveriges Radio och TT beskrev i början av veckan hur hon startat en AI-enhet. Men det är inte riktigt så arbetet ser ut.

Egentligen är det en arbetsgrupp med olika tjänstemän som ska formeras de kommande veckorna. Det sker delvis för att vässa arbetet med det första utkastet på den strategi för kulturella och kreativa näringar som ska komma tidig höst – där AI sägs vara bottenplattan. Delvis behövs mer lärande och kunskap för att driva policyutveckling.

Några tjänstemän får börja utforska hur AI påverkar deras arbetsområden, antingen för att de är mer berörda eller har större intresse/kunskap.

Det behövs. Och det är rimligt att kulturdepartementet tar täten.

Under dem sorterar allt från demokratifrågor, val och desinformation till arkeologi, filmpolitik och upphovsrätt. AI har slagit hårt mot alla dessa delar i flera år.

Under radarn: Inom Statsrådsberedningen (SB) görs också AI-satsningar för hela Regeringskansliet, främst för att koppla ihop de mest berörda departementen. Hos SB sorterar bland andra statsministerns kansli, samordningskansliet och kansliet för krishantering.

Denna typ av medvetenhet om AI inom den högsta politiska ledningen stod inte att finna för några månader sedan. Men tekniken driver uppenbarligen politiken framför sig.

Scan it, send it, fax, rename it: Riksantikvarieämbetet (RAÄ) har redan hittat fornlämningar med hjälp av tekniken, och ser möjligheten att scanna och finkamma hela landet efter okända kulturarv. Men hur hantera och strukturera all ny information? Även där kan AI bistå.

Redan nu finns den norsk-svenska databasen Digitalt Museum. Skalan i AI-verktyg gör att alla objekt i alla museers arkiv så småningom kan ses digitalt eller virtuellt. Digitala arkiv omintetgör politiska bråk om gratis entré till statliga museer, och frigör samtidigt en kulturskatt med oändligt värde. Men det omdefinierar också syftet med att skapa utställningar och själva folkbildningsuppdraget.

Därtill sätter dagens pliktlagstiftning käppar i hjulen när fornlämningar upptäcks, exempelvis för anläggningen av konstgräsplanen i Gamla Uppsala liksom ny järnväg i Norrland. Med RAÄ:s inriktning kommer många fler markägare att påverkas. Samtidigt har arkeologer i Uppland tidigare gjort viktiga fynd vid byggena av E18 och E4.

Stora ekonomiska satsningar på infrastruktur har bäring på kulturminnen. Ju fler kulturminnen som upptäcks, desto mer påverkas planeringen av nya bostäder och tågförbindelser.

Kulturpolitiken kan tvinga såväl finans- som utbildningsdepartementet att tänka nytt.

Det finns förstås baksidor med omvälvningen. Kungliga Biblioteket (KB) har bistått med stora textmängder och annan data i byggandet av en svensk språkmodell som hanterar e-post, rapporter och dokument i offentlig sektor.

Men KB har nekat Sveriges nationella AI-center, som utvecklar en svensk variant av ChatGPT, tillgång till arkiven. Skälet är att, som riksbibliotekarien uttryckt det, konsekvenserna inte går att överblicka och att KB:s uppdrag är att värna “det demokratiska samhällets utveckling”. Är inte fri forskning en grundpelare i demokratier?

En ännu viktigare aktör är Riksarkivet. De datamängder som finns lagrade där är ofantliga och orealiserade rikedomar för AI-fältet. Men där döljs också känsliga personuppgifter och information om svenskt försvar som inte får slinka med i träningsdata för en språkmodell.

Då kan ryska eller kinesiska cyberoperationer i princip tanka ner information gratis från en öppen språkmodell, exempelvis om de bästa inloppen till Karlskrona örlogsbas. Redan idag förbjuder många internationella företag anställda från att använda exempelvis ChatGPT för att känslig bolagsinformation hittats i text som genererats av modellen.

Ska textrika myndigheter öppna arkiven för kommersiellt bruk? Vem ska få ersättning när arkiverad text och data används? Att lagstifta är ett dröjsamt instrument för att styra en blixtrande snabb teknikutveckling. Redan nu oroas många konstnärer och kulturutövare för sitt levebröd.

Här måste regeringen peka med hela handen.

Mycket av detta arbete implicerar andra departement. KB sorterar under utbildningsministern. Lagstiftning måste drivas av justitieminister Gunnar Strömmer (M), som tillsammans med digitaliseringsminister Erik Slottner (KD) varit helt osynliga i AI-frågor.

I stället är det kulturministern som satt sina tjänstemän på att skapa en nationell strategi för kulturella och kreativa näringar där AI integreras. Det är i sig en viktig signal. Politiken har det yttersta ansvaret för att hantera de samhällsförändringar som tekniken alltid kommer skapa.

/Plusmeny 🍺 

#1 💹 

En språkmodell bygger på maskinell uppmärksamhet. Den beräknas genom följande formel:

Det här är centralt för modern AI. Allt härrör ur statistisk mekanik där det användes för beräkningar av distributionen av olika tillstånd beroende på deras energinivå (jag har inte pluggat detta).

Det här tillför bara mer och mer information om varje enskilt ord eller stavelse (token) i en ordsekvens. Det sker för att kunna förstå kontexten som orden presenteras eller förekommer i.

Det finns de som tycker att dagens språkmodeller missar i maskinell uppmärksamhet, vilket gör dem svårare att driftsätta och komprimera. Det går ut över kraften i en tjänst som ChatGPT, även om de flesta inte märker det.

Jag är inte nog tekniskt skolad för att avgöra den fulla tyngden i argumenten. Men modellerna blir mer responsiva och träffsäkra över tid med bättre maskinell uppmärksamhet.

Det låter onekligen lurigt att varenda modell potentiellt har en dålig matematisk grund att stå på när den ska ut och jobba.

The other side: Ingen vet i dag riktigt hur en språkmodell fungerar, eller varför. Det kommer ta år, kanske decennier, att klarlägga.

Mervärde: Hur forskare från Google utvecklade self-attention.

/Prat 🦜 

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Hur gör uthyrningsplattformen Airbnb för att övervaka dåliga uthyrningar eller hyresgäster?

Det är svårt, erkänner ingenjören och chefen för “trust product and operations” (oklar titel) Naba Banerjee.

Det är intressant hur Airbnb under pandemins början försökte stoppa fester som ägde rum, men att man fick ge upp och vända sig till AI för att lyckas förutse och övervaka bokningsmönster. I områden med “partymodellen” i bruk minskade festandet med 35 procent.

/Läsbart 📚️ 

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

1. Nya svenska AI-dialekter.

2. Automathelgon.

3. En läslista för att “förstå” AI.

4. Högenergetiska neutriner.

5. Traumatiserade arbetare.

/En yta för fri reflektion om något av det jag har läst 🤓 

#5. Trauman.

Att rensa i språkmodellers träningsdata och svar kan vara riktigt jobbigt. Folk som har gjort det vittnar om mörka beskrivningar av “självmord, sexuella övergrepp på barn och bestialiskt våld”. En kille fick massor av mardrömmar.

Rensandet behövs. Skit in, skit ut, you know. Men det går ju inte att ge människor det skydd som språkarbetarna kräver av arbetsgivarna. Antingen väljer man helt “släta” textmängder, typ barnböcker, och riskerar konstiga inlärningar, eller så måste datan vara “värre” för att bli mer språkligt kognitiv.

Det betyder inte att man ska acceptera brott eller minska sin avsky inför dem. Men dilemmat är inbyggd i modern AI-utveckling.

Jag har under våren pratat med massor av folk som utvecklar språkmodeller. De allra flesta vill exempelvis hellre att en modell tränar på textmängder som innehåller nazistisk propaganda, för att den enklare kan känna igen och markera och utesluta sådant ur sina svar, än att undvika det.

Vi kanske inte gillar det, men vi behöver förhålla oss till det.