Vi överlevde Balkan! Så nu kan ni fortsätta läsa om AI som vanligt.

Under våran Tour de Balkan antog EU-parlamentet ett utkast på AI-förordningen. Men varför lägger Moderaterna krokben för den och sig själva?

AI kan skapa diskriminering. Men även själva användandet av tekniken kan diskriminera. Det hände i Göteborg.

Världsbankens dåliga algoritmer drabbar behövande i Mellanöstern hårt, enligt en rapport. Kan banken beskyllas för automatiserad försummelse?

Let’s HAIK!

/Dagens meny 🥘 

• Den okända EU-konflikten 🇪🇺 

• Moderaternas barnslighet 🇸🇪 

/Plusmeny 🍺 

• Spioner eller diskriminering? 🕊️ 

Trött på att drunkna i ett hav av komplexitet? Testa HAIK!

/ Köp biljetter till juristboxningen 🇪🇺 

I en digital värld är Balkan inte så långt bort. Nyheterna nådde således även mig: EU-parlamentet röstade igenom sitt utkast på AI-förordningen 14 juni.

Den mest intressanta konflikten, som ingen i Sverige belyst, är den om ansiktsigenkänning.

Vare sig EU-kommissionen eller ministerrådet har inkluderat förbud mot tekniker som avläser, registrerar och klassificerar såväl ansikten som känslor.

EU-parlamentet vill förbjuda att sådan teknik används inom polisväsenden, skolan och på arbetsplatser.

Det är bra. Det lär dock skapa en hel del bråk när sluttexten ska förhandlas. Som vanligt är det Frankrike och Tyskland som sätter tonen.

Tyskland är emot all form av övervakning. De gillar inte ens internetbanker.

Det korta varföret till ditt Almedalsmingel: Berlinmuren, Östtyskland, Stasi, Hitler.

Frankrike, däremot, ser en annan väg till människors frihet.

President Emmanuel Macron införde 2019 ett statligt program för ansiktsigenkänning. Det skrotades men ersattes förra våren av en tjänst för digital identifikation med biometrisk data.

Franska parlamentet blev då oroat. Det skrev en rapport om att det hotar det franska arvet av frihet.

Ändå var det okej, tyckte man, att i begränsade fall tillåta övervakning för att “gagna säkerhetsstyrkor”.

Det här har varit Frankrikes hållning under hela processen med AI-förordningen. Varför?

Ett: Landet anser sig vara under permanent terrorhot och behöver alltid övervaka allt. Två: Man ska anordna sommar-OS i Paris nästa år. Då går det inte att låta människor gå runt oregistrerade. Länge leve friheten…

Summa: Tyskland och EU-parlamentet skyr övervakning. Frankrike, EU-kommissionen och ministerrådet gillar det. Alla kommer juristboxas. Köp biljett!

Men vad mer vill EU-parlamentet?

1. Ingen användning av biometrisk övervakning. Polisen får inte hitta (potentiella) brottslingar med algoritmer. Det görs redan, med väldigt negativa konsekvenser, i USA.

2. Inget social kreditsystem som i Kina. Puh! 😅 

3. Generativ AI – alla chatbotar som gör bilder, text och ljud – får inte tränas på upphovsrättsskyddat material. Lobbyvinst för konstnärerna.

4. Sociala mediers algoritmer för att rekommendera innehåll till användare ska övervakas mer. Det låter bra, men hjälper inte. Det är som att skärpa utsläppsregler för bilar när vi borde köra fossilfritt. Låt inte Facebook släppa ut mer skit i vår sociala atmosfär.

/ Moderaternas krokben i AI-politiken 🇸🇪 

EU-parlamentet röstade igenom utkastet på AI-lagen med siffrorna 499 för, 28 emot och 93 nedlagda röster.

Det här speglar svensk politik. Vänsterpartiet, Miljöpartiet, Centerpartiet och Liberalerna röstade för förslaget (vilket ni redan läst innebörden av).

Erik Bergkvist från Socialdemokraterna var den enda i sitt parti som la ner sin röst, övriga sossar röstade för utkastet.

Det är konstigt att få ihop med Bergkvists uttalanden om att AI-utvecklingen “riskerar att släppa lös krafter vi inte kan hantera” och att vi behöver “ordentliga riskbedömningar och säker reglering”.

Han stödjer också Brevet från i våras om att pausa all utveckling av AI under sex månader.

Det var inte så förvånande att Kristdemokraterna och Sverigedemokraterna röstade emot utkastet. De är inte politiskt brydda i lagen, de vill ha mer verktyg för brottsbekämpning och de vill klösa så mycket makt de kan ur EU:s händer.

Det var inte oväntat att Moderaterna röstade nej. Men det är ändå en stor besvikelse att se ett frihetligt sinnat regeringsparti göra en bred, efterfrågad och potentiellt nyttig lagstiftning till en principfråga om polisen.

Som EU-parlamentarikern Arba Kokalari säger vill de “inte lägga krokben för polisen” genom att acceptera förbudet mot ansiktsigenkänning.

När förbudet antogs valde M unisont att rösta emot hela AI-lagen. Ihop med KD var de ensamma om att göra så i parlamentets största partigrupp EPP. Hur kan man frivilligt isolera sig så?

Det går inte att hänvisa till principer vid nya problem. Principer är produkter av tidigare erfarenheter.

Jag har vid flera tillfällen, exempelvis i höstas och i vintras, kallat Moderaternas AI-politik för naiv. Men det här är barnsligt. Dessutom är det osammanhängande.

Jag har tidigare frågat deras parlamentariker Jörgen Warborn varför han inte tycker om lagen.

Den lägger en våt filt över all innovation, alla småföretag och alla tjänster, menar han. Stora företag får en fördel, små företag får svårt att följa lagen.

Jag är okej med den poängen. Den hörs delvis från AI-branschen.

Men Warborn menar att lagen helt borde ha skrotats från början. Och om inte det går ska den göras så tandlös som möjligt.

Det är inte så industrin ser det. Och det rimmar illa med vad han skrev i Svensk Tidskrift för två år sedan om AI-utvecklingen: “Moderaterna är och ska fortsätta vara en hemvist för nytänkande, teknikoptimism och framtidstro.”

Först har partiet pratat om att lagen är dålig för ekonomin. Nu är skälet till varför de helt motsätter sig utkastet att det lägger krokben för polisen.

Folk är genuint oroliga för vad AI gör med deras vardag, som jag skrev en ledare om här och en kortare grej om här.

Politiken har inte råd att vara passiv när stora samhällsförändringar snabbt påverkar många människor.

Mindre stödpartier i regeringar får gärna vara konträra och tjuriga. Men vill man vara statsbärande får man också se till att förmedla förstånd, medkänsla och sans. Det gör inte Moderaterna.

/Plusmeny 🍺 

#1 🕊️ 

Fler utländska studenter, doktorander och forskare behöver säkerhetsklassas. Det skriver Svenskt Näringsliv i en rapport som precis skickats till utbildningsminister Mats Persson (L).

Vad menar de?

• Kurser i AI, robotteknik och andra kärnämnen för försvaret, industrin och näringslivet i stort innehåller känslig information.

• De som lär ut eller lär sig materialet får reda på saker som andra länder kan gilla eller nyttja, bland annat på sätt som kan skada Sverige.

• Därför måste de som ska plugga eller forska i liknande ämnen säkerhetsklassas, kanske av Säkerhetspolisen.

Jag antar att kraven även gäller studenter från Sverige. Det saknas inte historisk erfarenhet av inhemskt rekryterade spioner.

Nevertheless: Problemet är inte påhittat.

Jag har pratat med en person som berättat att AI Sweden då och då nekar vissa personer tillgång till deras faciliteter. I höstas avslogs exempelvis en förfrågan från en professor om att låta två studenter nyttja deras AI-labb.

Skälet var deras bakgrund i ett eller flera länder som finns med på den “svarta listan” från USA.

Enkelt sagt får personer med bakgrund i länder på listan inte ges tillgång till hård- eller mjukvara från USA. För då bryter det land, företag eller den organisation som gör så mot amerikanska exportsanktioner, ett regelverk som kallas ITAR, och kan straffas riktigt hårt.

Exempelvis kan en iransk ingenjörsstudent inte skriva examensarbete med en svensk dito om deras beräkningar ska göras i vissa datalabb.

Tillgång till modeller och beräkningssystem, eller bara resultaten från dem, räcker för att personen från det sanktionerade landet, exempelvis Iran, ska ha brutit mot ITAR. Och då räknas den svenske studenten som den som överfört informationen till en sanktionerad medborgare. Det vill inget lärosäte råka ut för.

Det enkla skälet till att de två studenterna stoppades från AI-labbet i Göteborg är att det står amerikanska datorer i lokalerna. Den risken vill ingen ta. Så hellre hålls personerna utanför labben med hänvisning till deras etniska bakgrund.

Rent krasst gäller alltså att man antingen måste bryta mot ITAR eller svensk diskrimineringslagstiftning.

För de flesta är det enklare att hantera svenska juridiska processer än amerikanska.

I praktiken betyder det att Sverige antingen blir ett ställe där andra länder kan runda amerikansk exportkontroll, eller så funkar inte nuvarande diskrimineringslagstiftning. Det förra lär inte ske. Alltså behöver politiken ingripa.

Sverige har 40 000 utländska studenter i landet årligen. Även om få av dessa nekas tillgång till vissa områden på grund av deras bakgrund är det ett reellt problem för universitet och högskolor, och därmed politiken, att hantera.

/Prat 🦜 

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag gillar danskar. De bryr sig om sin frihet att svära, röka och dricka öl. Jag har alltid gillat Margrete Vestager, EU-kommissionären som ansvarar för Europas digitala konkurrens.

Till brittiska BBC sa hon, efter att parlamentet antog utkastet på AI-lagen, att vi redan kan vara illa ute och att lagen verkligen behövs.

Det handlar framför allt om att undvika övervakning, diskriminerande behandling och brott. Vi måste också kunna tro på det vi ser och förstå vad som sker.

Hon sa också att “den kriminella sektorn digitaliserar mycket snabbare” än oss andra, och att de brottsbekämpande myndigheterna måste möta det.

I klartext: Hon och kommissionen kommer bråka med parlamentet för att få in så många undantag som möjligt för polisen att använda AI.

/Läsbart 📚️ 

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

1. “AI är en meningslös kategori"

2. Hur svensk skola görs bättre.

3. Informationskonglomeratets födelse.

4. GPT4 och spädbarn.

5. Automatiserad försummelse.

/En yta för fri reflektion om något av det jag har läst 🤓 

#5. Automatiserad försummelse.

Human Rights Watch (HRW) tycker att Världsbanken gör dåliga algoritmer. Det är kontentan i en rapport som HRW kom med 13 juni.

Notera: Det verkar förvisso sant att Världsbanken gjort massor av misstag när de ska bygga och implementera algoritmer för bidrag. Men det är en intresseorganisation som gör påståendet, inte en oberoende kommission eller utredare.

Anywho…

Världsbankens system Takaful ska hjälpa Jordanien att ranka och välja vilka hushåll som ska få ekonomiska bidrag.

Det här gillar inte HRW. De tycker att alla ska få bistånd. Och de klagar på att man gör behovsprövningar genom att se till om hushåll har en bil, boskapsdjur eller höga el- och vattenräkningar. Ja på dessa indikatorer säger att de har mindre behov av direkta pengastöd.

Men det Världsbanken investerat i slår mig som väldigt likt traditionellt biståndsarbete där resurser prioriteras enligt behov.

Det är precis så svenska myndigheter gör för att värdera vem som ska få försörjningsstöd.

Ett uppenbart problem med Takaful är att man delar ut pengarna till den som “företräder” varje hushåll, alltså män. Det gör kvinnor och barn beroende av en manlig person.

Men det är inte nödvändigtvis ett fel med algoritmen. Världsbanken har inte automatiserat sin försummelse av stora grupper.

Det verkar snarare som att kulturella, religiösa och politiska värderingar krockar med HRW:s ambitioner och synsätt. Därav noten i början: De gör en subjektiv analys av en annan organisation.

Men diskussionen är inte ny. Varhelst algoritmer dyker upp kommer de bygga på människors underliggande antaganden, fördomar och prioriteringar.

Därför behöver fler få insyn i utvecklingen och implementeringen av algoritmer. Världsbanken bör, precis som HRW påpekar, visa hur algoritmerna är konstruerade och hur de fungerar.

Det är viktigt när det gäller privata företag. Det är nödvändigt för offentliga organisationer och oberoende organ.