- HAIK - Hela AI-Köret
- Posts
- Nämnden för mänsklighetens överlevnad 📍
Nämnden för mänsklighetens överlevnad 📍
Och: ChatGPT får G, AI med Gud, kameraförnekande moderater.
Gustav Juntti
June 27, 2023
Det är politikervecka i Almedalen. Även inom AI-bubblan tycks partierna ha börjat dricka bubbel och rosé.
Tre Sverigedemokrater vill införa en nämnd i riksdagen som arbetar för mänsklighetens överlevnad. En tidigare statssekreterare för Socialdemokraterna ser likheter mellan kärnvapen och välfärdsalgoritmer. Och längst ner förklarar jag varför Moderaternas AI-politik gör dem till kameraförnekare.
Häng med på HAIK!
/Dagens meny 🥘
Nämnden för mänsklighetens överlevnad📍
Skolans sanningsparadox 💡
Varför Matteusevangeliet inte kan vägleda AI 👼
/Plusmeny 🍺
Hotet mot sossarnas existens 💣️
Journalister slukar mer pappersmassa och el med AI 🌲
/ Nämnden för mänsklighetens överlevnad📍
Tre riksdagsledamöter från SD vill införa en parlamentarisk nämnd som pysslar med AI, enligt en debattartikel. (Öppen version här.)
Dit ska alla riksdagspartier, näringsliv och akademi bjudas in för att “hela tiden uppdatera sig med det senaste inom utvecklingen” och “lämna förslag på lagstiftning som styr utvecklingen i positiv riktning.”
Det vore bra om politiker lär sig mer om AI. Det gäller förstås även de tre ledamöterna.
Thomas Morell är vice ordförande för riksdagens trafikutskott och tidigare bilinspektör vid polisen. Utskottskollegan Rashid Farivar är en sparkad ingenjör från Volvo. Och ingenjören Josef Fransson från näringsutskottet har varnat för att AI kan leda till en samhällskollaps och mänsklighetens utplåning.
Ingen av de tre verkar ha jobbat med AI på något sätt tidigare. Och åtminstone Farivar menar att “[k]limatkrisen eller en klimatmässig utplåning av mänskligheten är rent tramsiga villfarelser.”
Alla politikers budskap bör tas med en nypa salt. Men en sådan distans till tekniken och etablerad forskning som SD-trojkan visar gör det värt att misstro avsändarna.
De har förvisso rätt i två saker. Dels att AI i grunden omformar “vad det betyder att vara människa”. Dels att det är “direkt oansvarigt att sitta på händerna i Sverige”.
Men ska man göra en historisk liknelse skulle Sveriges riksdag instiftat en ångmaskinsnämnd och en elektricitetsnämnd när de två allmännyttiga teknikerna kom.
Skillnaden är att de två primärt handlade om mekanisering av muskelkraft och bättre levnadsstandard. AI handlar om kognition. Det är inget fält politiken behöver ägna sig åt.
Förut valde samhället den breda vägen. Många fick och tog ett ansvar att använda teknikerna sunt och rimligt. Ingen nämnd behövdes. Det är inte säkert att det är rätt väg nu, heller.
Men då som nu, och i så många andra perioder av teknikutveckling, finns en gemensam faktor: misslyckandet.
Vi har, som art, lärt oss vilka beteenden som är bra respektive dåliga, rimliga respektive farliga, genom observationer. Flygplan, fabriker, sjukhus och jordbruket har alla blivit gradvis förbättrade genom misslyckanden – ofta dödliga.
Vi behöver inte sikta på att låta människor dö för att AI-tjänster ska bli bättre. Men vi kan inte undvika misslyckanden.
Att instifta en AI-nämnd och be digitaliseringsminister Erik Slottner (KD) om svar på hur Sverige kan “maximera nyttan … samtidigt som riskerna minimeras” är inte så tillitsfullt till människors förmåga att lära och anpassa sig.
/ Är generativ AI verkligen fusk? 💡
I Trollhättan fuskar gymnasieelever med AI-tjänsten ChatGPT. Och i Malmö får en universitetslektor inte underkänna en uppsats från en student som gjort samma sak.
En elev i Trollhättan tycker att tjänsten är “som hela google i ett paket”. Det här har jag hört i samtal med eller om gymnasieelever i andra delar av landet.
Det går att förstå dem.
När Google kom uppmanade skolan min generation att använda tjänsten för att underbygga argument och utöka vår kunskap. Wikipedia var bara ett digitalt bibliotek. Det har färgat av sig på dagens samtal om att hitta och skapa information.
Källkritik infördes i skolan, med följden att dagens 20-30-åringar tvivlar på mediers objektivitet.
Vad ska utbildningsväsendet och politiken nu ta till? Källkritik mot källkritiken? Och vad ska ungdomar framöver vara källkritiska mot?
I deras ögon har ChatGPT bara aggregerat Wikipedia (och massa andra platser för information). I stället för att läsa där får de svaren de vill ha genom en tjänst. Jämför det med Google.
Bolagets fenomenalt lukrativa affärsmodell bygger på så kallat “search intent”, alltså en användarens sökintention. I sökresultaten presenteras vad en person egentligen efterfrågar, inte den bokstavliga söksträngen.
Jag tror att fuskdebatten är en vuxenvärld som pekar finger mot unga människor som känner att de inte gjort något fel, utan använder vad andra (läs: vuxna) har kommit på och spridit. Och att unga egentligen inte tycker att det är fel att använda generativ AI för att läsa, skriva, räkna eller koda – lika lite som att tidigare generationer inte förbjudit Google och Wikipedia.
Äldre personer kan vara arga och oroliga för det. Men känslor och emotionella argument är sällan bra för att styra
Om gymnasister i Trollhättan är fascinerade av ChatGPT är studenter i Malmö inte det.
Det “känns orättvist om man kan bli godkänd när man har fuskat”, som en person summerar det. På dennes senaste examination hade “en betydande andel” använt ChatGPT. Men eftersom reglerna inte tydligt beskrev vad som gällde för plagiat och otillåtna hjälpmedel så händer inget.
Dessutom är material från generativ AI inte plagiat i juridisk mening, enligt disciplinnämndens ordförande.
Och därför får Joschka Wessels inte underkänna en student vars uppsats åtminstone delvis skrivits med en språkmodell.
Side Note: AI verkar mest användas till mail, konst, kodande och musik.
The Matrix Perspective: Universitet måste beskriva vad som är godkänt att göra med generativ AI för att undvika situationen i Malmö. Men om man bryter ner en skriftlig uppgift eller en hel uppsats i små steg så går det förmodligen att komma runt förbuden.
Dessutom skapas en sanningsparadox. Generativ AI är (ibland) ett otillåtet hjälpmedel vid universitetens examinationer. Dit räknas även fusklappar, miniräknare och internetuppkoppling.
Samtidigt röjer lägre skolnivåer, exempelvis gymnasier, bort ChatGPT från kunskapsförmedlingen genom att blockera adressen inuti skolans nätverk eller ta bort alla inlämningsuppgifter.
De högre lärosätena säger inte att generativ AI är osann, bara ett otillåtet hjälpmedel. De lägre säger att tekniken är osann och opålitlig. Vem äger den sanningen?
Den hoppfulla slutnoten: I Linköping ska universitetslektorn Helen Winzell leda en kurs i hur lärare kan använda AI-verktyg.
/ Inga algoritmer i Matteusevangeliet 👼
Jag gillar när religiösa företrädare tar ton. Ömsom säger de självklarheter, ömsom obegripligheter. Sådan spretighet är rolig.
Nyligen var det självaste ärkebiskopen Martin Modéus som menar att vi ska ta emot artificiell intelligens.
Men bara om vinsterna fördelas rättvist, människans värde och värdighet respekteras och det mänskliga mötet upphöjs med hjälp av AI.
Jag tror exempelvis inte att en europeisk AI-lagstiftning kan ta sin utgångspunkt i Matteusevangeliet, även om det talar om nedfall, falska profeter, återuppståndelse och mirakler.
Och jag tror inte att samtalet om AI måste börja med en helt annan diskussion om vår relation till skapelsen. Jag tror att de kan föda varandra, ge fiber och stoff åt argumenten, utan att den politiska debatten väntar in kyrkan.
Det handlar snarast om att kyrkan vill skapa sig tid för att formulera en berättelse om varför de behövs och vad AI egentligen är.
Ärkebiskopen har dock rätt i en sak: “Människan görs mindre än vad hon är och AI görs större än det är.”
Precis som klimatkrisen tvingar oss att konfrontera frågor om vår existens gör AI-utvecklingen att vi måste prata om syftet med våra kemisk-elektriska processer, vårt minne, vår kreativitet, vårt medvetande.
Som min läslista antyder är Meghan O’Gieblyns bok en jäkligt bra utgångspunkt för det samtalet.
För den som hellre läser något på svenska kan mitt samtal med biskop Johan Tyrberg inge hopp.
/Plusmeny 🍺
#1 💣️
Den tidigare socialdemokratiska statssekreteraren Maja Fjaestad är brydd i AI. Men det låter väldigt “undergångigt”…
Hon skriver: "Först med reglering och kontroll har vi på allvar inflytande över vårt liv med tekniken.”
Implicit så betyder att att vi har tappat vårt inflytande. Det tror inte jag. Men vi har definitivt börjat omförhandla det.
Därtill citeras Elon Musk om att AI är farligare än kärnvapen och därför behöver regleras.
Det blir lite fjuttigt när hon sen exemplifierar med algoritmer i välfärden som måste granskas, förstås och regleras.
Tolkning: Alla förändringar i välfärden kan vara existentiella hot mot sossarna…
#2 🌲
Mer pappersmassa och el ska gå åt med hjälp av AI.
Det är kontentan i det Svenska Dagbladets chefredaktör och vd Anna Careborg skrev på midsommarafton.
Med AI ska tidningen “frigöra tid från monotont arbete till det som verkligen ger värde” och ägna “mer tid till att vara ute i olika miljöer och till det journalistiska berättandet.”
Mer granskning och gräv, med andra ord. Och mer deg till ägarna.
Det här är intressant. Å ena sidan kan det vara räddningen för många nyhetsorganisationer som dragit åt och skalat bort så mycket det bara går och fått varje journalist att göra fler moment eller mer material under sin arbetstid.
Å andra sidan: om en redaktion exempelvis frigör 100 timmar i månaden tack vare ett nytt verktyg för transkribering av intervjuer, ska den göra fem eller tio nya gräv? Finns det så mycket att gräva i?
Om det inte finns så mycket att gräva i, vad gör de i stället? Om ja, varför har det inte gjorts tidigare? Har en chef eller en anställd prioriterat bort uppgiften förut?
/Prat 🦜
/Tänkvärdheter från någon jag har pratat med eller lyssnat på.
I dag, 27 juni 2023, är förmodligen en helt vanlig dag för de flesta. Men för anställda och patienter på Mammografimottagningen vid S:t Görans sjukhus i Stockholm är det första dagen som en algoritm hjälper till att granska röntgenbilder för att hitta misstänkt cancer.
Det är man först i världen med. Grattis! 🥳
Det skulle vara fel att inte använda en metod som är bättre än den nuvarande.
Jag har tidigare skrivit om fördelarna med AI inom exempelvis screening för bröstcancer.
/Läsbart 📚️
/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.
/En yta för fri reflektion om något av det jag har läst 🤓
#3. Moderaterna.
Jag har länge tyckt att moderater har en konstig inställning till övervakning. Jag kallade dem för några år sedan för kameraförnekare. Det finns inte särskilt bra bevis för att övervakning av alla medborgare leder till färre brott eller bättre säkerhet.
Det här skriver Johanna Grönbäck, krönikör på ledarsidan i moderata Borås Tidning, om.
När EU-parlamentet röstade igenom ett utkast på en ny förordning om AI i mitten av juni röstade alla moderater, kristdemokrater och sverigedemokrater nej. De ville använda AI till att övervaka, vilket utkastet förbjöd.
Som Grönbäck skriver saknas exempel på när ansiktsigenkänning med AI “har förhindrat ett terrorattentat eller hjälpt till att hitta en försvunnen person”.
Moderaternas EU-parlamentariker Jörgen Warborn tycker ändå att AI ska användas för att “bura in grovt kriminella” och att “[h]ederliga medborgares rätt till trygghet måste gå före grovt kriminellas integritet.”
I dunno…
Som Grönbäck skriver saknar de, liksom SD och KD, en förståelse för “vad massövervakning gör och riskerar göra mot ett samhälle och mot dess fria individer.”
Frågan som Moderaterna inte svarar på är om kameror och algoritmer funkar.
Brottsförebyggande rådet publicerade 2018 en översikt av forskningen om kamerors effekt på att förebygga brott.
Kameraövervakning minskar inte våldsbrott eller ordningsstörningar i områden med flerfamiljshus, stadskärnor, kollektivtrafik eller ”andra platser”. Men det kan minska antalet egendomsbrott, fordonsbrott och narkotikabrott i vissa områden.
Moderaterna i EU har gjort allt de kan för att stoppa och vattna ur AI-lagen. Nu är de även kameraförnekare.