”Oerhört viktigt för socialdemokratin att visa engagemang för AI”
Maja Fjaestad, docent från KTH och affilierad forskare på Karolinska Institutet:
1. Är AI ett hot eller löfte?
AI är både ett hot och ett löfte. Teknik är ingenting som står utanför samhället, det är en del av samhället – om vi väljer att den ska vara det. Vi måste göra människan till subjekt i AI-utvecklingen, och göra aktiva val kring vilken teknik vi vill använda, när och hur. Teknik måste underkastas demokratins principer!
Detsamma gäller beslut att inte använda AI. Det är också ett val och kommer också med kostnader/risker.
2. Finns det gränser för vad AI bör användas till?
Det finns gränser för vad AI bör användas till och det är viktigt att dessa sätts i dialog med och delaktighet från medborgarna. Det i sin tur förutsätter både insatta och engagerade politiker och teknikskapare som ger förutsättningar till insyn och transparens – det vi kallar explainable AI.
3. Kan AI användas för att öka jämlikhet? Hur?
Den data som dagens AI tränats på ger tyvärr usla förutsättningar för jämlikhet eftersom den präglas av snedvridning när det gäller kön, klass, etnicitet och många andra aspekter. Men så behöver det inte alltid vara, med en medvetenhet och omsorg om datans bias.
Tvärtom kan AI utmana sådant som traditionellt gett upphov till hierarkier – som exempelvis expertis. Med en enkel textmodell kan till exempel vem som helst programmera – inte bara den som gått en lång ingenjörsutbildning. Det lägger grund för att öppna upp teknikskapande – och många andra arenor – för ett långt bredare deltagande.
För socialdemokratin är det oerhört viktigt, och även brådskande, att visa ett engagemang i AI-frågorna och utveckla en aktiv teknikpolitik. Det är ett politiskt val huruvida vi ska använda AI för ökad jämlikhet – och vill vi det finns det stora möjligheter. Det är lätt att tanken fastnar i klassiska AI problem, som till exempel bildigenkänning eller granskning av röntgenbilder. Men ännu mer intressant är kanske att använda AI i stora komplexa problem som består av både medicin, teknik, ekonomi och samhällsorganisation. Ett exempel är antimikrobiell resistens – en av våra riktigt allvarliga hälsorisker. I liknande strukturella världsproblem kan AI inte bara vara en möjlighet – det kan också vara livsviktigt. Och där behöver Socialdemokratiska partiet kliva fram.
Olle Häggström, professor i matematisk statistik vid Chalmers och Göteborgs universitet:
1. Är AI ett hot eller löfte?
Fortsatt AI-utveckling erbjuder möjligheter att skapa en framtid av mänsklig blomstring bortom våra vildaste drömmar. Dock är riskerna lika enorma. Redan Alan Turing varnade för att vi inte längre kan räkna med att behålla kontrollen den dag vi skapat maskiner som överglänser oss själva i fråga om allmänintelligens. De senaste årens dramatiska AI-utveckling, och den bredd och det djup vi ser i GPT-4:s och andra språkmodellers förmågor, tyder på att den tidpunkten kan ligga betydligt närmare än vi tidigare anat. För att det hela ska sluta väl behöver vi se till att de första riktigt intelligenta maskinerna har mål och drivkrafter som är i linje med våra. Ingen är i dagsläget i närheten av att bemästra denna uppgift, som benämns AI alignment. Den vansinneskapplöpning mot det stora AI-genombrottet som OpenAI och deras närmaste konkurrenter för närvarande är inbegripna i är därför ohyggligt farlig. Utan en snabb inbromsning och kursändring i denna utveckling kommer de nödvändiga framstegen i AI alignment troligen inte att komma i tid, och risken är i så fall stor att de barn som föds i år inte kommer att få chansen att ens uppnå skolålder. Detta är förfärligt, men det som trots allt gör mig optimistisk om en kursändring som till slut ska låta oss skörda AI-teknikens frukter, samtidigt som vi undviker de värsta riskerna, är den snabbhet med vilken frågor om AI-risk under 2023 kommit till allmänhetens kännedom och till och med diskuteras av toppolitiker som Joe Biden, Rishi Sunak och Ursula von der Leyen.
2. Finns det gränser för vad AI bör användas till?
Ja. Ett uppenbart exempel är att vi bör undvika att utveckla AI för autonoma vapensystem och dylika militära ändamål, men det finns många andra områden där vi står inför svåra gränsdragningsfrågor.
3. Kan AI användas för att öka jämlikhet? Hur?
AI har potential att lösa alla våra nuvarande samhällsproblem, inklusive jämlikhetsfrågor. Men detta kräver noggrannhet: om den första superintelligenta AI:n fått målfunktionen ”avskaffa ojämlikheten” finns risken att den åstadkommer det genom att helt enkelt utplåna Homo sapiens.
