Maja Fjaestad: Politisk kreativitet – ljuset i AI-tunneln
Kurerandet av data för AI behöver underkastas demokratisk kontroll och insyn, menar Maja Fjaestad.
Bör vi pausa utvecklingen av artificiell intelligens (AI) i sex månader för att hinna utveckla en politik som stävjar farorna? Visst skulle AI kunna innebära mänsklighetens undergång. Men frågan är ändå felställd. Dels hotar redan den AI som vi använder i dag – med eller utan att veta om det – demokratiska funktioner. Att prata om en AI-paus antyder en exotisering av AI till framtida mördarrobotar. Men AI och algoritmer är redan en del av samhället. AI är inte science fiction.
Dels tar välavvägd lagstiftning lång tid, dels behöver regelverk kontinuerligt utvecklas i takt med att teknik utvecklas. Tron på en universell lagstiftning en gång för alla är en chimär. Men det vore intressant att diskutera hur en sådan reglering borde se ut och hur ett demokratiskt inflytande över den kan utvecklas.
En AI är ett system av algoritmer med någon typ av feedback-loop, det vill säga att det finns ett lärande. Ofta kan en AI också själv hitta data att träna på, det vill säga den förbättrar sin prestanda och tar till sig information.
Själva orsaken till att det pratas så mycket om AI just nu är en snabb utveckling av det man kallar LLM – large language models. LLM är avancerade språkliga modeller som har förmågan att bearbeta och analysera stora mängder textdata. LLM:er kan förstå sammanhang och generera både komplexa och hyfsat korrekta svar på användarens frågor.
Med utgångspunkt i vilken data LLM:er tränas på kan de också vridas åt valfritt håll. LLM:er kan exempelvis styras åt höger, vilket datavetaren David Rozado visade när han nyligen skapade ”RightWingGPT”, en språkmodell baserad på konservativa/republikanska texter som definitivt ”färgar” AI:s analyser, texter eller förslag.
det som vi tidigare kallade ”filterbubblor” kan leda till en dystopi med helt nya klyftor
Det gör att det som vi tidigare kallade ”filterbubblor” kan leda till en dystopi med helt nya klyftor, där vi i framtiden knappt kommer förstå varandras språk och argument.
Det finns definitivt applikationer av AI som gynnar demokratiskt deltagande, men det går inte att blunda för att snedvridning av data också kan få förödande konsekvenser av demokratin.
Många röster höjs nu för medveten kurering av data, det vill säga att någon aktör får ansvar för att den data som viktiga algoritmer tränas på är opartisk.
Följdfrågan blir förstås vem som ska kurera datan – en uppgift som förknippas med stor makt.
Här skymtar dock ljuset i tunneln. För om det är något som vi människor ändå förmår så är det policyinnovation: att komma på nya politiska lösningar på samhällsproblem som uppstår.
behövs stor politisk kreativitet för att utveckla policy-instrument för demokratisk insyn i kurerandet av data för framtidens AI
Nu behövs stor politisk kreativitet för att utveckla policy-instrument för demokratisk insyn i kurerandet av data för framtidens AI.
Därför måste vi lyckas i denna viktiga uppgift, och det finns många anledningar att tro att vi gör det. Jag är policyoptimist.
Maja Fjaestad är forskare vid Karolinska Institutet och före detta statssekreterare
