Maja Fjaestad: Att utveckla teknik är att utöva makt
Utvecklingen av AI behöver underkastas demokratisk kontroll, menar AiP:s ledarskribent Maja Fjaestad.
Att utveckla teknik är att utöva makt. Få saker har sådant inflytande över hur vi lever våra liv som den teknik vi omges av och har tillgång till: från hur vi inhämtar och delar information via nätet – till olika tekniska system och lösningar inom vården, omsorgen och skolan.
All maktutövning behöver underkastas demokratins principer och ansvarsutkrävande. Det gäller även teknik och styrning av teknik. Hittills har detta exempelvis handlat om hur bilen, när den kom, skrevs in i regelverk kring trafikregler, körkort och säkerhetsbälte. Säkerhetskrav på kärnkraftverk är ett annat exempel.
Vi kan inte bara förvänta oss att konsumenterna väljer bort teknik som inte gillas. Det går knappt att leva ett modernt liv i ett samhälle som präglas av teknikjättars dominans. Prova att leva en vecka utan kreditkort eller smartphone, så får du se.
I dag, 2023, väcker artificiell intelligens (AI) många politiska och moraliska frågor.
Debatten om hur teknik med stor påverkan på våra liv ska styra eller styras av samhället har växlat: från 1950-talets expertsamhälle till 1960- och 70-talens teknikkritiska motreaktion. I dag, 2023, väcker artificiell intelligens (AI) många politiska och moraliska frågor.
De potentiella vinsterna med AI är stora, exempelvis ökade möjligheter att bota fler cancersjuka, en mer effektiv klimatomställning och ökad produktivitet inom i princip alla områden – liksom bättre anpassade vardagstjänster.
vi osynliggör det mänskliga ansvaret och försvårar politiskt ansvarsutkrävande
Men en risk är att vi osynliggör det mänskliga ansvaret och försvårar politiskt ansvarsutkrävande. Elon Musk hör till dem som har varnat för AI: ”Tro mig, AI är betydligt farligare än kärnvapen. Så varför har vi ingen reglering av den tekniken?”
Brist på ansvarsutkrävande kan bygga på ofullständiga ramverk – eller en uppgiven inställning. Men AI-system är inte bortom mänsklig förståelse eller kontroll. Däremot behöver vi agera för politisk och demokratisk kontroll av AI, inklusive en bedömning av vilka frågor vi inte vill använda AI till – exempelvis offensiva militära förmågor.
Forskare har i flera år diskuterat hur AI ska implementeras. Filosofen Luciano Floridi har föreslagit att vi till de etiska principerna – välvilja, icke-ondska, självbestämmande/kontroll och rättvisa – bör lägga en femte: förklarbarhet, i betydelsen förståelighet och ansvarsskyldighet.
en skyldighet för politiker att förstå, undersöka och ifrågasätta ny teknik
Politiskt innebär det dels en skyldighet för politiker att förstå, undersöka och ifrågasätta ny teknik. Det demokratiska ansvaret kan aldrig delegeras genom undanflykter om att ”tekniken var för krånglig”.
Dels innebär förklarbarhet en skyldighet hos teknikutvecklare att utforma teknik som är möjliga att förstå. På samma sätt behövs reglering av exempelvis algoritmiskt beslutsfattande – det vill säga när beslut fattas automatiskt i stället för av människor – i offentlig sektor. Fackförbundet SSRs chefekonom Simon Vinge har lyft hur robotar fattar beslut om ekonomiskt bistånd i kommuner och att det i dessa fall behövs insyn så att den enskilde medborgaren kan förstå och ifrågasätta besluten.
Först med reglering och kontroll har vi på allvar inflytande över vårt liv med tekniken.
Maja Fjaestad är forskare vid Karolinska Institutet och tidigare statssekreterare
