Erik Bergkvist: Vi är mitt uppe i en teknikrevolution
Just nu rasar debatten om artificiell intelligens inom många fält, såväl inom kulturvärlden som i säkerhetspolitiken. Av allt att döma är vi mitt uppe i en teknikrevolution som både bär med sig framsteg vi aldrig tidigare kunnat förutse, men också nya dilemman att hantera.
Inom sjukvården kommer AI att kunna göra att sjukdomar upptäcks tidigare och behandlas bättre. I trafiken kommer de mänskliga förare som väljer att själva styra sina fordon att vara de allra största trafikfarorna.
Jag är teknikoptimist och ser den enorma nytta AI kommer att kunna göra för mänskligheten. Däremot tycker jag att det finns goda argument för att inte låta oss helt okritiskt bländas av en lysande AI-framtid. Vissa avfärdar skeptiska röster i diskussionerna kring AI som teknikfientlig hysteri i stil med 80-talets videovåldsdebatt. Det är att förminska allvaret.
Vi måste fundera över riskerna, även de som i dag känns osannolika och angränsar till science fiction.
Den stora skillnaden är att det denna gång inte är oroliga föräldrar eller ängsliga teknikskeptiker som varnar för farorna, utan människor som faktiskt varit med kring utvecklingen av AI-modellerna. De bör vi lyssna på.
Det öppna brev som publicerades av ett hundratal framträdande personer inom techbranschen och AI-forskningen i mars handlade om att tillfälligt pausa de mest kraftfulla språkmodellerna bortom nuvarande versioner av ChatGPT för att låta samhället komma ikapp med riskanalys och lagstiftning. Det tror jag är en sund idé, även om det i praktiken lär vara omöjligt.
Vi måste fundera över riskerna, även de som i dag känns osannolika och angränsar till science fiction. Hur sätter vi ramar för en intelligens som i vissa hänseenden passerat vår egen? Och vad gör vi ifall ett AI-verktyg vi inte längre kan förstå agerar mot vår vilja?
Det måste finnas svar på hur vi säkerställer att AI respekterar mänskligt värde, grundläggande rättigheter och etiska riktlinjer, och det behöver finnas strategier ifall den inte gör det.
I dag kan vi inte förutsäga konsekvenserna av att låta en artificiell intelligens bortom vår egen förståelse verka i de digitala system som i dag ofta är globalt uppkopplade och sammankopplade. Det måste finnas svar på hur vi säkerställer att AI respekterar mänskligt värde, grundläggande rättigheter och etiska riktlinjer, och det behöver finnas strategier ifall den inte gör det.
Det måste också finnas svar på hur vi kan stänga av system som har, eller skulle kunna skaffa sig, potentialen att skada. Risken finns att vi släpper lös någonting som inte går att stoppa.
Ifall dessa frågor i framtiden buntas ihop med videovåldshysterin kommer jag med glädje att erkänna mig skyldig. Men innan vi med säkerhet kan stilla farhågorna bör vi se till att kunna hantera även de mest osannolika konsekvenserna av AI-utvecklingen.
Erik Bergkvist är Europaparlamentariker
