Även om Artificiell Intelligens (AI) har varit ett forskningsområde sedan 1956, så är det först nu som alla börjat tala om AI. Det var chat-robotarna som gjorde att vi fick upp ögonen för AI, även om det redan i tysthet använts i bakgrunden i ett flertal produkter. Många talar entusiastiskt om dess möjligheter och alla olika användningsområden, inte minst inom näringslivet. Andra däremot ser riskerna och vill reglera eller förbjuda den nya tekniken, så att den inte börjar att användas emot oss och omkullkastar våra samhällen. Oron ligger i allt från förlorade arbeten, nya vapensystem som människan inte kan kontrollera, till småsaker i vår vardag som att mer lita på en AI-assistent än till sig själv.

Att leja ut sitt tänkande på entreprenad är dock ingen ny företeelse inom mänskligheten. Exemplen är många där propaganda, manipulation eller bara bekvämlighet eller osäkerhet har gjort att människan har överlåtit sitt tänkande och sina beslut till någon annan. Ibland omedvetet, och ibland medvetet. Ibland har det varit till godo, såsom det lilla barnet som lyder sina föräldrar utan att alltid förstå varför, men ibland har det lett till fruktansvärda konsekvenser som andra världskrigets fasor. Där en illasinnad ideologi fick miljoner människor att kriga och att försöka utrota ett annat folkslag.

Så när vi börjar tala om riskerna med att AI börjar tänka åt oss, så bör vi samtidigt tala om riskerna med det mänskliga tänkandet. När leder det fel? Vad är det grundat på? Vilken etik och vilka värderingar ligger bakom? Detta är viktiga frågor att ta med sig in i diskussionen.

Den tysk-amerikanske datorforskaren Joseph Weizenbaum (1923-2008) sa ”för mig är den verkliga frågan inte om datorer tänker, utan om människor gör det. I Weizenbaums bok från 1976 “Computer Power and Human Reason” så beskriver han sina motstridiga känslor inför datortekniken och dess möjligheter. Han säger att frågan ifall datorer eller en artificiell intelligens ska utföra en uppgift som en människa kan göra, är irrelevant. Han hävdar att det viktiga istället ligger i skillnaden mellan att bestämma och att välja. Att bestämma sig är en beräkningsaktivitet alltså något som kan programmeras. Val däremot är en produkt av en bedömning, inte en beräkning. Alla bedömningar innehåller mer eller mindre av värderingar. Det är här som faran ligger. Om värderingarna inte stämmer överens med mina så kommer en AI-funktion att påverka mig och kanske hela samhället åt ett håll ingen önskar. Så frågan är huvudsakligen inte om AI kan fatta ett beslut åt mig, utan vilka värderingar ligger inbakade i beslutet.

Att överlåta sina val och beslut åt en AI-algoritm är därför ingen bra idé utan att först checka vilka värderingar som ligger bakom. Och vem har koll på det, när dagens chat-robotar dammsuger samtliga värderingar som finns på internet idag. Det är här som reglerarna av framtidens AI behöver lägga sitt krut. Vilken etik och vilka värderingar är det som styr algoritmernas val?

Så innan vi förfasar oss över riskerna inom AI och ropar på regleringar och begränsningar av den nya tekniken, behöver vi se över vilken etik och vilka värderingar som vi vill baka in i den framtida tekniken. Utan att ha koll på detta så kommer framtida AI-teknik vara potentiellt destruktiv. Och när du ändå gör detta med tanke på framtida AI-teknik så kanske du ska göra en självbesiktning också. Vilken etik och vilka värderingar är du bärare av i din vardag? Finns risken att även du kan vara en potentiellt destruktiv självgående AI-robot vars val styrs av dåliga värderingar.

(Skribent: Henrik Nilsson)