lördag 31 oktober 2015

Kriget mot Universaldatorn, del 2: Moraliska aspekter av AI

Ponera en framtid som kanske inte är alltför avlägsen. I denna framtid förstärks våra hjärnor med hjälp av små datorer och AI. Om kriget mot universaldatorn fortsätter som idag så kommer med stor sannolikhet dessa datorer att vara låsta, försedda med spyware och DRM. Med andra ord kommer den vars hjärna "förbättras" inte att vara i full kontroll över hur den förbättras och förändras. Inte heller kan man veta hur mycket information om ens hjärna och dess användning som skickas till de centrala system som vill lära sig mer om hur jag är för att ge mig reklam som är anpassad eller hjälpa Arbetsförmedlingen 2.0 att tvinga mig till precis rätt jobb för mig.

Nåväl, det finns andra problem med denna eventuella hjärn-dator.

Politiken och statens våldsmonopol söker ständigt nya sätt att se till att människor följer lagen och moralen bakom lagen. Detta är på sitt sätt också i sin ordning, då det ju faktiskt är statens uppdrag att se till att med hjälp av sitt våldsmonopol upprätthålla lagen. Det finns dock en stor poäng i att staten inte till fullo kan upprätthålla den stiftade lagen, då detta underlättar den typ av civil olydnad som i stor utsträckning krävs för att genomföra mer radikala lagförslag som går emot politikernas viljor.

Att staten därför söker mer kontroll och fler sätt att veta vilka som bryter lagen och kunna bestraffa dessa, är i sin ordning i sig. Men det krävs motaktioner från folket och från dess förkämpar. Det här är en viktig maktbalans som rubbas när staten får för stora möjligheter. Vi ser detta ske i kampen om kulturdelningen redan - väldigt utbredd civil olydnad och vilja till ändrad lag möter ständigt utökad övervakning och ökade straff i "pedagogiskt" syfte.

I framtiden vi diskuterar finns dock det ultimata verktyget för staten - små datorer som hjälper våra hjärnor på traven. Ponera att denna dator, utan att jag kan hindra den - utan att jag ens kan veta att den gör det - hindrar mig från att bryta mot lagen. Eller kanske till och med hindrar mig från att tänka på att bryta mot lagen, planera inför det. Om möjligheten fanns är jag övertygad om att många stöttat en sådan utveckling.

Om du tycker att den här framtiden är så avlägsen att det inte är värt att fundera över sådana här problem, tänk såhär istället. Kunskap är makt, och ingen kunskap utan information. Den (eller snarare det) som styr vad för information jag tar in, styr också min kunskap och utövar makt över mig. Googles, Facebooks, m.fleras artificiella intelligenser och algoritmer utövar kontroll över dig redan nu, en kontroll som inte lär minska med utökad digitalisering och centralisering av internet.

För att kunna fortsätta bryta omoraliska lagar och inte låta våra hjärnor bli ändrade för vinstmaximering hos de företag som allierar sig med staten måste vi vinna kriget om universaldatorn och kräva att all känslig infrastruktur nyttjar open source (eller dylikt), så att vi kan veta vad vi inte får veta.

Inga kommentarer:

Skicka en kommentar