…berättar varför jag nyss skrev på ett upprop om tillfälligt stopp för Artificiell Intelligens.
I Goetes saga “Trollkarlens lärling” ber trollkarlen sin lärling att ta in vatten i stugan när han själv ska gå ett ärende. Lärlingen tycker arbetet är tungt och förtrollar därför en kvast så att den hämtar vattnet i stället. Men när kvasten är klar med sin syssla kan inte lärlingen få stopp på den. Snart är rummet fyllt med vatten eftersom kvasten inte själv förstår när den ska sluta.
Den gamla sagan dök upp som en liknelse i en artikelserie i tidningen the Economist häromveckan. Artiklarna handlade om AI, Artificiell Intelligens, alltså när man lyckas få datorer att simulera mänskliga tankeprocesser. Och här har vi ju ett område som kan ge uppslag till hundra feel-good filmer, och lika många skräckisar…
För AI-utvecklingen går ruskigt fort just nu.
Alla de stora teknikbolagen som Google, Meta (Facebook) och andra formligen öser in pengar för att öka takten. Och det ger resultat.
Nyligen klarade en AI en amerikansk advokatexamen.
Och det debatteras om Googles AI, de facto, har utvecklat ett eget medvetande. När den ansvarige dataingenjören på Google upptäckte det kan man gissa att han, likt doktor Frankenstein, tänkte; ”It´s alive, it’s alive!!”. Men inte i en eufori av sinnesförvirrad glädje, utan av oro. För vad kan hända om en oerhört kraftfull dator utvecklar ett eget medvetande och i förlängningen egen vilja?
Ingen vet.
Så ingenjören kontaktade ledningen och larmade.
När de ignorerade honom gick han till media.
Då fick han sparken…
Så, vad ska man tro om utvecklingen inom Artificiell Intelligens?
Den frågan ställdes nyligen till sju hundra forskare inom AI-området. De flesta av dem trodde att utvecklingen kan ge stora möjligheter för mänskligheten. Framtidens AI kan potentiellt hitta vaccin mot rader av sjukdomar, eller metoder att få fram energi utan utsläpp. De kan helt enkelt bli mycket, mycket intelligentare än oss människor.
Samtidigt uppskattade de sju hundra forskarna en femtonprocentig risk att Artificiell Intelligens kan orsaka skada i framtiden, varav fem procents risk för extremt stor skada. I det senare fallet pratar vi skada av magnituden utrotning av mänskligheten.
Just därför har många högprofilerade personer i IT-världen, både företagare och akademiker, startat ett upprop för att stoppa utvecklingen av Artificiell Intelligens till dess vi har tydliga regelverk och lagar på plats.
Det låter klokt, tycker jag.
Vi som varit med ett tag har sett hur vi flyttat över alltmer kunskap från våra hjärnor till datorerna de senaste decennierna. Min pappa ritade och byggde hus från 60-talet och framåt. Han ritade på sitt ritbord med hjälp av penna och linjaler. För beräkningar använde han en räknesticka.
Två av mina barn är också ingenjörer. De gör sina ritningar med hjälp av datorprogram och på en bråkdel av tiden det tog pappa att rita. Smidigt för dem såklart, men det är också kunskap och kanske även en viss yrkesstolthet som gått förlorad på vägen.
Så är det i vart och vartannat yrke nuförtiden, vi är enormt beroende av datorerna. Och med den nya AI-tekniken är vi på väg att ta ett riktigt sjumilakliv på samma väg.
Men, vill vi verkligen det?
Härom veckan berättades till exempel om ett företag inom grafisk design. De har tagit hjälp av en AI, och en av deras designers sa: ”Jag har inte en chans mot AI:n. Den är så mycket snabbare och bättre så nu får jag nöja mig med att berätta för AI:n vad jag vill ha och så sköter den resten. Hela den kreativa och konstnärliga delen av mitt arbete, alltså anledningen till att jag blev designer, är borta…”
Han var inte glad.
Liknande saker händer i en rad branscher, från juridik och ekonomi till medicinsk diagnostik och författarskap.
I Hollywood planerar just nu manusförfattarna för en storstrejk eftersom filmbolagen låter Artificiella Intelligenser skriva manus till filmer och serier, och bara tar in manusförfattarna för att renskriva och sätta lite extra knorr. Resultatet blir att manusförfattarna kan förlora både sin upphovsrätt och yrkesglädjen i att göra en kreativ insats.
Som sagt, det går fort nu.
Dessutom finns alltså en liten, men verklig, risk att våra uppkopplade datorer och telefoner en dag i framtiden löper amok likt kvasten hos Trollkarlens lärling. Det är nog också anledningen till att ledande teknikföretags-människor berättar att de ligger vakna om nätterna och tänker på vad den nya AI-tekniken kan ta oss, både det positiva och negativa.
Här ska erkännas att undertecknad också hamnat i den tankefåran emellanåt, och i mörka stunder förs tankarna till science-fictionförfattaren H.G. Wells ”Världarnas Krig” från förra sekelskiftet:
”Deras medvetande jämfört med våra, är som vårt medvetande jämfört med djur som utrotats. Enorma intellekt som kallt och likgiltigt gör sina planer mot oss.”
I Världarnas Krig handlade det om Marsmänniskor som smidde planer för att ta över jorden. Hos oss kan det visa sig bli datorerna.
Så vad ska vi göra?
Trollkarlens lärling bröt kvasten i två delar för att få stopp på den, men då blev kvasten till två kvastar och fyllde på vatten dubbelt så fort i stugan. Det var först när trollkarlen, som kunde rätt trollformel, kom hem som de till slut fick stopp på kvasten.
För oss finns inga trollformler att ta till, utan i värsta fall kan vi helt enkelt behöva dra ur strömsladden ur datorn och stänga av våra smartphones under en lång period. Kanske för alltid.
Det vore intressant att veta hur förberett vårt samhälle är på en sådan sak?
Nåja, det får vi hoppas att våra styrande redan har tänkt på, för det är definitivt ingen brist på information eller varningar på området.
Vi andra då?
Ja, det är såklart bra att vara medveten om vad som är på gång. Kanske väntar en fullkomligt fantastisk tid runt hörnet.
Eller något helt annat.
Hur det än blir så finns det ingen vits att gå runt och oroa sig för sådant man inte kan påverka. För egen del har jag ändå valt att skriva på det där uppropet, av den enkla anledningen att det känns klokt att skynda långsamt på det här området.
Som avslutning kan berättas att undertecknad var i kontakt med en Artificiell Intelligens idag. ”Open AI” heter den och är tillgänglig för alla på nätet. Jag hade just fått frågan vad jag trodde om framtiden för traditionellt hantverk. Eftersom jag inte har en susning om den saken, och redan börjat skriva den här texten, passade jag på att ställa frågan till Open AI.
Först förklarade AI:n att den inte kan förutse framtiden, men sedan gav den ändå ett utförligt och trovärdigt utlåtande.
Det ser riktigt ljust ut för hantverk kan jag meddela.
Ja, det är väl sådant vi får ägna oss åt om AI-revolutionen går helt åt pipan. Ingenjörerna får plocka fram räknestickorna, designern sina penslar – och några kanske börja binda kvastar.
