Lanseringsseminar NB-Whisper

Tale er det som skiller oss mennesker fra dyr. Etter hvert har vi også utviklet skriftspråk og boktrykkekunst, og dette har blitt digitalisert, men tale er fremdeles mest praktisk og effektivt for de fleste formål. Det er stort sett tale vi bruker når vi omgås andre mennesker. Tale har imidlertid vært en knotete måte å samhandle med maskiner på. Hjemme har jeg såkalte smarte systemer som er talebaserte og som kan styre alt fra lys til musikk, men jeg bruker de ikke så mye; rett og slett fordi de ofte misforstår meg. Jeg har lenge tenkt at den dagen dette faktisk fungerer så tror jeg mye kan endre seg. I dag, 15. februar 2024, er kanskje denne dagen her. Nasjonalbiblioteket har nå frigitt sine tale-til-tekst-modeller.

Aslak Sira Myhre åpnet lanseringsseminaret med å fortelle om hvorfor vi har Nasjonalbiblioteket. Deres oppgave er å være vår kollektive hukommelse. De har alle norskproduserte dokumenter lagret, slik som aviser, tidsskrifter og bøker, men også digitale dokumenter, film, video, fotografi, kart, kringkasting, lydbøker, musikk, notetrykk, postkort, plakater, småtrykk og teatermateriale. 

Allerede i 2004-2005 startet de sitt store digitaliseringsprogram. Det var svært fremsynt, det var faktisk unikt i verdenssammenheng. Og det har ført til at det meste av det norske skriftspråk, slik som bøker og aviser, nå er digitalisert.

Dette arbeidet har blitt styrket ved at Språkbanken ble opprettet i 2010. Språkbanken har som formål å lage store datasett for å utvikle god språkteknologi for norsk.

I seminaret tok Yngvil Beyer, seksjonsleder for Språkbanken, over roret etter Aslak og introduserte dagens store helt, Per Egil Kummervold. Det er Per Egil som har ledet AI-laben i arbeidet med å utvikle norske hviske-modeller. Nasjonalbibliotekets AI-lab i Rana. Eller Rana, Madrid og Tromsø, som det ble sagt. Med på laget har Per Egil hatt Freddy Wetjen, Rolv-Arild Braaten og Javier de la Rosa.

Nasjonalbibliotekets AI-lab har utviklet fem modeller: de kalles Tiny, Base, Small, Medium, Large. Alle er basert på OpenAI sin whisper teknologi. Den minste (Tiny) krever relativt lite regneressurser og kan være praktisk for eksempel for bruk på mobiltelefoner. Den største krever 32x mer regneressurser og bør ha kraftige maskiner for å kjøre. Dataene som har blitt brukt er til sammen 23 189 timer med transkribert lyd. Kildene er stortingstaler, Norsk språkteknologi fra Voss, NRKs undertekster fra fjernsynsproduksjoner (semantisk data, 14 000 timer) og lydbøker (ganske ordrett).

Nasjonalbiblioteket publiserer dette som åpne modeller, tilgjengelig for alle. Modellene er lagt ut på Hugging Face, og hvem som helst kan laste de ned og bruke de. Det betyr antakelig at Nasjonalbiblioteket går glipp av massive inntekter, og det er du og jeg og samfunnet som er vinneren. Dette går hånd i hånd med tanken om at KI-modeller kan sees på som grunnleggende infrastruktur, og at nasjonale institusjoner som for eksempel Nasjonalbiblioteket og universiteter har et ansvar for å bygge denne infrastrukturen.

KI-agoritmer som blir grunnleggende infrastruktur, og som i tillegg er bygd av skattebetalernes penger, må være åpen og tilgjengelig. Det skaper tillit til teknologien og de som utvikler disse, og det gjør at modellene kan videreutvikles av andre. Og ikke minst er åpne modeller grunnlaget for innovasjon. Nå er det opp til næringslivet å lage tjenester på toppen av disse modellene. Og det skulle vise seg å skje fort. Eller som Per Egil sa: «Per nå finnes ikke kommersiell programvare for å laste ned og kjøre modellene, men vi tror det kommer raskt. Kanskje allerede før lunsj i dag.»

Og før lunsj kom det. VGs (Schibsteds) Anders Haarr fortalte om applikasjonen Jojo. Den kan lastes ned og testes ut allerede i dag. VG har brukt den en stund selv - de har også vært med i en test-gruppe i lang tid. Vi fikk høre flere morsomme eksempler på hvordan tidligere versjoner av modellene hadde gjort feil. Latteren spredte seg i lokalet når Vedums latter ble transkribert som «gløgg» gjentatt over en hel a4-side. Andre morsomheter begått av tidligere versjoner var når «drosjesjåfør» ble transkribert "råstorsforfør" og "de har en gjennomsnittsalder på 47 år" ble til "de har en jævla fritidsalder på 47 år". For ikke å snakke om feilaktige oversettelser av egennavn, "Guttormsen" ble blant annet "Gutter-mussen". Schibsted vurderte visst selv å skifte navn til Chipssted, for å tilfredsstille algoritmene.

Det var noen barnesykdommer i utviklingsfasen, men nå går alt så meget bedre. Det er et imponerende arbeid Nasjonalbiblioteket har gjort. Modellen er langt bedre på norsk enn det OpenAI sine modeller er. De fungerer på norske dialekter, norsk og nynorsk, og også samisk, selv om det ikke ble vist.

Jeg har lenge tenkt at fremtidens interaksjoner med teknologi i mye større grad vil være gjennom tale. Nå er fremtiden her.

Kunstig intelligens – hva hvis vi lykkes?

Fra Fredriksstad Blad 04.01.24 

Drømmen for mange forskere og utviklere av kunstig intelligens har vært å skape dataprogrammer som er smartere enn oss selv. Det har vi allerede fått til innenfor mange spesifikke områder, som for eksempel for sjakk. Utfordringen har vært å utvikle programmer som er intelligente på de aller fleste områder, slik som menneskehjernen. Denne intelligensen kan ta form som et program i en datamaskin, som kan hjelpe til med alle oppgaver vi bruker datamaskinen til, eller den kan være en personlig assistent i telefonen som vi alltid kan ha med oss. Eller så kan intelligensen sitte i en robot, slik at roboter kan hjelpe oss med mange av våre oppgaver.

For de aller fleste har dette vært en drøm om noe som kanskje kan bli realitet langt inn i fremtiden, og mange har ment at det aldri vil kunne skje at maskiner blir mer intelligente enn mennesker. I 2023 endret dette synet seg for veldig mange.

Denne endringen i synet på kunstig generell intelligens kommer som en konsekvens av den voldsomme utviklingen i fagfeltet de siste par årene. Vi har fått verktøy, som OpenAI sin ChatGPT eller Google sin Gemini, som til tider kan virke like intelligente som mennesker. I tillegg har disse modellene nå mulighet til å tolke bilder og generere bilder. De er med andre ord ikke bare tekstbaserte, men de kan også «se». Ikke lenge før jul kom det nye modeller hvor disse verktøyene også forstår tale svært godt. Programmene har blitt det vi kaller multimodale. De har nå flere sanser å spille på, og som kan kombineres slik at maskinen får en bedre forståelse av verden og dermed kan ta bedre beslutninger.

Det er ingen tvil om at kunstig intelligens er i ferd med å bli en kraftfull teknologi. Hele vår sivilisasjon er en konsekvens av intelligens, og det er vanskelig å spå hva som vil skje dersom den totale intelligensen på jorda mangedobles. Men det kan skje, og den mulige oppsiden er enorm. Kraftfulle teknologier kan brukes til mye bra, men de kan også misbrukes. I mange år har sterke personligheter som Elon Musk, Max Tegmark, Stuart Russell og Stephen Hawking anerkjent de mulige oppsidene, men de har også advart mot potensielle negative konsekvenser ved misbruk av kunstig intelligens. Disse personene har til og med vært blant de relativt få som har kalt kunstig intelligens en mulig «eksistensiell trussel» for menneskeheten. Akademikere har stort sett ikke tatt disse tankene veldig seriøst, men i 2023 har dette i stor grad endret seg. Den store endringen kom etter at «the godfather of AI», Geoffrey Hinton, endret syn på dette. Han var tidligere veldig skeptisk til disse dommedagsprofetiene, men i mai gikk han ut i et intervju i New York Times og advarte mot de eksistensielle farene ved kunstig intelligens. Samtidig sa han opp en bistilling han hadde i Google, slik at han fritt kunne si hva han mente.

Hinton, og andre med ham, har det siste året tatt opp flere interessante eksistensielle spørsmål. Hvordan kan for eksempel en art ha kontroll over en annen art som er mer intelligent? Er det i det hele tatt mulig? Hvordan kan vi sørge for at kunstig intelligens kommer hele menneskeheten til gode?

Mange forskere og utviklere har det siste året ønsket en pause i utviklingen av kunstig intelligens. De mener den går for raskt. Men det er svært vanskelig, om ikke umulig, å pause en teknologisk utvikling. Noen land og miljøer vil uansett ikke sette utviklingen på pause. Så da er alternativet å intensivere forskningen på spørsmålene om hvordan kunstig intelligens kan kontrolleres og styres til det beste for menneskeheten, og så må teknologien reguleres. Det vil raskt komme reguleringer på dette området. Like før jul ble det enighet i EU om en forordning som nå skal implementeres i EU-land, og som er ventet å bli implementert raskt også i Norge. 

Skal vi frykte en fremtid med kunstig intelligens? Jeg mener helt klart nei. Kunstig intelligens har enorme oppsider. Teknologien vil gi oss muligheter til å utvikle nye medisiner og gi mer persontilpasset behandling, mange yrker vil bli enklere og en del oppgaver vil bli tatt over av kunstig intelligens. Dette betyr selvfølgelig at samfunnet må endre sin struktur, og endring kan være smertefullt, men alt i alt vil det bety at vi kan skape mer verdi, og ved god politisk styring kan dette føre til mindre fattigdom, bedre helse og at vi alle får mer tid til å gjøre spennende og viktige oppgaver.

Det var oppsidene. Men hvorfor tror jeg ikke vi skal frykte negative konsekvenser av kunstig intelligens? Fordi jeg mener at det ikke er intelligens som er grunnen til lidelse og undertrykkelse i verden. Gjennom evolusjonen er vi programmert til å kjempe for våre egne gener. At det nå er krig i Ukraina og Midtøsten er ikke fordi vi har for mye intelligens, snarere tvert imot. Hadde de mest intelligente menneskene vært de som regjerte planeten så ville Einstein vært enehersker for lenge siden. Slik er det ikke. Det er helt andre årsaker til at noen mennesker velger å undertrykke andre for egen vinnings del. Og disse mindre sympatiske menneskelige trekkene kommer vi ikke til å programmere inn i algoritmene. Men det betyr ikke at vi ikke skal ta de alvorlige spørsmålene til skarpe hoder som Hinton, Tegmark, Musk, Hawking, Russell og stadig flere forskere seriøst. Spørsmålene er viktige, og de angår oss alle.

Heldigvis har vi i 2023 sett at norske politikere og beslutningstakere virkelig har våknet. Nå må vi skape flere arenaer for å diskutere kunstig intelligens, Norge må ta del i utviklingen og så bør så mange som mulig teste ut disse spennende verktøyene som er der ute. For fagfeltet kunstig intelligens er for viktig til å bli overlatt til teknologer alene. Kunstig intelligens angår oss alle.

Ressurser/Linker

 'Godfather of AI' warns that AI may figure out how to kill people:

• CNN: Why the ‘Godfather of AI’ decided he had to ‘blow the whistle’ on the technology
• New York Times (+): ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead
• Artikkel (arXiv): Managing AI Risks in an Era of Rapid Progress

Tittelen på dette innlegget er inspirert av Stuart Russell, som har skrevet "If We Succeed" og holdt flere foredrag om dette temaet:

Kunstig intelligens og bevissthet

Fra Fredriksstad Blad 01.01.23

I 2022 gjorde kunstig intelligens (AI) enda noen store byks framover. Dette var året da AI virkelig nådde forbrukermarkedet. AI drepte skoleverkets tradisjonelle hjemmestil og ga oss vakre bilder vi kan poste på Instagram. Men hva er egentlig intelligens og hva er bevissthet? Kan dataprogrammer bli bevisste?

I juni gikk Google-ingeniøren Blake Lemoine ut offentlig og advarte om at deres kunstig intelligens-program, LaMDA, var blitt bevisst. «LaMDA er et søtt barn som bare vil bidra til at verden blir et bedre sted for oss alle», skrev han. Nyheten nådde verdenspressen, og til tross for kritikk sto Lemoine på sitt. Han mente LaMDA var bevisst. «Jeg kjenner igjen personer når jeg snakker med dem,» sa Lemoine i et intervju med Washington Post. «Det spiller ingen rolle om de har en hjerne laget av kjøtt eller om de har en milliard linjer med kode. Jeg snakker med dem. Og jeg hører hva de har å si, og det er slik jeg bestemmer hva som er og ikke er en person.»

Påstandene om at LaMDA er bevisst har blitt tilbakevist av det vitenskapelige samfunnet og av Google selv, og Lemoine måtte også slutte i sin stilling i Google.

LaMDA er et dataprogram som har trent seg opp på store deler av internett til å bli ekspert på å forutsi hva neste ord skal være i en setning. Denne egenskapen kan programmet bruke til å lage setninger og lengre tekster. I fagfeltet blir slike språkalgoritmer kalt stokastiske papegøyer. Programmet kan ikke reflektere, det kan ikke føle noe og algoritmen forstår ikke hva den sier. Den er rett og slett veldig god på å etterape tekster. 

Men hvordan kan vi være så sikre på at dataprogrammer ikke kan være bevisste? Hva er egentlig bevissthet?

Sammen med en håndfull andre store spørsmål, har «bevissthetens mysterium» vært et av menneskehetens største og viktigste mysterier siden Aristoteles’ tid.

Ett etter ett har de store mysterier blitt løst, avslørt og demystifisert. I begynnelsen av forrige århundre ble de store mysterier innenfor fysikk og kjemi forstått. Einstein og andre kjente fysikere avdekket naturens grunnleggende lover. Fram til midten av forrige århundre var imidlertid hvordan liv fungerte fortsatt et stort, uløst mysterium. Som alle andre store spørsmål som ikke har en vitenskapelig forklaring hadde livets mysterium stort sett vært overlatt til religion og filosofi.

Francis Crick var en forsker med ambisjoner om å løse de gjenværende store problemer ved bruk av vitenskapelig metode. Historien er kjent - sammen med Watson løste Crick «livets mysterium». Watson og Crick pleide å spise lunsj og tilbringe kvelder på The Eagle pub i Cambridge, en legendarisk pub som ble etablert på 1600-tallet. Og hva var vel da mer naturlig enn at det var på denne puben at Crick annonserte forrige århundres kanskje største oppdagelse. Den 28. februar 1953 proklamerte Crick at de hadde «avslørt livets hemmelighet». De hadde oppdaget strukturen til DNA og forsto ut fra denne oppdagelsen hvordan liv fungerer.

Etter at livets mysterium var løst mente Crick at det var ett stort mysterium som gjensto: Hva er bevissthet? Crick tok nå fatt på oppgaven, og i hans bok «The asthonishing hypothesis» tok han utgangspunkt i det han kalte en «forunderlig hypotese» som sa at en persons mentale aktiviteter skyldes helt og holdent oppførselen til hjerneceller og atomene, ionene og molekylene som utgjør dem og påvirker dem. Dette var kanskje forunderlig for mange på 1990-tallet, når boken kom ut, men blant forskere er dette en ganske grunnleggende tanke: at naturen, inkludert liv og bevissthet, kan forklares ut fra naturlovene og vitenskapelig metode. Bevissthet oppstår og kan forklares fra aktivitet i hjernen. Og sammen med Christof Koch tok Crick opp jakten på bevissthetens byggestener ved å saumfare hjernen.

Bevissthetens mysterium var noe som opptok Crick resten av hans liv, og Koch har fortsatt forskningen om å finne «bevissthetens minstedel» i hjernen også etter Cricks død. Hvor i hjernen sitter bevisstheten? Hva er den minste delen av hjernen som trengs for at man skal være bevisst?

Selv om jakten på bevissthetens hemmelighet er i full gang, er vi foreløpig langt unna å ha et svar. Vi vet nå en del om hvilke deler av hjernen som er aktive og nødvendige for å være bevisst, og vi har også noen teorier for bevissthet. Der stopper imidlertid vår forståelse og bevissthet er derfor fremdeles et mysterium.

Siden man enda ikke har en god forståelse av bevissthet er det også vanskelig å si bastant at dataprogrammer eller roboter ikke kan bli bevisste i framtiden. Én ting er imidlertid sikkert, dataprogrammer vil bli gode på å simulere at de er bevisste. 

Dataprogrammer har i lang tid blitt brukt for å simulere virkeligheten. Vi kan bruke programmer for å beregne hva som skjer i et sort hull i universet eller for å lage værmelding. Nå kan programmene også til en viss grad simulere at de er intelligente og de kan til en viss grad simulere bevissthet. I framtiden vil det bli langt flere enn Blake Lemoine som lar seg overbevise om at programmet de snakker med er bevisst. Og kanskje vil vi også få følelser for algoritmene, slik Spike Jonze allerede i 2013 skildret i filmen Her. Der blir Theodore (Joaquin Phoenix) forelsket i Samantha (Scarlett Johansson), som er en kunstig intelligens som kun eksisterer i Theodores telefon og datamaskin.

Kunstig intelligens kan bli brukt til mange gode formål. Man trenger imidlertid ikke å ha mye fantasi for å tenke seg hvordan kunstig intelligens også kan misbrukes, og hvordan slike algoritmer kan brukes til manipulering.

Da er det viktig å merke seg at simuleringer av bevissthet kun er simuleringer. Man skaper ikke et sort hull ved å simulere et sort hull. Man skaper heller ikke bevissthet ved å simulere bevissthet.

Hva så med intelligens? Kanskje det er annerledes? Skaper vi faktisk intelligens ved å simulere intelligens?

Hva er intelligens?

Fra Fredriksstad Blad 28.12.21

Når vi hører ordet ”intelligent” ser vi ofte for oss en bustete forsker ved navn Albert Einstein. Einstein var unektelig intelligent. Ved hjelp av matematikk og tankekraft klarte han å utlede flere av fysikkens viktigste naturlover. Men hva er egentlig intelligens?

Hvis vi fortsetter å se for oss Einstein og arbeidet han gjorde kan vi si at intelligens er å ha evne til å løse avanserte problemer. Men det er mange andre kjennetegn ved intelligens. For eksempel evnen til å lære, evnen til å se mønster, evnen til å abstrahere og resonnere og evnen til å overføre kunnskap fra ett felt til et annet. I praksis handler intelligens om vår evne til å forutsi framtiden og planlegge deretter. Språk og matematikk kan være viktige verktøy i denne prosessen, men ikke nødvendige. Dyr som hunder og aper kan også sies å være intelligente. De senere år ser vi også at dataprogrammer kan være intelligente. Dataprogrammer kan nå løse avanserte problemer som for få år siden var forbeholdt mennesket. Det er dette som kalles kunstig intelligens.

Intelligens er med andre ord sammensatt. Man kan snakke om kreativ intelligens og emosjonell intelligens, og man kan være intelligent innenfor spesifikke områder, for eksempel matematikk eller språk. Mennesker som er intelligente innenfor ett område er ofte intelligente også innenfor andre områder. Allerede i 1904 publiserte den engelske psykologen Charles Spearman en artikkel som viste at engelske skolebarn som gjør det bra på skolen, gjerne gjør det bra i mange av fagene. Han så at dersom en elev gjør det bra i for eksempel engelsk, er det en ganske stor sannsynlighet at eleven gjør det bra også i matematikk. Dette var overraskende, da det ikke er en åpenbar overføringsverdi mellom de to fagene. Spearman mente at vi kan ha intelligens innenfor gitte, smale områder, og han definerte også en generell intelligensfaktor, ofte referert til som g-faktor, som var et mål på generell intelligens.

Innenfor kunstig intelligens skiller vi også mellom smal intelligens og generell intelligens. Kunstig smal intelligens er et dataprogram som er utviklet for å løse én spesiell oppgave. Det kan være et dataprogram som gjenkjenner en type kreft i medisinske bilder eller et dataprogram som kan spille sjakk. Det er lenge siden dataprogrammer var bedre enn de beste mennesker i sjakk, og nå ser vi at mennesket blir forbigått av kunstig intelligens i område for område. Dette gjelder ikke bare innenfor relativt enkle brettspill, det gjelder også for mer komplekse problemer som gjenkjenning av forskjellige objekter i bilder. Men, og dette er viktig, mennesker skiller seg likevel fra de mest kraftige dataprogrammene ved at mennesker har generell intelligens. Foreløpig er vi langt unna å lage kunstig generell intelligens. Det betyr også at vi er langt unna å kunne utvikle en robot som er lik oss mennesker og som kan hjelpe oss med å løse mange forskjellige typer oppgaver i hjemmet.

Det er intelligens som har ført til menneskehetens store fremskritt de senere årene, og som har gjort at vi nå lever langt bedre liv og har doblet levealderen de siste to hundre år. Vi er nå i startgropen av feltet kunstig intelligens, hvor intelligent programvare kan hjelpe oss med alt fra medisinsk diagnostisering og utvikling av nye medisiner til automatisering av prosesser i industrien og kanskje også selvkjørende biler. Denne intelligenseksplosjonen som vil skje de neste årene må Norge ta del i, og det er vi er godt skikket til å kunne gjøre.

Vi har en lang og god tradisjon i Norge for å forstå intelligensens byggestener gjennom fremragende hjerneforskningsmiljøer. I 1966 avdekket Terje Lømo viktige mekanismer for hukommelse i labben til Per Andersen ved Universitetet i Oslo, og arven derfra har gått videre og resulterte også i at Edvard og May-Britt Moser fikk Nobelprisen for sine oppdagelser av mekanismer bak stedsans.

Nå satses det også friskt på kunstig intelligens i Norge, blant annet ved at de fleste sterke akademiske institusjoner forener sine krefter i samarbeidet NORA.ai. NORA.ai er et bredt samarbeid innenfor kunstig intelligens i Norge. Når vi i NORA.ai i høst holdt en nordisk konferanse i kunstig intelligens var det både faglig interessant og symbolsk viktig at hjerneforsker og nobelprisvinner Edvard Moser holdt konferansens åpningsforedrag. 

Grunnlaget for kunstig intelligens er å ha gode algoritmer, gode datamaskiner (regnekraft) og ikke minst gode data. I Norge har vi en høy grad av digitalisering, og disse dataene kan være et springbrett for å utvikle gode algoritmer som kan hjelpe oss å løse komplekse problemer. Innenfor kunstig intelligens samarbeider akademia også i stadig større grad med næringsliv og offentlig sektor. Med fortsatt fokusert satsing kan vi i Norge øke vår intelligens og vår verdiskapning ved å ta i bruk intelligente dataprogrammer. Her må også Østfold og Fredrikstad kjenne sin besøkelsestid.

Det vil være uintelligent ikke å satse på intelligens.

Hvordan kan kunstig intelligens forstå tid og rom?

Fra forskning.no 28.08.21

Tid og rom er grunnleggende for universets eksistens, og menneskets intelligens er vårt verktøy for å navigere i tid og rom på en hensiktsmessig måte. Vår evne til å se inn i fremtiden er kritisk. Gjennom evolusjonen har menneskehjernen utviklet seg til et instrument som ikke bare oppfatter tid, rom og objekter, vårt nevrale nettverk predikerer også hva som kommer til å skje i nær framtid. Hva slags bane vil steinen du kastet ta? I hvilken retning faller treet? Hvordan kan du unngå å bli bitt av ormen som ligger foran deg? Hvor er barnet som går langs veien i ferd med å bevege seg?

I en del former for kunstig intelligens (KI) støter vi på lignende spørsmål. Hvis vi klarer å utvikle algoritmer som håndterer rom, tid og prediksjon av nær fremtid på en god måte vil samfunnet endre seg dramatisk. Algoritmene som brukt i selvkjørende biler er et slikt eksempel – bare tenk hvordan selvkjørende biler vil endre samfunnet!

Utvikling av selvkjørende biler handler om å lage maskiner som agerer på sine prediksjoner om framtiden i et miljø hvor rom og tid er essensielt. Når kunstig intelligens sitter bak rattet er det ikke bare kritisk at den følger trafikkreglene, men også at den bruker sine kameraer til å se og forstå hva som er i nærheten (persepsjon); at den kan forutsi andre bilers bevegelser, syklisters bevegelser og menneskers bevegelser (prediksjon); og at den kan agere på en hensiktsmessig måte (aksjon). Å forstå trafikkbildet, predikere andre objekters bevegelse og ikke minst selv foreta riktige aksjoner er et særdeles vanskelig problem og krever en sofistikert form for intelligens.

Tesla er firmaet som har kommet lengst når det gjelder å utvikle KI-algoritmer for selvkjørende biler. De arrangerte nettopp sin ”AI day”, hvor de forklarte hvordan algoritmene fungerte. Tesla viste også fram sine nye databrikker og supercomputere som de har utviklet for igjen å kunne utvikle fremtidens algoritmer for selvkjøring. Betimelig nok var første lysark i Teslas presentasjon en kjent fremstilling av hjernen og hvordan hjernens synssans er bygd opp. Hjernen og synssystemet er med andre ord inspirasjonen når Elon Musk og hans mannskap utvikler sine algoritmer.

Det som for meg er mest spennende med de nye metodene Tesla bruker er at alle prediksjoner blir gjort i det som kalles vektorrommet, som på mange måter er algoritmens ”mentale modell”. Prediksjoner av framtiden blir ikke foretatt på bilder eller film direkte. Filmene fra bilens kameraer blir først oversatt til en koherent og forenklet versjon av virkeligheten, omtrent slik hjernen gjør det. Her eksisterer biler, mennesker, syklister og andre objekter som forenklede objekter i maskinens ”mentale modell”, hvor hvert objekt har sine tilordnede koordinater i tid og rom.

En annen spennende utvikling er at tiden nå blir behandlet mer realistisk i Teslas algoritmer. Dette er i kontrast til tidligere utgaver av Teslas algoritmer, hvor kameraets film ble behandlet som enkeltbilder, noe som gjorde at virkeligheten ofte ikke ble koherent over tid. For eksempel ville en bil som et øyeblikk forsvant ut av syne bak en større bil forsvinne fra Teslaens mentale modell.  Med teknikkene Tesla nå bruker behandles tid og rom sammen. Som mennesker vet vi at selv om sikten vår blir hindret vil ikke en bil plutselig forsvinne. Bilen fortsetter å eksistere et sted både i virkeligheten og i vår mentale modell. Slik er det på mange måter nå også for Teslas algoritmer. 

Teslas utviklerteam har tatt inspirasjon for sine algoritmer fra hjernen og hvordan hjernen koder for tid rom og objekter. Innenfor dette temaet er Norge en høyborg for kunnskap. Edvard og May-Britt Moser er blant de i verden som har forsket mest på hvordan hjernen oppfatter rom og tid. I 2014 fikk de nobelprisen sammen med John O’Keefe for "their discoveries of cells that constitute a positioning system in the brain". Ved deres lab i Trondheim, The Kavli Insitute for Systems Neuroscience, har utallige studenter blitt utdannet innenfor samme fagfelt. Kan denne kunnskapen nå brukes for å inspirere og produsere ”norsk kunstig intelligens”? Det ser slik ut. Flere norske forskningsgrupper, blant annet Centre for Integrative Neuroplasticity (CINPLA, UiO) og Living Technology Lab (OsloMet), har den senere tid startet forskning i grensesnittet mellom nevrovitenskap og kunstig intelligens. Fagfeltet kalles bio-inspirert kunstig intelligens og er et fagfelt som er sterkt voksende internasjonalt. 

Og hva er vel da mer naturlig enn at når NORA arrangerer en nordisk konferanse i kunstig intelligens for unge forskere så holdes åpningsforedraget av hjerneforsker Edvard Moser og har tittel ”Space, time and memory in neural networks of the brain”? Jeg håper foredraget kan være til inspirasjon for fremtidens forskere innenfor kunstig intelligens og at disse to norske satsingsområdene, nevrovitenskap  kunstig intelligens, vil bindes enda tettere sammen. 

Ressurser

Edvard Mosers foredrag for Nordic AI Meet: Edvard Moser - Space, time and memory in neural networks of the brain

Teslas AI Day 2021 

Klara og solen av Kazuo Ishiguro

Ishiguro ble tildelt Nobelprisen i Litteratur i 2017. I mars 2021 kom hans første roman etter at han mottok Nobelprisen. På omslaget står det ”Klara er en Kunstig Venn – en form for kunstig intelligens utviklet for å hjelpe unge mennesker inn i voksenlivet.” At en nobelprisvinner i litteratur skriver om kunstig intelligens vekket naturlig nok min nysgjerrighet.

Spoiler alert: hvis du skal lese romanen bør du stoppe lesingen der grønn tekst slutter.

Dataspill har gjort at min sønn har vært interessert i teleportering. Han har spurt meg om det i fremtiden kan gå an å bli teleportert til et annet sted. Kan vi sende all informasjon om meg til et annet sted i universet og så gjenskape meg der, atom for atom? Og så kom det store spørsmålet: Ville det da være meg? Ville bevisstheten min være med? Og hva ville skje dersom jeg samtidig ble igjen på samme sted, med andre ord, hva ville skje dersom maskinen kopierte meg og det ble to av meg i universet? Kan min bevissthet være to steder samtidig?

Vår konklusjonen fra dette tankeeksperimentet er at bevissthet antakelig ikke kan teleporteres. Men har det egentlig noe å si for andre om min bevissthet ikke blir med i teleporteringen? Kan utenforstående merke forskjell dersom det blir skapt en ny person som er en identisk kopi av meg? 

I sin siste roman har Ishiguro laget et univers hvor han studerer lignende spørsmål.

Klara er en robot. Klara blir kjøpt av Josie og moren for at Josie, som i perioder er syk, ikke skal være ensom. Klara er avhengig av lys for å få energi, og Klara utvikler en tro om at solen har gudommelig kraft. Fra butikkvinduet, der Klara sto til utstilling før hun ble kjøpt, iakttok hun en tigger og hans hund som hun var overbevist om at lå døde på fortauet. Da solen kom fram så hun dem få kraft og bli levende. Når Josie senere blir svært syk tror Klara derfor solen kan hjelpe henne.

Romanen har Klaras synsvinkel, vi følger hennes refleksjoner og vi får straks følelsen av at hun har høy grad av empati med mennesker. Hun virker langt mer empatisk enn moren og de andre menneskene i boken, og refleksjonene og observasjonene hun gjør er relativt menneskelige. 

Men Klara er annerledes enn et menneske og hun oppfattes også annerledes. En kveld da moren drikker sin vin forteller hun hvor glad hun har blitt i Klara og hvor mye roligere Josie har blitt etter at Klara kom til familien. Så spør hun: ”Savner du butikken?” Klara svarer at det hender hun tenker på butikken og de andre kunstige vennene som var der. Moren svarer: ”Det må være fint. Å ikke savne ting. Ikke lengte etter å komme tilbake til noe. Ikke se seg tilbake hele tiden. Alt må bli så mye mer …”

Leseren oppfatter imidlertid helt klart at Klara har følelser. En dag skal moren, Josie, husholdersken og Klara på utflukt til en foss, men moren oppdager at Josie er syk. Det blir en krangel og det ender med at Klara og moren drar på utflukten mens Josie og husholdersken er hjemme. I bilen sier moren: ”Noen ganger må det være deilig ikke å ha følelser. Jeg misunner deg.” Klara tenker seg om, og svarer: ”Jeg tror jeg har mange følelser. Jo mer jeg observerer, desto flere følelser får jeg tilgang til.”

Da moren og Klara er ved fossen utspiller det seg en noe merkelig scene der moren vil at Klara skal etterape Josie. Klara ble opprinnelig kjøpt fordi hun var ekstra oppmerksom. Hun etteraper Josie godt, og moren er fornøyd. Men Klara blir bedt om å ikke fortelle dette til Josie.

En dag skal Klara bli med til byen for å følge Josie til portrettering. Under dette møtet med portrettmaleren Capaldi kommer romanens vendepunkt. Som leser har man gjennom boken akseptert Klaras tanker, at hun har et sjelsliv og også at hun har følelser. Ofte har hun vist mer følelser enn menneskene i boken. Men nå blir det klart at moren til Josie ikke har planer om at datteren skal portretteres på vanlig måte. Josie er syk, og hun skal gjenskapes slik at hun kan leve videre etter sin død. Klara er en del av denne planen til Capaldi og moren. Capaldi maler ikke et portrett, han lager en fysisk kopi av Josie. Klara blir fortalt at når Josie dør, skal Klara ha lært seg Josie så godt å kjenne at hun kan ta på seg den fysiske kopien av Josie og etterape Josie perfekt. Men Capaldi og moren drar det enda lenger. Hun skal ikke bare etterape Josie. Capaldi sier til moren: ”Den andre Josie vil ikke være en kopi. Hun vil være den samme, og du vil ha all rett til å elske henne akkurat som du elsker Josie nå. Det er ikke tro du trenger. Bare rasjonalitet.” 

Moren og faren til Josie er skilt, men begge er med på denne avgjørende turen inn til Capaldi. Faren blir svært oppskjørtet under møtet. Etter besøket, og etter at Klara har blitt fortalt om planen, kjører Klara og Josies far en tur alene. De snakker om Klaras oppgave om å bli Josie. Faren sier: ”Jeg tror jeg avskyr Capaldi fordi jeg innerst inne har en mistanke om at han kan ha rett. At det han påstår er sant. At forskningen nå har bevist utover all tvil at det ikke finnes noe som er så enestående ved min datter, at det ikke er noe der som ikke moderne redskaper kan grave ut, kopiere og overføre.” Senere sier også faren til Klara at hun ikke bare skal være en imitasjon, hun skal bli til Josie. ”For en imitasjon ville ikke være nok, uansett hvor god den var. Du ville måtte lære deg hjertet hennes, og lære det til bunns, ellers ville du aldri bli Josie i noen meningsfull forstand.”

Hvordan går det så med denne planen om at Klara skal bli Josie? Heldigvis slipper de å iverksette planen. Josie blir frisk, ifølge Klara fordi solen gir henne kraft.

Som leser står man igjen med spørsmålet: Hva hvis historien hadde gått annerledes, kunne Klara fullverdig blitt til Josie? Er en perfekt kopi det samme som originalen? Mot slutten av romanen sier Klara: ”Mr. Capaldi mente at det ikke var noe spesielt inni Josie som ikke kunne videreføres. Han fortalte Moren at han hadde lett og lett, men ikke funnet noe sånt. Men nå tror jeg at han lette på feil sted. Det var noe helt spesielt, men det var ikke inni Josie. Det var inni dem som var glad i henne. Det er derfor jeg nå tror at Mr. Capaldi tok feil og at jeg ikke ville ha lykkes.”

Ja, kunstig intelligens må følges med argusøyne

Kronikk i Fredrikstad Blad 07.01.2021

Sverre F. Nielsen skriver i FB 30. desember et kritiske svar til min kronikk om kunstig intelligens (KI). Tittelen på hans svar er ”Javisst er det spennende, men også skremmende”. 

Nielsen spør hva som vil skje med arbeidsplassene når vi har programmer som gjør bedre jobb enn menneskene. Han tar opp problematikk rundt personvern og kritikkverdige forhold ved de store selskapene i feltet. Han skriver at utviklingen må diskuteres og følges med argusøyne, vi kan ikke bare stå på sidelinjen og juble over unge visjonærer i Silicon Valley. Jeg kunne ikke være mer enig i både Nielsens tittel og punktene Nielsen tar opp i sitt svar.

I min kronikk ville jeg vise de teknologiske framskrittene innenfor kunstig intelligens de siste årene og hvor raskt utviklingen nå går i feltet, eksemplifisert ved to algoritmer som kom ut i 2020. De samfunnsmessige konsekvensene diskuterte jeg ikke. Jeg setter pris på at Nielsen tar opp problematikken, for denne diskusjonen er en av de viktigste diskusjonene i vår tid. 

Som Nielsen påpeker fikk Norge i begynnelsen av 2019 en egen digitaliseringsminister, Nikolai Astrup. Han gjorde utvilsomt en god jobb, og basert på innspill blant annet fra NORA, utarbeidet regjeringen en nasjonal strategi for kunstig intelligens. Strategien ble fremlagt 14. Januar 2020, og bygde i stor grad på EUs ambisjon om å være verdensledende på etisk og ansvarlig kunstig intelligens. Ett av fem kapitler i strategien er viet ansvarlig og pålitelig bruk av kunstig intelligens, derunder personvern og etiske prinsipper for bruk av kunstig intelligens.

Spørsmål rundt ansvarlig og pålitelig bruk av kunstig intelligens er noe NORA og NORA-forskere jobber med daglig. Vi har gjort mye på dette området, nedenfor følger et par eksempler.

NORA-forskere er representert i Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT), som i 2019 utarbeidet Forskningsetisk betenkning om kunstig intelligens. Denne ble jeg bedt å kommentere, se gjerne min kommentar på nett, der tar jeg opp mange av utfordringene rundt kunstig intelligens.

NORA-forskere og jeg selv har også vært aktive i opprettelsen av NORDE Norsk råd for digital etikk, et råd bestående av fagpersoner fra ulike fagområder og sektorer med kompetanse på digital etikk. Leonora Bergsjø er leder for rådet, hun har sammen med Håkon Bergsjø skrevet boken Digital etikk. Alex Moltzau, som leder NORDEs gruppe for Klima, ble nylig ansatt i NORA med spesielt ansvar for KI-etikk og –politikk. 

Jeg deler absolutt Nielsens bekymringer. Det er ekstremt viktig at Norge har en bevisst og god politikk innenfor dette viktige fagområdet som raser i vei i høyt tempo. Tilsynsorganer som Datatilsynet blir viktige, bruk av KI må reguleres på en god måte, vi må ha presiseringer av problematikken i lovverket. Nielsens bekymring om at det i stor grad er store, amerikanske firmaer som driver feltet framover er høyst reell. Som en motvekt til den private forskningen og utviklingen er det viktig at det blir tilrettelagt for en oppskalering både av KI-utdannelsen og den frie KI-forskningen innenfor norske universiteter og forskningsinstitutter, hvor etikk må ha sentralt fokus. NORA har vært pådriver for et eget emne i KI-etikk i doktorgradsutdannelsen, som fra 2021 vil bli gitt ved Universitetet i Oslo.

Norge må være med å styre utviklingen i riktig retning, og vi må være med å utvikle de gode verktøyene. I min kronikk skrev jeg om AlphaFold, en algoritme som vil kunne bli viktig innenfor bioteknologi og f. eks. for utvikling av medisiner. Men det er DeepMind (Google) som eier algoritmen, og det er uvisst hvordan den vil bli brukt. Med god og fokusert innsats kunne vi laget en mer åpen og tilgjengelig versjon av algoritmen i Norge.

Som jeg skrev over var den norske KI-strategien god, men den krever oppfølging. Etikk og ansvarlig bruk av kunstig intelligens er ikke noe man gjør seg ferdig med i en strategi, det er et tema som må ha kontinuerlig fokus. 14. januar 2021, akkurat ett år etter at strategien ble fremlagt, skal NORA i samarbeid med Cluster for Applied AI i Halden og de andre store, norske aktørene innenfor kunstig intelligens, sette fokus på dette i et åpent webinar. Hva skal Norge gjøre for å bli en god KI-nasjon? Hvilke utfordringer står vi overfor? Hvordan bør politikken rundt dette være? Hvordan følges strategien opp best mulig? Jeg oppfordrer både Nielsen og andre interesserte til å melde seg på webinaret. Denne debatten er for viktig til å bli overlatt til et lite mindretall.