HAL 9000 är en av de mest kända articifical intelligence-karaktärerna i modern film. Denna överlägsna form av kännande dator ger sig ut på ett uppdrag till Jupiter, tillsammans med en mänsklig besättning, i Stanley Kubricks ikoniska film 2001: A Space Odyssey, som för närvarande firar sitt 50: e år sedan release.
HAL kan talproduktion och förståelse, ansiktsigenkänning, läppläsning – och spela schack. Dess överlägsna beräkningsförmåga förstärks också av unika mänskliga drag. Det kan tolka emotionellt beteende, resonera och uppskatta konst.genom att ge hal-känslor gjorde författaren Arthur C. Clarke och filmskaparen Stanley Kubrick det till en av de mest mänskliga fiktiva teknikerna som någonsin skapats. I en av de vackraste scenerna i sci-fi-historien står det att det är ”rädd” när uppdragschefen Dr David Bowman börjar koppla bort sina minnesmoduler efter en serie mordiska händelser.
HAL är programmerad för att leverera optimal hjälp till besättningen på rymdskeppet Discovery. Den har kontroll över hela fartyget och svindlande intelligens för att hjälpa det i sin uppgift. Men strax efter att vi blivit bekanta med HAL kan vi inte låta bli att känna att det är oroat – det hävdar till och med att det upplever rädsla – och att det har en förmåga att empati, hur liten som helst. Men medan det inte finns något som utesluter tanken att en sådan känslomässig AI kunde se dagens ljus, om ett sådant djup av känslor skulle inkluderas i verklig världsteknik, skulle de behöva vara helt falska.
en ”perfekt” AI
När Bowman under filmen börjar manuellt åsidosätta hals funktioner ber den honom att sluta, och efter att vi bevittnat en fascinerande utplåning av hals ”mentala” fakulteter försöker AI uppenbarligen trösta sig genom att sjunga Daisy Bell – enligt uppgift den första någonsin låten som produceras av en dator.faktum är att tittarna börjar känna att Bowman dödar HAL. Avstängningen känns som en hämndlysten uppsägning, efter att ha bevittnat filmens tidigare händelser. Men även om HAL gör känslomässiga uttalanden, skulle en verklig värld AI säkert vara begränsad till att bara ha förmågan att resonera och fatta beslut. Den kalla, hårda sanningen är att – trots vad datavetare säger-kommer vi aldrig att kunna programmera känslor på det sätt som Hals fiktiva skapare gjorde för att vi inte förstår dem. Psykologer och neuroscientists försöker verkligen lära sig hur känslor interagerar med kognition, men de är fortfarande ett mysterium.
ta till exempel vår egen forskning. I en studie utförd med kinesisk-engelska tvåspråkiga undersökte vi hur det emotionella värdet av ord kan förändra medvetslös mental operation. När vi presenterade våra deltagare med positiva och neutrala ord, som ”semester” eller ”träd”, hämtade de omedvetet dessa ordformer på kinesiska. Men när orden hade en negativ betydelse, som ”mord” eller ”våldtäkt”, blockerade deras hjärna tillgången till sitt modersmål – utan deras vetskap.
anledning och känsla
å andra sidan vet vi mycket om resonemang. Vi kan beskriva hur vi kommer till rationella beslut, skriva regler och förvandla dessa regler till process och kod. Ändå är känslor ett mystiskt evolutionärt arv. Deras källa är källan till allt, och inte bara ett attribut av sinnet som kan implementeras genom design. För att programmera något behöver du inte bara veta hur det fungerar, du behöver veta vad målet är. Anledningen har mål, känslor gör det inte.
i ett experiment som genomfördes 2015 kunde vi sätta detta på prov. Vi bad infödda talare av Mandarin kinesiska studerar vid Bangor University för att spela ett hasardspel för pengar. I varje omgång var de tvungna att ta eller lämna en föreslagen satsning som visas på skärmen – till exempel en 50% chans att vinna 20 poäng och en 50% chans att förlora 100 poäng.
vi antog att ge dem feedback på sitt modersmål skulle vara mer känslomässigt för dem och så leda dem att bete sig annorlunda jämfört med när de fick feedback på sitt andra språk, engelska. När de fick positiv feedback på inhemska kinesiska var de 10% mer benägna att satsa i nästa omgång, oavsett risk. Detta visar att känslor påverkar resonemanget.
gå tillbaka till AI, eftersom känslor inte riktigt kan implementeras i ett program – oavsett hur sofistikerat det kan vara – kan datorns resonemang aldrig ändras av sina känslor.
en möjlig tolkning av hals konstiga ”emotionella” beteende är att det var programmerat att simulera känslor i extrema situationer, där det skulle behöva manipulera människor inte på grundval av resonemang utan genom att uppmana sitt emotionella jag, när mänskligt förnuft misslyckas. Detta är det enda sättet jag kan se att verkliga världen AI övertygande kan simulera känslor under sådana omständigheter.
enligt min mening kommer vi aldrig att bygga en maskin som känner, hoppas, är rädd eller glad. Och eftersom det är en absolut förutsättning för varje påstående att vi har skapat artificiell allmän intelligens, kommer vi aldrig att skapa ett konstgjort sinne utanför livet.
det är just där magin från 2001: A Space Odyssey ligger. För ett ögonblick leds vi till att tro det omöjliga, att ren science fiction kan åsidosätta fakta i världen vi lever i.