Under de senaste 10 åren av sitt liv kommunicerade Stephen Hawking bara genom att spänna kinden.

Den berömda fysikern, känd för sina teorier om svarta hål och för att överleva ALS långt längre än läkarnas uppskattningar, bar en anordning på glasögonen som övervakade om hans kind var böjd eller inte, och använde signalen som ett musklick för att kontrollera hans dator. När han först antog denna metod, som en av hans doktorander introducerade 2008, var den smärtsamt långsam och benägen för fel. Det förlitade sig på ett program som heter Word + där meningar måste skrivas bokstav för bokstav, enligt Wired.

Artificiell intelligens hjälpte till att göra systemet snabbare. Frustrerad över hur snabbt han kunde kommunicera, nådde Hawking ut till Intel, som tidigare hade gett honom de datorer han brukade prata. Företaget skickade ett team till Hawking och utarbetade efter flera års test nya system en lösning med smarttelefontangentföretaget SwiftKey, kallat ACAT (Assistive Contextually Aware Toolkit).

The ny programvaras typprogram var beroende av en maskininlärningsalgoritm som hade utbildats i Hawkings arbete; Swiftkey och Intel visade algoritmen fysikens tidigare föreläsningar och böcker för att hjälpa den att förutse vilka ord han skulle skriva. När han till exempel skrev ”the”, skulle ordet ”svart” och sedan ”hål” visas som alternativ, enligt Wired. Detta förbättrade Hawkings skrivhastighet från hans tidigare ett eller två ord per minut, vilket gav honom möjlighet att prata samtalande i popkulturstämningar som förra veckan ikväll med John Oliver.

Trots att maskininlärningen hjälpte Hawking att kommunicera var fysikern något pessimistisk om teknikens potentiella påverkan på samhället. utveckla ”stark AI” eller allmän artificiell intelligens, som skulle ha liknande resonemangskapaciteter som en människa.

”Vi borde flytta målet för AI från att skapa ren oriktad artificiell intelligens till att skapa välgörande intelligens. årtionden för att ta reda på hur man gör detta, så låt oss börja undersöka detta idag snarare än natten innan den första starka AI slås på, ”skrev Hawking i sin sista Reddit Ask Me Anything-tråd.

Hans argumen t var att det skulle vara svårt att förutsäga vad en AI som kunde utveckla sig själv skulle vilja, förutsatt att det naturligtvis skulle vara predisponerat att samla in mer resurser för att upprätthålla sig själv. I så fall skulle det konkurrera med människorna för den begränsade mängden resurser på planeten.

Men även om ond AI avvärjdes såg Hawking fortfarande ett problem med autonom teknik: Förmögenhetsfördelning.

”Om maskiner producerar allt vi behöver kommer resultatet att bero på hur sakerna fördelas,” skrev han på Reddit. ”Alla kan njuta av ett liv med lyxig fritid om den maskinproducerade rikedomen delas, eller de flesta kan hamna olyckligt dålig om maskinägarna framgångsrikt lobbyar mot omfördelning av välstånd. Hittills verkar trenden vara mot det andra alternativet, med teknik som driver allt större ojämlikhet. ”