Microsoft har lansert en ny maskinvareplattform som skal få fart på kunstig intelligens (AI) og maskinlæring i nettskyen. Prosjektet ble annonsert i forbindelse med Hot Chips 2017-konferansen i Cupertino denne uken og har fått navnet Project Brainwave.
Plattformen er basert på Intels Stratix 10, som er en såkalt FPGA – field-programmable gate array – en brikke som kan programmeres til ulike oppgaver. Det betyr at samme brikke kan utføre forskjellige oppgaver, basert på hva man har behov for.
Ifølge et blogginnlegg fra Microsoft kan den nye Project Brainwave-plattformen takle så mye som 39,5 teraflops med en forsinkelse (latency) på under 1 millisekund.
«Vi har designet systemet for sanntids AI, som betyr at systemet prosesserer forespørsler like raskt som det mottar dem, med ultra-lav forsinkelse. Sanntids AI blir stadig viktigere etter hvert som skybasert infrastruktur prosesserer live datastrømmer, enten det er søkebegreper, videoer, sensor-strømmer eller interaksjon med brukere», skriver Dough Burger, ingeniør i Microsoft i blogginnlegget.
Ifølge en pressemelding fra Intel var Microsoft den første store skyleverandøren som tok i bruk FPGA-er i en offentlig skytjeneste, og måten Microsoft nå har tatt i bruk Intel Stratix 10 gjør det mulig å akselerere såkalte dype, nevrale nettverk (DNN) på en måte som etterligner hvordan menneskehjernen tenker.
Mange maskinvarebaserte AI-akselleratorer i dag krever at man grupperer mange forespørsler («batching») for å oppnå høy ytelse. Med Project Brainwave skal dette ikke være nødvendig.
Løsningen skal fungere både med Microsofts eget AI-rammeverk (Cognitive Toolkit), Google TensorFlow og andre systemer. Project Brainwave vil bli tilgjengelig via Microsoft Azure. Du kan lese mer om den hos Microsoft her.