GPU- ja ASIC-tekoälykiihdyttimien vertailu

Abstract

Tekoälymallien kehittymisen ja monimutkaistumisen myötä on tullut tarve kehittää laitteistoa, joka kykenee erittäin vaativaan tekoälylaskentaan. Tällaista laitteistoa kutsutaan tekoälykiihdyttimiksi. Tässä työssä vertaillaan grafiikkasuorittimia (engl. graphics processing unit, GPU) ja sovelluskohtaisia integroituja piirejä (engl. application specific integrated circuit, ASIC). Grafiikkasuorittimet ovat tällä hetkellä ylivoimaisesti käytetyin tekoälykiihdytintyyppi. Niitä valmistaa teknologiayritys NVIDIA, joka on monopoliasemassa tekoälygrafiikkasuorittimien markkinoilla. ASICkiihdyttimet ovat olleet laajassa käytössä Googlella, jotka se valmistaa itse. Molempia tekoälykiihdytintyyppejä käytetään datakeskuksissa ja supertietokoneissa. Työ toteutettiin kirjallisuuskatsauksena. Aluksi työn aihetta pohjustetaan tutustumalla tekoälyn käsitteeseen, sekä koneoppimiseen ja syväoppimiseen. Lisäksi selitetään laitteistokiihdyttämisen toimintaperiaate, mihin tekoälykiihdyttimien toiminta osana tietokonetta perustuu. Tämän jälkeen tarkastellaan molempien laitteistojen arkkitehtuurien ominaispiirteitä. Grafiikkasuorittimet kykenevät monipuolisesti erilaisiin laskentatehtäviin, mutta kuluttavat paljon virtaa. ASIC-kiihdyttimet suunnitellaan yhtä käyttötarkoitusta varten ja siksi ne kykenevät hyvin rajalliseen laskentaan. ASIC-kiihdyttimien suurin etu on erittäin hyvä energiatehokkuus. Vertailu toteutettiin pääosin tutkimusten avulla, joissa molempia tekoälykiihdytintyyppejä oli testattu erilaisissa testeissä. Tutkimuksia ei ollut saatavilla aivan uusimmasta laitteistosta, vaan uusimmat tutkimukset oli tehty muutaman vuoden takaisella laitteistolla. Nämäkin tutkimukset ovat vielä relevantteja tämän työn kannalta, koska mitään radikaaleja muutoksia ei ole tapahtunut. Vertailtavat laitteistojen ominaisuudet olivat suorituskyky, energiatehokkuus, käyttökustannukset ja suunnitteluaika. Suorituskyvyn suhteen ASIC-kiihdyttimet olivat keskimäärin parempia kuin grafiikkasuorittimet, mutta suorituskyky vaihteli testien mukaan ja riippui myös siitä, mitä laitteistoa tutkimuksessa oli käytetty. Energiatehokkuudessa ASIC-kiihdyttimet olivat yhtä tutkimusta lukuun ottamatta huomattavasti parempia. Googlen ASIC-kiihdyttimien energiatehokkuus oli parhaimmillaan noin 30-kertainen verrattuna grafiikkasuorittimiin. Parempi energiatehokkuus vähentää merkittävästi käyttökustannuksia, koska suurin osa käyttökustannuksista muodostuu virrankulutuksesta. Siksi ASIC-kiihdyttimet ovat käyttökustannuksiltaan huomattavasti edullisempia kuin grafiikkasuorittimet. Suunnittelun osalta ASIC-kiihdyttimet vievät enemmän aikaa kuin grafiikkasuorittimet, koska ne suunnitellaan tapauskohtaisesti.