Tekoälyinferenssi eri laskenta-arkkitehtuureissa: Kustannus-suorituskykyvertailu kohteiden tunnistuksen ja visuaalisen kielimallin näkökulmasta

Abstract

Pilvilaskennan palvelumallit ovat monipuolistuneet perinteisten virtuaalikoneiden rinnalle nousseiden palvelimettoman laskennan ja reunalaskennan myötä. Samanaikaisesti tekoälyinferenssipalveluiden kysyntä on kasvanut, ja eri mallityypit asettavat vaihtelevia vaatimuksia laskentaympäristöille. Tämän tutkimuksen tavoitteena oli selvittää, miten kuormitustaso vaikuttaa kustannus–suorituskykysuhteeseen kolmessa laskenta-arkkitehtuurissa: virtuaalikoneessa, palvelimettomassa laskennassa ja reunalaskennassa. Tarkastelu tehtiin kahden erilaisen visuaalisen tekoälymallin näkökulmasta.

Tutkimus toteutettiin määrällisenä kokeellisena vertailuna Amazon Web Services -pilvipalvelualustalla. Vertailussa käytettiin kahta mallia: kohteiden tunnistukseen optimoitua YOLO26mmallia sekä generatiivista visuaalista kielimallia Qwen3.5-0.8B. Molemmat mallit ajettiin kaikissa kolmessa arkkitehtuurissa neljällä kuormitustasolla. Suorituskykyä mitattiin päästä päähän -vasteajalla ja läpimenolla, ja kustannukset normalisoitiin pyyntökohtaisiksi arkkitehtuurikohtaisten kustannusmallien mukaisesti. Niissä ympäristöissä, joissa grafiikkasuoritinta (GPU) voitiin hyödyntää, testit suoritettiin erikseen sekä keskusprosessorilla (CPU) että grafiikkasuorittimella.

Tutkimuksen tulokset osoittavat, että optimaalinen arkkitehtuurivalinta riippuu sekä mallin laskennallisista ominaisuuksista että kuormitustasosta. YOLO26m-mallilla reunalaskennan GPUpohjainen toteutus oli kustannustehokkain kaikilla kuormitustasoilla yhdistäen alhaisen vasteajan ja matalan pyyntökohtaisen kustannuksen. Qwen3.5-0.8B-mallilla reunalaskenta osoittautui niin ikään edullisimmaksi vaihtoehdoksi, kun taas virtuaalikoneen CPU-toteutus oli kallein kapasiteettiperusteinen ympäristö molemmilla malleilla. Palvelimeton arkkitehtuuri tarjosi korkealla kuormituksella ainoan käytännössä toimivan ratkaisun kohtuullisella vasteajalla ja riittävällä läpimenolla Qwen3.5-0.8B-mallilla.

GPU-kiihdytyksen hyödyt osoittautuivat malli- ja ympäristöriippuvaisiksi. YOLO26m-mallilla GPU paransi suorituskykyä merkittävästi kaikissa ympäristöissä, kun taas Qwen3.5-0.8B-mallilla hyöty rajoittui virtuaalikoneympäristöön. Kuormitustason kasvu vaikutti arkkitehtuureihin eri tavoin: kapasiteettiperusteisissa ympäristöissä pyyntökohtainen kustannus laski kuormituksen kasvaessa ja vakiintui sen jälkeen, kun taas palvelimettomassa arkkitehtuurissa pyyntökohtainen kustannus pysyi vakiona mutta kokonaiskustannus kasvoi kuormituksen mukana.

Tulosten perusteella reunalaskenta soveltuu parhaiten jatkuvaan käyttöön molemmille malleille, YOLO26m-mallilla myös suorituskykymielessä, Qwen3.5-0.8B-mallilla ensisijaisesti kustannusten vuoksi. GPU-kiihdytetty virtuaalikoneratkaisu on perusteltu pilvipohjainen vaihtoehto tilanteissa, joissa vasteaikavaatimus on tiukka, mutta CPU-pohjainen virtuaalikoneratkaisu ei osoittautunut kustannustehokkaaksi kummallakaan mallilla. Palvelimeton arkkitehtuuri on vahvimmillaan epäsäännöllisessä tai voimakkaasti vaihtelevassa kuormituksessa. Tutkimuksen tulokset viittaavat siihen, että yksittäistä universaalisti optimaalista laskenta-arkkitehtuuria ei voida määritellä, vaan valinta riippuu mallista, kuormituksesta ja keskeisistä suorituskyky- ja kustannustavoitteista.