Evaluation of the State of High-level Synthesis : A hardware engineer's perspective

Abstract

Tuottavuuden kasvattaminen on jatkuva tavoite suunniteltaessa sovelluksia ohjelmoitaville porttimatriiseille (engl. field-programmable gate array, FPGA) ja sovelluskohtaisille integroiduille piireille (engl. application-specific integrated circuit, ASIC). Näiden laitteiden kompleksisuus kasvaa Mooren lakiin verrattavalla nopeudella, mikä vaatii vastaavaa nousua tuottavuudessa, jotta suunnittelukustannukset pysyisivät kohtuullisina. Eräs tapa parantaa tuottavuutta on nostaa suunnittelun abstraktiotasoa. Tällöin sovellukset suunnitellaan abstraktimman syötteen perusteella ja elektroniset automaatiotyökalut huolehtivat alemman tason yksityiskohtien laatimisesta syötteen ja teknologiavaatimusten perusteella.

Korkean tason synteesi (engl. high-level synthesis, HLS) on lupaavin ehdokas abstraktiotason nostamiseksi. HLS:ssä sovellussyöte annetaan korkean tason koodina, joka yleensä perustuu perinteiseen ohjelmointikieleen. HLS-työkalu tuottaa rekisterisiirtotason (engl. register-transfer level, RTL) ulostulon tämän syötteen, kohdeteknologian, ja arkkitehtuuriin liittyvien yksityiskohtien perusteella, ja tätä ulostuloa voidaan käyttää myöhemmissä suunnitteluvuon työkaluissa.

Kaupallisia HLS-työkaluja on ollut saatavilla vuosikymmenien ajan, mutta ne ovat alkaneet saavuttaa suurempaa suosiota vasta viimeisen 10-20 vuoden aikana. Vaikka on yleisesti hyväksyttyä, että HLS merkittävästi vähentää suunnittelutyötä, niin tulosten laatua suorituskyvyn ja pinta-alan suhteen pidetään huonompana kuin, mitä voidaan saavuttaa manuaalisella RTL-koodauksella.

Tämä väitöskirja tutkii HLS:n tilaa FPGA-pohjaisessa suunnittelussa. Se pyrkii selvittämään, kuinka suurta tuottavuushyötyä HLS:llä voidaan saavuttaa ja millaista laatua voidaan odottaa teollisuudessa yhä dominoivaan manuaaliseen RTL-suunnitteluun verrattuna. Työ myös selvittää, millaisia HLS-työkaluja on saatavilla ja millaisia ominaisuuksia niillä on. C++-kielelle annetaan suosituimpana HLS-kielenä erityishuomiota tutkimalla, kuinka tuottavuutta voidaan parantaa käyttämällä uusimpia C++-standardin ominaisuuksia. HLS:n tuottavuutta ja tulosten laatua selvitetään laajalla kirjallisuuskatsauksella perustuen viimeisen 10 vuoden aikana julkaistuihin artikkeleihin. Lisää näkemyksiä saadaan kolmesta tapaustutkimuksesta, joissa HLS:llä toteutetaan sovelluksia, jotka vaativat erilaisia suunnittelunäkökohtia.

Työn johtopäätös on, että HLS:ää voidaan käyttää nopeuttamaan suunnitteluprosessia. Manuaaliseen RTL-koodaukseen verrattuna voidaan odottaa noin 50 %:n nopeutusta kehitystyössä. Toisaalta havaitaan, että korkealaatuisten tulosten saavuttaminen vaatii insinööreiltä HLS-osaamista ja merkittäviä muutoksia prosessorille suunnattuun sovellusmalliin. Jos vaaditaan parasta suorituskykyä ja pienintä pinta-alaa, on manuaalinen RTL-suunnittelu luultavasti yhä turvallisin vaihtoehto, mikäli nopea markkinoillepääsy ei ole kriittinen vaatimus. Muussa tapauksessa HLS:ää kannattaa harkita työkaluna. Väitöskirja esittää saavutettuihin havaintoihin perustuen myös suosituksia HLS-työkalujen kehittäjille, jotta tuottavuutta ja tulosten laatua voitaisiin parantaa.

Increasing productivity is a constant challenge in the design of applications for field-programmable gate arrays (FPGAs) and application-specific integrated circuits. The complexity of these devices grows at a rate similar to Moore’s law, requiring an equivalent increase in productivity to keep engineering costs manageable. One way to increase productivity is by raising the abstraction level of the designs. By designing from a more abstract entry, electronic design automation tools can plan the lower-level details based on the design entry and technological constraints.

High-level synthesis (HLS) is the most promising candidate for raising the abstraction level for these designs. In HLS, the design entry is given in high-level code, usually in a language originally developed for the software domain. An HLS tool takes this source code input, information on target technology, and architectural details to produce a register-transfer level (RTL) output that can be used with downstream synthesis tools.

Commercial HLS tools have been available for decades, but only started to gain traction in the industry in the last 10-20 years. While it is widely accepted that HLS lowers the design effort significantly, it has been the perception that the quality of results (QoR) in terms of performance and area lags behind those attainable by manual RTL (mRTL) methods.

This thesis studies the current state of HLS for FPGA-based designs. It aims to determine what productivity benefits can be expected from HLS and what the QoR of results is compared to mRTL methods that still dominate the industry. It also surveys the HLS tools available and what features they have. C++, the most popular input language, is given special attention by inspecting how productivity can be increased by adopting the newest C++ standards for HLS. The productivity and QoR of HLS are studied by an extensive literature survey based on articles published during the last ten years. Further insight is attained by three case studies that use HLS to implement applications that demand different design considerations.

The thesis concludes that HLS can be used to accelerate the design process. Development effort reduction of the order of 50 % can be expected compared to mRTL methods. However, achieving high QoR requires HLS-specific expertise from engineers and significant revisions to software-based application models. If the best performance and lowest area are required, mRTL methods still seem the safest choice, assuming that time-to-market is not critical. Otherwise, HLS should be considered.

The thesis also makes recommendations based on the findings for HLS tool developers to increase the productivity and QoR of HLS-based designs.