Optimization of polynomial and rational variance-stabilizing transformations

Abstract

Digital imaging devices and other similar data acquisition devices are subject to various errors, some of which are signal-dependent and others signal-independent. An important part of processing such data is to properly model the random noise, in other words the difference between the measured data and its expectation. For instance, the raw data of imaging sensors can be modelled via a mixed Poisson-Gaussian distribution, and the noise in magnetic resonance images with a Rice distribution.

One common method of dealing with such heteroskedastic data (i.e., data with signal-dependent noise variance) is to process it with a variance-stabilizing transformation (VST). This renders the noise variance constant throughout the data, thus removing the data-dependency of the noise. The stabilized homoskedastic data can then be processed assuming the noise is signal-independent, typically additive white Gaussian noise. Traditionally used forward VSTs are designed in order to stabilize the data asymptotically. Such a design principle usually implies subpar stabilization accuracy for low-intensity data, which often leads to mediocre performance in practical applications.

In this thesis, we first review the theory on function interpolation and approximation. Then we describe and implement a general modular framework for optimizing parametric VSTs, in particular considering the optimization of polynomial VSTs and rational VSTs. This is done by minimizing a cost functional that measures the discrepancy between the stabilized variance and a constant target function. We present example results for the Poisson-Gaussian and Rice distributions, which demonstrate that the optimized rational VSTs consistently provide more accurate stabilization than the traditional VSTs, whereas the advantage of using optimized polynomial VSTs is less clear. Our framework is also extensible to other noise distributions and other types of VSTs.

Digitaaliseen kuvantamisprosessiin liittyy sekä signaalista riippuvia että siitä riippumattomia häiriöitä. Mitatun häiriöisen datan ja sen odotusarvon erotuksen, toisin sanoen kohinan, huolellinen mallintaminen on tärkeä osa tätä prosessia. Esimerkiksi digitaalikameroiden tallentamaan raakadataan liittyvää kohinaa voidaan mallintaa Poisson-Gaussisella jakaumalla, ja magneettikuvausdatan kohinaa Rice-jakaumalla.

Heteroskedastista dataa, jossa kohinan varianssi riippuu mitatun signaalin arvoista, voidaan käsitellä esimerkiksi varianssia stabiloivan muunnoksen eli VST:n avulla. Tällöin kohinan varianssi saa (ihannetapauksessa) vakioarvon, joten se ei enää riipu mitatusta datasta. Stabiloitua homoskedastista dataa voidaan siis tämän jälkeen käsitellä olettaen, että kohina on datasta riippumatonta, tyypillisesti additiivista normaalijakautunutta kohinaa. Perinteiset muunnokset on suunniteltu asymptoottisesti, jolloin stabilointi on yleensä heikohkoa matalaintensiteettiselle (eli pienen signaali-kohinasuhteen omaavalle) datalle. Tämä heijastuu usein huonoina tuloksina käytännön sovelluksissa.

Tässä diplomityössä käydään läpi epälineaarisen interpoloinnin ja approksimoinnin teoriaa, jonka jälkeen työssä toteutetaan parametristen VST-muunnosten optimointiin tarkoitettu modulaarinen järjestelmä. Käytännössä tämä tehdään mini\-moimalla kustannusfunktiota, joka kuvaa stabiloidun varianssin ja vakioarvoisen tavoitevarianssin eroa. Työ keskittyy polynomien ja rationaalifunktioiden optimointiin Poisson-Gaussiselle jakaumalle sekä Rice-jakaumalle, mutta järjestelmä on laajennettavissa myös muille jakaumille ja muuntyyppisille funktioille. Esimerkkitulokset osoittavat, että optimoidut rationaalifunktiot stabiloivat varianssia perinteisiä VST-muunnoksia paremmin, kun taas optimoitujen polynomien tehokkuus on jokseenkin kyseenalainen.