Predicting Spatially Resolved Gene Expression Clusters from Prostate Cancer Tissue Images with Convolutional Neural Networks

Abstract

Gleason grading is the standard evaluation method of prostate cancer severity. However, analysis of prostate cancer’s gene expression can lead to a more accurate and deeper understanding of cancer. New technologies, such as spatial transcriptomics, enable novel gene expression analysis methods. Machine learning techniques, such as dimensionality reduction and convolutional neural networks, introduce even more analysis approaches. In this thesis, spatial transcriptomics data is classified into clusters based on gene expression and spatial proximity. Then, deep convolutional neural networks are trained to predict the clusters from hematoxylin & eosin-stained tissue images. This method introduces new insights into the histological differences associated with gene expression. The basics of spatial transcriptomics, convolutional neural networks, and machine learning performance metrics are also explained to the reader. The cluster prediction results reveal that some clusters are more easily distinguishable from histological images, while others are often confused together. Further analysis of the gene expression differences between clusters could provide insight into the reasons behind histological differences. The cluster prediction approach demonstrated in this thesis can be integrated into various gene expression analyses. This could provide an understanding of the consensus between prior results and histological observations.

Gleason-luokitus on standardi eturauhassyövän vakavuuden arviointimenetelmä. Eturauhassyövän geeniekspression analyysi voi kuitenkin johtaa tarkempaan ja syvällisempään syövän ymmärrykseen. Uudet teknologiat, kuten spatiaalinen transkriptomiikka, mahdollistavat uudenlaiset geeniekspression analyysimenetelmät. Koneoppimistekniikat, kuten ulotteisuuden vähentäminen ja konvoluutiohermoverkostot, tuovat vielä lisää analyysimenetelmiä. Tässä tutkielmassa spatiaalinen transkriptomiikkadata luokitellaan klustereihin geeniekspression ja spatiaalisen läheisyyden perusteella. Tämän jälkeen syviä konvoluutiohermoverkkoja koulutetaan ennustamaan klusterit hematoksyliini- ja eosiinivärjätyistä kudoskuvista. Menetelmä tuo uutta tietoa geeniekspressioon liittyvistä histologisista eroista. Lukijalle avataan myös spatiaalisen transkriptomiikan, konvoluutiohermoverkkojen ja koneoppimisen suorituskykymittareiden perusteet. Tutkimuksen tuloksista selviää, että jotkin klusterit ovat helpommin erotettavissa histologisista kuvista, kun taas toiset sekoittuvat usein keskenään. Klustereiden välisten geeniekspressioerojen lisäanalyysi voisi antaa tietoa histologisten erojen syistä. Työssä esitelty klusterien ennustamismenetelmä voidaan sisällyttää erilaisiin geeniekspressioanalyyseihin. Näin voidaan tutkia miten aiemmat tutkimustulokset sopivat näytteen histologiaan.