Variable Selection and Regularization in Cumulative Logit Models: Effects of Purchase History-Based Grocery Product Groups on Customer Loyalty

Abstract

Consumers’ eating habits have important implications for health, well-being, the environment, and society. This thesis investigates the relationship between customer loyalty and purchase history-based grocery product groups using a subsample of the data collected in the LoCard study in collaboration with the leading Finnish retailer over eight months (January–August 2018). The main objective is to identify key grocery product groups associated with customer loyalty levels and to evaluate suitable statistical modelling approaches for ordinal loyalty outcomes.

The methodological framework was based on cumulative logit models. Variable selection was performed using forward stepwise selection together with regularized ordinal regression techniques, including Lasso and Ridge regularization. In the analysis, seven different models were constructed using the methods described above. All analyses were conducted in R version 4.4.3, with a focus on the ordinal and ordinalNet libraries.

Forward stepwise selection was applied using Akaike information criterion and Bayesian information criterion as selection thresholds to identify the most relevant predictors and the top-10 purchase history-based grocery product groups associated with customer loyalty. For regularized ordinal regression, the optimal value of the tuning parameter was determined for Lasso regularization in order to obtain the top-10 product categories, and cross-validation was used to select the best optimal tuning parameter values for both Lasso and Ridge regularization. Model performance is evaluated using mean squared error as the primary criterion.

The results indicate broadly similar predictive performance across the different modelling approaches. Higher monthly spending is associated with an increased probability of belonging to more loyal customer segments, whereas lower spending is linked to lower loyalty levels. Both Lasso regularization and forward stepwise selection identify the same key predictors, and consistent patterns are observed across several product category groups.

However, the proportional odds assumption is not fully satisfied, indicating that the effects of certain predictors vary across loyalty levels. In addition, comparison between the cumulative logit model and the cumulative logit mixed-effects model suggests that mixed-effects approaches may better capture customer-level variation in grocery purchase behavior. These findings suggest that multinomial mixed-effects models could be explored in future research.

Kuluttajien ruokailutottumuksilla on suuri vaikutus terveyteen, hyvinvointiin, ympäristöön ja yhteiskuntaan. Tässä tutkielmassa tarkastellaan asiakkaan keskittämisasteen sekä ostohistoriaan perustuvien päivittäistavaroiden tuoteryhmien välistä yhteyttä hyödyntämällä LoCard-tutkimuksesta poimittua osajoukkoa (tammi–elokuu 2018). Aineisto kerättiin yhteistyössä Suomen johtavan kauppaketjun kanssa. Tutkimuksen päätavoitteena on tunnistaa keskeiset päivittäistavaroiden tuoteryhmät, jotka ovat yhteydessä asiakkaan keskittämisasteeseen sekä arvioida soveltuvia tilastollisia mallinnusmenetelmiä järjestysasteikolliselle selitettävälle muuttujalle.

Analyysin päämenetelmänä käytettiin kumulatiivista logit-mallia. Muuttujavalinta toteutettiin etenevän askeltavan valinnan sekä regularisoitujen järjestysasteikollisten regressiomenetelmien avulla, mukaan lukien Lasso- ja Ridge-estimointi. Analyysissä rakennettiin seitsemän mallia edellä kuvattuja menetelmiä hyödyntäen. Kaikki analyysit suoritettiin R-ohjelmiston versiolla 4.4.3, erityisesti ordinal- ja ordinalNet-kirjastoja käyttäen.

Etenevää askeltavaa muuttujavalintaa sovellettiin käyttäen Akaiken informaatiokriteeriä ja Bayesin informaatiokriteeriä valintakriteereinä keskeisimpien selittäjien sekä keskittämisasteeseen liittyvien kymmenen tärkeimmän ostohistoriaan perustuvan päivittäistavaratuoteryhmän tunnistamiseksi. Regularisoidussa järjestysasteikollisessa regressiossa Lasso-estimoinnille määritettiin optimaalinen säätöparametrin arvo kymmenen tärkeimmän tuoteryhmän tunnistamiseksi. Ristiinvalidointia käytettiin optimaalisten säätöparametrien valintaan sekä Lasso- että Ridge-estimoinnissa. Mallien sopivuutta arvioitiin ensisijaisesti keskineliövirheen avulla.

Tulokset osoittavat, että rakennettujen mallien ennustekyky on pääosin samankaltainen. Suuremmat kuukausittaiset kulutusmenot ovat yhteydessä suurempaan todennäköisyyteen kuulua korkeamman keskittämisasteen asiakassegmentteihin, kun taas pienemmät kulutusmenot liittyvät matalamman keskittämisasteen asiakassegmentteihin. Sekä Lasso-estimointi että etenevä askeltava valinta tunnistavat samat keskeiset selittäjät ja useissa tuoteryhmissä havaitaan yhdenmukaisia yhteyksiä keskittämisasteeseen.

Suhteellisten vedonlyöntikertoimien oletus ei kuitenkaan täyty täysin, mikä viittaa siihen, että joidenkin selittäjien vaikutukset vaihtelevat keskittämisasteen eri tasojen välillä. Lisäksi kumulatiivisen logit-mallin ja kumulatiivisen logit-sekamallin vertailu osoittaa, että sekamallit voisivat paremmin selittää asiakaskohtaista vaihtelua päivittäistavaroiden ostokäyttäytymisessä. Tulosten perusteella multinomisen sekamallin soveltamista voitaisiin tarkastella tarkemmin tulevissa tutkimuksissa.