Trust, Power and Expertise : Understanding human-AI collaboration in knowledge-intensive expert work

Abstract

Erilaisia tekoälyteknologioita hyödynnetään yhä laajemmin tietointensiivisessä asiantuntijatyössä niin rutiinitehtävien automatisointiin, datan analysointiin kuin päätöksenteon tukemiseen. Julkinen keskustelu ilmiön ympärillä korostaa odotuksia kasvavasta tuottavuudesta, kustannustehokkuudesta ja ihmisen kyvykkyyksien täydentämisestä, mutta nostaa esiin myös huolia ihmisen korvaamisesta teknologialla, itsenäisen päätöksenteon heikentymisestä ja olennaisten taitojen katoamisesta. Molemmat näistä narratiiveista ilmentävät teknodeterminististä näkökulmaa sivuuttaen niiden henkilöiden kokemukset, jotka parhaillaan läpikäyvät tätä teknologista muutosta omassa työssään.

Fenomenologis-hermeneuttisen lähestymistavan kautta tämä väitöskirja tarkastelee algoritmisten järjestelmien vaikutusta asiantuntijuuteen ja asiantuntijatyöhön tietointensiivisillä aloilla. Aihetta tarkastellaan ihmisen ja tekoälyn yhteistyön, luottamuksen ja vallan käsitteiden kautta. Tutkimuksen empiirinen aineisto perustuu 39 puolistrukturoituun asiantuntijahaastatteluun kolmella eri alalla: asiantuntijarekrytoinnissa, kirjanpidossa ja kiinteistövälityksen osto- ja myyntiprosessissa. Kolmea tapaustutkimusta täydentää tekoälyä ja valtaa modernin työelämän kontekstissa käsittelevä kirjan luku. Kukin tapaustutkimus tuo esiin erilaisen näkökulman algoritmisten järjestelmien vaikutuksista asiantuntijatyöhön: rekrytointi korostaa odotuksia, tarpeita ja tulevaisuuden visioita, kirjanpito luottamusta, kontrollia ja ihmisten välistä yhteistyötä, ja kiinteistövälitys teknologista murrosta, jännitteitä ja ammatillista sopeutumista.

Väitöskirjan tulokset ilmentävät, että algoritmiset järjestelmät vaikuttavat asiantuntijatyöhön ja asiantuntijuuteen useilla, toisiinsa kytköksissä olevilla tasoilla: yksilötasolla ihmisen ja koneen vuorovaikutuksessa, sosiaalisesti jaetuissa työn käytännöissä sekä institutionaalisella tasolla kohdistuen asiantuntija-asemaan ja auktoriteettiin. Nämä tasot vaikuttavat toisiinsa: Algoritmiset järjestelmät muokkaavat asiantuntijoiden päivittäistä työtä edellyttäen uusia työtehtäviä ja - taitoja, kuten algoritmien tuottamien tulosten tulkintaa, arviointia ja harkinnanvaraista hyödyntämistä. Samanaikaisesti työn sosiaalinen konteksti, kuten ihmisten välinen yhteistyö ja yhteisesti jaetut työtavat, vaikuttavat tekoälyn hyväksymiseen asiantuntijatyössä. Lisäksi asiantuntijat kokevat joutuvansa perustelemaan ja oikeuttamaan omaa asiantuntijuuttaan suhteessa algoritmisten järjestelmien tuottamiin tuloksiin, mikä osoittaa tekoälyn laajemman vaikutuksen asiantuntijuuden yhteiskunnalliseen ja institutionaaliseen asemaan. Tämä korostuu tietointensiivisessä työssä, jossa objektiiviset totuudet ovat usein epäselviä ja tulkinnanvaraisia. Algoritmisilta järjestelmiltä odotetaan yhteensopivuutta ammatillisten normien, arvojen ja käytäntöjen kanssa, mikä korostaa inklusiivisen ja iteratiivisen teknologiasuunnittelun merkitystä teknologiaan luottamisessa.

Väitöskirjan tulokset havainnollistavat, miten sekä asiantuntijuus että algoritmiset järjestelmät ovat sosiaalisesti rakentuneita ja muovautuvat niin ammatillisten työkäytäntöjen, sosiaalisen vuorovaikutuksen kuin vallan dynamiikkojen kautta. Väitöskirja tarjoaa tieteidenvälisen ja sosioteknisen näkökulman algoritmisten järjestelmien vaikutuksiin asiantuntijatyössä. Tulokset syventävät ymmärrystä ihmisen ja tekoälyn yhteistyöstä monitasoisena ilmiönä, joka rakentuu niin yksilöllisessä vuorovaikutuksessa teknologian kanssa, ihmisten välisessä yhteistyössä kuin institutionaalisissa valtasuhteissa. Tutkimus tuottaa käytännön tietoa siitä, miten yksilöitä, asiantuntijayhteisöjä sekä -organisaatioita voidaan tukea sosiaalisesti kestävän ja ihmiskeskeisen tekoälyn käytössä ja tekoälyllä täydentyvän tulevaisuuden asiantuntijuuden kehittymisessä.

Emerging applications of artificial intelligence (AI) are increasingly utilized in knowledge-intensive expert work, ranging from the automation of routine tasks and data analytics to AI-enhanced decision-making processes. Public discourse around the phenomenon highlights not only expectations towards increased productivity, cost-efficiency, and human augmentation but also concerns about human replacement, reduced autonomy, and loss of crucial skills. However, such narratives tend to imply a techno-deterministic framing that often overlooks the real-life experiences of those currently undergoing this transformation in their work.

By adopting a phenomenological–hermeneutic approach, this dissertation examines the impact of AI-based algorithmic systems on expertise and expert work in knowledge-intensive domains. The topic is approached through the conceptual lenses of human–AI collaboration, trust, and power. The empirical grounding of the dissertation is based on 39 semi-structured interviews with domain experts in three professional contexts: the recruitment of knowledge professionals, accounting services, and real estate transactions. These case studies are complemented by a book chapter exploring AI and power in relation to contemporary work life. Each case study offers a distinct perspective on human–AI collaboration regarding the impact of algorithmic systems on expert work and expertise: recruitment highlights expectations, needs, and future visions; accounting explores trust, control, and participatory practices; and real estate reveals disruption, friction, and professional adaptations.

The findings demonstrate how the impact of AI-based algorithmic systems on expert work unfolds at multiple levels: in individual human–AI interaction, in social work contexts, and at the institutional level in relation to domain experts’ authority. These levels are mutually constitutive: algorithmic systems reshape domain experts’ daily work by introducing new tasks of interpretation, evaluation, and justification of algorithmic outputs. Simultaneously, these practices are influenced by collaborative work contexts and socially situated work practices. Additionally, domain experts were found to encounter a need to legitimize their expertise in relation to algorithmic outputs, illustrating how algorithms reshape the broader societal and institutional role of expertise and expert knowledge. This is especially notable in knowledge-intensive contexts, where objective truths are often absent.

The findings reflect how alignment with professional norms and values influences domain experts’ acceptance of algorithmic systems and how social conditions influence trust in algorithms, underlining the importance of inclusive and iterative design processes. The dissertation demonstrates how both human expertise and algorithmic systems are socially constructed and shaped through professional work practices, social negotiations and interactions, and underlying power dynamics.

This dissertation offers an interdisciplinary and sociotechnical perspective on the impact of algorithmic systems on expert work and expertise, examining human–AI collaboration beyond individual interactions by encompassing also collaborative work contexts and institutional dynamics. As for practical implications, the dissertation informs socially sustainable and human-centered approaches to AI use and AI-augmented expertise.