Next Sentence Prediction using BERT

Abstract

Sound event classification involves identifying and labeling sounds in audio recordings, but inconsistencies in manual annotations can make this task challenging. This study investigates whether semantic relationships between sound labels can be learned automatically. Pairs of sound labels are analyzed using BERT with the Next Sentence Prediction task to determine if the model can accurately detect when labels are semantically related. Results show that the model can reliably distinguish related from unrelated label pairs, demonstrating the potential of language models to support more consistent labeling and reduce manual effort in sound event classification

Äänitapahtumien luokittelu on äänien tunnistamista ja niiden nimeämistä audiotallenteesta.Manuaalinen annotointi on subjektiivista, mikä aiheuttaa aineiston muttumisen epäjohdonmukaisemmaksi.Tässätutkimuksessa selvitetään, voidaanko äänitunnisteiden semanttisia suhteita opettaa tekoälylle, jotta tästä subjektiivisuudesta päästäisiin eroon. Äänitunnistepareja analysoidaan käyttäen BERT:iä ja Next Sentence Prediction-tehtävää (suom. seuraavan lauseen ennustaminen), joiden avulla voidaan selvittää osaako kielimalli tunnistaa semanttisesti samankaltaiset parit. Tulokset osoittavat, että malli osaa erottaa samankaltaiset parit yhteenkuulumattomista, mikä näyttää että kielimalleilla on potentiaalia tukea yhdenmukaisempien nimikategorioiden käyttöä ja vähentää ihmisen tekemää työtä äänitapahtumien luokittelussa