ITU-forsker vil forbedre interaktionen mellem menneske og kunstig intelligens
Elisa Bassignana, som er Ph.d.-studerende på IT-Universitetet i Københavns Institut for Datalogi, har sikret en Villum International Postdoc-bevilling til at forske i store sprogmodeller og de sociale og kulturelle normer, som indlejret i dataene.
Institut for Datalogibevillingerkunstig intelligenssprogteknologiForskning
Skrevet 6. november 2023 10:26 af Theis Duelund Jensen
De fleste af os har haft frustrerende oplevelser med chatbots eller andre stemmestyrede teknologier, der ikke forstår, hvad man ønsker. Kunstig intelligens er blevet en fast del af manges hverdag, og teknologien har på det seneste udviklet sig med raketfart, men i mødet med brugeren er det fortsat de færreste KI-applikationer, der er i stand til at forstå nuancerne i kommunikationen med mennesker. De følelses- og personlighedsbetonede aspekter, som vi ofte udtrykker mellem linjerne, volder maskinerne besvær.
”Jeg vil gerne forbedre kvaliteten af interaktionen mellem menneske og KI-teknologi, så teknologien bliver i stand til at forstå brugeren og dennes behov,” siger Elisa Bassignana, der netop har modtaget en Villum International Postdoc-bevilling fra Villum Fonden.
Forskerens projekt hedder Personality and Emotion-Aware Computing for Human-Centered AI og stiller skarpt på Natural Language Processing – den del af kunstig intelligens, som omhandler sprog. Elisa Bassignana håber, at hun med en analyse af store sprogmodeller fra et lingvistisk, sociodemografisk perspektiv kan optimere interaktionen mellem menneske og KI.
”Mit projekt har særligt fokus på to sider af kommunikationen: personlighed og følelser. Det er mit mål at integrere disse faktorer i sprogmodellerne, så de kan tilpasse sig den enkelte bruger. Projektet handler om grundforskning, men der er selvfølgelig en række muligheder for praktisk anvendelse, herunder optimering af chatbots, stemmestyrede systemer og andre sprogteknologier.”
Som Elisa Bassignana også pointerer, er der flere etiske perspektiver forbundet med optimering af KI, når det handler om at forstå mennesker bedre. KI-teknologi, der kan afkode personlighed og følelser, kan misbruges. Selvom forskerens projekt ikke direkte beskæftiger sig med de etiske problemstillinger, er det noget, man skal være opmærksom på. Elisa Bassignana mener dog, at fordelene overskygger ulemperne:
”Hvis vi kan udvikle KI, der er i stand til at identificere egne bias – de kulturelle, sociologiske og demografiske værdier indlejret i sprogmodellernes data – kan vi potentielt udrydde uønskede faktorer som fx kønsbias i kunstig intelligens. Jeg vil gerne være finde ud af, hvad der ligger af værdier i store sprogmodeller, og hvordan vi kan åbne dem for mere mangfoldighed, så systemerne ikke udelukkende afspejler én bestemt demografi.”
Som led i sit postdocprojekt skal Elisa Bassignana på udlandsophold i Italien, hvor hun skal forske ved Bocconi University i Milano.
Theis Duelund Jensen, presseansvarlig, +45 25 55 04 47, thej@itu.dk