AI övertygar i empati – men vi litar mer på mänskliga råd

En ny studie från Gustavsbergs universitetsvårdcentral, Uppsala universitet och Karolinska Institutet visar att AI kan formulera råd som psykologer och psykoterapeuter upplever som lika empatiska och välgrundade som experternas egna. Ändå värderas råden högre när läsaren tror att en människa ligger bakom.

I studien fick 43 legitimerade psykologer och psykoterapeuter läsa svar från Dagens Nyheters frågespalt Fråga Insidan. Hälften av svaren var skrivna av experter, hälften av en AI tränad för att efterlikna spaltens stil. Bedömningen gjordes blindat – deltagarna visste inte vem som skrivit vad.

AI-svaren skattades högre på känslomässig empati och på sin förmåga att uppmuntra till ett konstruktivt eller hjälpsamt gensvar, medan vetenskaplig kvalitet och kognitiv empati låg på samma nivå som expertens. Samtidigt kunde deltagarna inte skilja AI från svar från människa bättre än slumpen. En tydlig trend stack dock ut: när bedömarna trodde att svaret var skrivet av en människa gav de högre betyg – oavsett om det faktiskt var producerat av AI eller inte.
– Det här pekar på att avsändaren spelar stor roll. AI kan ge råd som upplevs som både empatiska och välgrundade, men hur de tas emot beror mycket på vem man tror har skrivit dem, säger Ludwig Franke Föyen, legitimerad psykolog, doktorand och medförfattare till studien.

Ludwig Franke Föyen

Forskarna betonar att det rör sig om en liten studie av skriftliga råd och att resultaten därför måste tolkas med försiktighet. Men de menar samtidigt att forskningen är viktig, eftersom många redan söker emotionellt stöd via AI. I flera uppmärksammade fall har AI-chatbottar nämnts i samband med psykos och suicid – vilket understryker behovet av att tekniken granskas och säkerhetstestas innan den används i vården.
– Vår studie visar att en modern, specialtränad AI kan uttrycka sig både empatiskt och med hög kvalitet. Men steget till att faktiskt använda tekniken i terapi är stort. På kort sikt kan AI vara ett stöd i vården, till exempel vid journalskrivning eller som co-pilot i internetbehandling. På längre sikt kan den kanske spela en mer självständig roll, avslutar Ludwig Franke Föyen.