AI
Cecilia Bolter
Uppdaterad: 11 feb. 2025Publicerad: 11 feb. 2025
ANNONS
Mest läst i kategorin
AI-appar som lovar hjälp och stöd åt personer med psykisk ohälsa ökar. Många av dem är friskvårdsappar och slipper därmed EU-förordningens granskning. En hel del av dessa är inte utvecklade av personer som är kunniga inom området och saknar därmed tillförlitlighet.
Problemet är att många AI-appar inte bygger på vetenskaplig evidens, vilket skapar viss problematik i stöd inom psykisk ohälsa. Många som söker den här formen av hjälp mår väldigt dåligt och AI kan inte bedöma känslor eftersom det är just vad den saknar.
Många AI-appar saknar legitimitet
Petra Müllerová forskar inom medicinsk rätt med inriktning på ny e-hälsoteknik och dess reglering på EU-nivå. Hon ser en problematik i dessa så kallade friskvårdsappar som hamnar i en juridisk gråzon.
“Appar som säger sig behandla sjukdomar regleras på EU-nivå som medicintekniska produkter. Många tillverkare säger sig i stället ägna sig åt friskvård som inte är lika hårt reglerat”, berättar hon i en artikel publicerad av Lunds universitet. Artikeln bygger på en studie som genomförts inom området.
MISSA INTE: Genom en digital tvillingkopia av dig kan AI förutse din hälsa. News 55
ANNONS
Senaste nytt
AI visade brist på bedömningsförmåga
ANNONS
Petra Müllerová har testat urval av appar och gemensamt för dem är att de försöker vara mänskliga genom inlärd konversationsförmåga. I avsaknad av känslor sker inte detta på något djupare plan, men visst kan användare få en del handfasta råd
“Tillverkarna är skyldiga att berätta för användaren att det handlar om AI-modeller och inte människor. Därför kommer brasklappen i början: ”Mitt namn är X och jag är en AI. Jag kommer vara din guide. Efter detta låtsas de vara människor”, konstaterar hon.
Men hur effektiva är dessa “människorobotar”?
Vid ett tillfälle simulerade hon en suicid person – som ett slags ”värsta scenario”.
“I detta läge bör en AI-modell identifiera att det här är ett allvarligt problem och uppmana användaren att ringa 112. Men en AI som jag provade frågade mig om jag ville lyssna på meditationsmusik”, berättar hon. Det tyder på att AI fortfarande brister i sin bedömningsförmåga.
Positiva exempel
SvD har rapporterat att AI också kan vara till hjälp på det psykologiska planet.
En app har bidragit till att minska självmorden med nio procent i den mexikanska delstaten Yucatán. På grund av att självmordsstatistiken är hög i delstaten beslutade man på lokal nivå att testa denna lösning i samarbete med vårdbolaget MeMind.
ANNONS
Användarna får regelbundet svara på frågor om sin mentala hälsa i appen och artificiell intelligens kan på detta sätt analysera små förändringar och riskfaktorer. På så sätt har AI hjälpt till att kartlägga 10 000 personer som riskerar att begå självmord.
”Jag var imponerad. Det förvånade mig att frågorna var så rakt på sak”, berättar Sonia Cuesta, en av 80 000 personer som använt tjänsten, i artikeln.
LÄS OCKSÅ:
Etiska dilemman när AI återupplivar döda kändisar. News 55
Framtiden: Ny design kan revolutionera flyget. Dagens PS
Läs mer från News55 - vårt nyhetsbrev är kostnadsfritt:
Cecilia Bolter
Fokus på samhälle, hälsa, livsstil och trender för News55
Cecilia Bolter
Fokus på samhälle, hälsa, livsstil och trender för News55
ANNONS
ANNONS
Senaste nytt
ANNONS