Når er menneskelig kontroll over KI reell, og når ser den bare sånn ut?

Human-in-the-loop er blitt et mantra i KI-utviklingen innen helse, og et krav i både regelverk og anskaffelser. Men hva betyr det egentlig i praksis, og når blir det bare en illusjon av kontroll?

Nyere forskning viser at helsepersonells ytelse kan falle med KI-støtte. Når «godkjenn»-knappen trykkes gang på gang uten reell vurdering bak, har vi da fortsatt kontroll, eller har vi bare skapt et system som ser trygt ut?

I denne panelsamtalen flytter vi spørsmålet fra om det sitter et menneske i loopen til hvor i prosessen kontrollen ligger. Vi ser nærmere på hvilke grep som faktisk sikrer menneskelig ansvar og dømmekraft når vi automatiserer, og hvor i prosessen mennesket må være til stede for at kontrollen skal bety noe.

Deltakere

• Michael Riegler, Sjefsforsker og Head of AI, Simula Research Laboratory, Professor, OsloMet
• Helga M. Brøgger, Spesialrådgiver, Direktoratet for medisinske produkter
• Anders Debes, Fagdirektør på Lovisenberg Diakonale
• Ishita Barua, Lege, forsker, forfatter og CEO i Engram

Moderator: Line Langeland, Medisinsk direktør, Deepinsight

Denne sesjonen er i samarbeid med Deepinsight