Den digitale tjenesten ChatBot er for lengst virkelighet. Artikkelforfatterne frykter at ChatDoc skal erstatte legen. Allerede er maskinlæring i bruk som diagnoseverktøy.
Av Ludwig Aigner og Aksel Tveråmo, begge leger og spesialister i allmennmedisin
Bildet er tatt av Clker-Free-Vector-Images fra Pixabay
Dette er tredje del i en artikkelserie kalt “Forsvar av legens kliniske skjønn”.
Første del: – Vi leger er blitt byråkratenes roboter.
Andre del: – Vi frykter at “datalegen” skal erstatte mennesket.
ChatDoc: Vi stiller spørsmål om forholdet mellom menneske og maskin. Og mellom maskinens vurderingsevne kontra menneskets. Hva gjør det med relasjonen mellom lege og pasient dersom den menneskelige legen erstattes av maskinlegen, en ChatDoc? Flere spørsmål å stille:
Er mennesket en maskin, eller kan maskinen være et menneske?
-Annonse-
Styrer mennesket maskinen, eller styrer maskinen mennesket?
Hvem er juridisk ansvarlig for medisinske råd produsert av en ChatDoc?
Filmen The Terminator fra 1984 brukte moderne datateknologi til å lage videoframstilling av fusjonen mellom menneske og maskin.
Spørsmålet mennesket og maskinen er flere hundre år gammelt, helt siden Leonardo da Vincis mekanisk inspirerte anatomi og 1500-tallets klokketeknologi. Der noen tenkere mente at også hjernen fungerte som et urverk.
Kan maskinen være et menneske?
Du svarer nok instinktivt nei på dette spørsmålet. Det er ditt vett, din fornuft – eller ditt skjønn som gir deg svaret. Hvis du spør dagens “eksperter”, er det ikke sikkert at de svarer det samme.
Litt IT-historie: Den første kjente filosofen, alle filosofers far, var grekeren Heraklit. Han mente at hjernen var setet til intelligensen. Han levde fra år 540 til 480 før vår tidsregning, og vi kjenner ikke nærmere til hvordan han tenkte seg fram til den oppfatningen. Det skulle gå to og et halvt tusen år før vi kom videre om spørsmålet.
Den første moderne datamaskinen het «Colossus» og ble bygget i 1943 i England, etterfulgt 1945 av «Eniac» i USA. Engelske Alan Turner ga viktige bidrag, og han mente at hjernen vår fungerte som en maskin.
Maskinlæring
Dagens internett kom i kommersiell virksomhet fra 1994. Stadig større IT-nettverk har skapt maskinlæring. Dette skjer med ekstremt raske søkemotorer som selv kan forbedre sin ytelse og treffsikkerhet. De er i bruk i fagområder som matematikk, sjakk og data-assistert konstruksjon av bygninger og molekyler. Samt i produksjon av blant annet tekster og digital kunst og foto.
ChatBot – din nye lege?
I medisinen kan maskinlæring brukes som diagnoseverktøy, et ordstyrt dataprogram er allerede innenfor rekkevidde. Ikke ulikt slik banker bruker en telefonrobot, ChatBot, som erstatning for personale. I medisinen kan pasientene måtte benytte en ChatDoc i stedet for et virkelig menneske. For diagnostisering med hjelp av digitale oppslagsverk, kan dette være et nyttig verktøy for legen som jobber pasientnært. Men en ChatDoc kan ikke etablere en trygg og tillitsfull legepasient-relasjon. Den relasjonen er en vesentlig del av den medisinske behandlingen. (Artikkelen fortsetter)
Etter pandemien: Hvordan kunne splid oppstå? Hvordan bygger vi nå bro? Møt Guro, Julia og Silje på Litteraturhuset i Bergen! 2. mai.
Hva har frykt, moralisering og sensur gjort med oss som folk?
Hvordan bidrar tekgiganter, media og myndighet til å kontrollere ytringer og påvirke hva som er «god moral»?
Hvordan kan vi forstå nordmenns adferd de siste tre årene?
Med Hemalis journalist Guro Skjelderup, Hemalis redaktør Julia Schreiner Benito og psykologspesialist Silje Schevig. Se arrangementet her.
Finnes kunstig intelligens?
Hvis du mener at intelligens er å produsere riktig svar på en test, er svaret ja. Men hvis du mener at intelligensen er knyttet til menneskets forståelse av seg selv og sine livsbetingelser, slik som Heraklit kom fram til, er svaret nei.
Automaten er nå tatt til et så avansert nivå at vi kaller den for KI – kunstig intelligens.
“Intelligent” energibruk
Intelligent energibruk, kalles energiøkonomisering (ENØK). «Kunstig intelligens» (KI) oppstår når enorme mengder elektrisitet brukes til å drifte internett og maskinlæring. Dette strømforbruket skal sørge for at vi kan løse regneoppgaver, skrive brev, resepter, korte faglige avhandlinger, tegne og male bilder etter muntlige og skriftlige anvisninger ved hjelp av denne. Er det intelligent å bruke så mye elektrisitet til disse oppgavene?
I gresk mytologi ble «automaten» beskrevet, en innretning som kunne utføre handlinger av seg selv, uavhengig av mennesker. Automaten er nå tatt til et så avansert nivå at vi kaller den for KI – kunstig intelligens.
Hadde Heraklit levd i dag, så tror vi at han hadde spurt hvor denne formen for intelligens hadde sitt sete. Og kanskje snudd seg i sin grav?
“Intelligent ” prosjektstyring
I tillegg hadde nok Heraklit brukt sitt filosofiske skjønn på samfunnsprosjekter der KI-støttede beslutningsprosesser har vært sterkt involvert. Prosjekter som har kostet samfunnet milliarder av skattekroner grunnet dårlig skjønn:
- Kommisjon: Koronakrisen kan koste 330 milliarder. (pr. 14.04.2021)
- Follobanen: > 20 milliarder kroner dyrere enn den opprinnelige rammen. Milliardsluket i Moss bør også granskes.
- Offentlig pengebruk, Bane Nor: Nå har de sølt bort 2,2 milliarder på den forsinkede Follobanen.
- Follobanen: Bane Nor tapte i retten – må ut med millionsum.
- Helseplattformen i Midtnorge stipulerte 3.8 milliarder kroner, trøbbel kan gi 835 millioner kroner i ekstrakostnader
Faglig skjønn viker når maskinlæring overtar
Disse prosjektene ble styrt ved svakt faglig skjønn: Menneskers erfarings- og kunnskapsbaserte fornuft ikke ble tatt tilstrekkelig hensyn til, selv om praktiske problemer var godt synlige før de vokste til større problemer.
I prosjektet Follobanen hadde anlegget for returstrøm, som ble kjøpt fra Spania, aldri vært i bruk før på en tilsvarende togstrekning. Ved bruk av et enkelt teknisk skjønn ville man neppe valgt å kjøpe inn installasjonen for returstrøm fra spansk leverandør. Som vi nå vet var underdimensjonert.
I prosjektet Helseplattformen i Midtnorge var det i flere år kommet advarsler fra blant andre overleger i Danmark og USA. Advarsler som hvilte på faglig skjønn og sykehuslegers erfaringer, men som ikke ble hensyntatt.
Prosjektet Covid-håndteringen ble styrt av helsebyråkrater etter tall for smitte, i henhold til en datamodell som ble matet med «Big Data». Det ble ikke tatt hensyn til faglig skjønn fra uavhengige forskere, leger, psykologer og økonomer. Følgene av denne datastyrte måten å kontrollere samfunnet på, ser vi nå i alle industrialiserte land: som overdødelighet, psykiske traumer, arbeidsplasser som har forsvunnet, og dyrtid.
Kostnadene kan beløpe seg til langt over 500 milliarder kroner, når alle følgeskader hos mennesker og i økonomien blir tatt med.
Spørsmål om mennesker, maskiner og intelligens
Er maskiner intelligente?
Hvor befinner den «kunstige intelligensen» seg?
I menneskene, i maskinene, i samspillet mellom menneskene og maskinene?
Hvem styrer og eier den «kunstige intelligensen?»
Slike spørsmål har ført til en krangel mellom eierne av klassiske kunstverk i milliardklassen av Leonardo da Vinci og Picasso. Samt om andre åndsverk som musikk og bøker. Hvem eier «kunsten» som lages av datamaskiner?
Hvem er juridisk ansvarlig for medisinske råd produsert av en ChatDoc? Verdens minste legekontor på Cayman Islands, kanskje?
