I dag er det den første skoledag efter sommerferien i hele Centraleuropa, hvor man vender tilbage til skolen et par uger senere end i Norden. Da jeg var skoleelev i halvfemsernes Budapest havde d. 1. september altid en stor betydning: man kom helt pludseligt og drastisk tilbage fra sine sommeraktiviteter, direkte til en skoledag, der startede med ”åbningsceremonien” – en formel begivenhed, der varede timevis, var præget af strygede skjorter, sorte bukser og ledersko, og som stod i stærk kontrast med de svømmebukser de heldige af os stadigvæk havde haft på blot få dage tidligere. Da skoleåret denne gang også har budt mig velkommen igen som sprogskoleelev i dansk, har jeg besluttet, at det er en udmærket anledning til (og også god sprogøvelse) at endelig skrive mit første danske blogopslag. Kritik er meget velkommen!
Mine tanker efter sommerferien drejer sig om generativ kunstig intelligens, med fokus på et ret mikroaspekt og dets erhvervsetiske betydning.
Der er ikke tale om hvordan generativ AI kan ”optimere” eller erstatte den menneskelige indsats når det kommer til sjælløse, repetitive forretningsprocesser, men om en debat om det, der på det samfundsmæssige niveau kaldes ”the public benefits of AI”. Det handler om den normative forventning, at der bør stilles stærke krav til AI i forhold til de vigtige, samfundsmæssige (klima-, sundheds-, social choice, osv.) problemer, vi mennesker indtil videre ikke har haft stor succes med at løse. Hvis der ikke er tilfredsstillende dokumenteret bevis på, at AI har kapacitet for det i et eller andet domain, så skal den først og fremmest strengt reguleres med hensyn til alle de risici den medfører for eksempel til privatliv, mentale sundhed, og intellektuel ejendom. Og under ingen omstændigheder bør den støttes af det offentlige med for eksempel let adgang til naturlige ressourcer, skattefradrag, eller deregulering. Derudover introducerer Oxford Internet Institute-professor Sandra Wachter et al. i deres tankevækkende artikel et nyt “public benefit”-krav til AI: lykke.
Da jeg læste artiklen lige inden sommerferien kunne jeg nemt tilknytte dens samfundsmæssige fokus med en række (ikke nødvendigvis samfundsmæssige) samtaler jeg havde haft med compliance-kolleger fra mit netværk. Jeg vil nævne tre narrativer.
En kollega har engageret sig helhjertet i AI, og udviklet en del „agents”, der emulerer sine små beslutninger i flere scenarier – men størstedelen af arbejdet har således skiftet til agentoptimering og redigering af agenternes outputs, der minder om en IT-backoffice i modsætning til den business-partner-agtige verden af compliance.
En anden kollega har oplevet, at kvaliteten af de compliance-materialer, der bliver udgivet i firmaet er faldet dramatisk, men omvendt er tonen blevet meget ”polished” og overbevisende, hvilket har ført til, at seniorledere, der ikke forstår de faglige detaljer og deres fejl, ikke kontrollerer deres kvalitet.
Den tredje kollegas yndlingsbeskæftigelser har altid været kommunikationsrelaterede – for eksempel at stille gode spørgsmål i forhold til en compliance-sag og venter på hvilken slags svar der kommer. Nu finder hun, at alle de forespørgsler, hun får, har den samme stemme; alle svar hun får på sine spørgsmål lyder ens, og ofte mangler en ægte betydning.
Det minder om den nu klassiske internetgraffiti: ”jeg gider ikke læse noget, som ingen gad skrive.”
Man kan sige, at moderne virksomheder er blevet den mest statsagtige af såkaldte non-state-actors. På den samme måde, at der er gode argumenter for, at stater bør vurdere AI-investering fra folkelykkens synspunkt, er der lige så gode argumenter for, at virksomheder bør gøre det samme. Lykkelige medarbejdere er mere produktive, mere loyale, og opfører sig generelt mere compliant og mere ansvarsfuldt, bare fordi de har ”buy-in” i firmaprojektet. Ulykkelige medarbejdere laver værre og værre arbejde inden de forlader virksomheden.
Efter min mening bør compliance-funktionen være omhyggelig med hvor meget AI den bruger. Det gælder først og fremmest kommunikations- og træningsopgaver, analyser og beslutninger. En compliance-funktion er kun så meget værd, som den tillid, den får fra interessenterne. Og hvis interessenterne føler, at der ikke er et menneske bag, som udviser dømmekraft, empati og tager ansvar for konsekvenserne, så taber compliance sine bedste allierede, og kan nemt konfronteres med en situation, hvor den ikke kan udfylde sin mission.
