Et af de områder, hvor kunstig intelligens (AI) og nye teknologier for alvor har vundet frem de seneste år er udlændingeretten. I Belgien og Frankrig bruges AI for eksempel til ægthedsvurdering af udlændinges dokumenter, og i Danmark, Norge, Tyskland og Storbritannien til organisering af materiale udlæst fra asylansøgeres mobiltelefoner. I Grækenland, Letland og Ungarn har man testet AI som løgnedetektor, i Storbritannien til aldersvurdering af uledsagede mindreårige, og i Tyrkiet til dialektgenkendelse, hvor man er i tvivl om asylansøgeres påståede oprindelsesland eller tilhørsforhold. 

Teknologien finder også hastigt vej ind i udlændingemyndigheders daglige sagsbehandling. I Storbritannien bruges AI til hurtigt at opsummere de ofte meget lange asylsamtaler. I Sverige og Norge er behandlingen af ansøgninger om opholdstilladelse og statsborgerskab allerede delvist automatiseret. Og på tværs af Schengen eksperimenteres der ivrigt med at bruge AI til risikovurdering i forbindelse med visumansøgninger og grænsekontrol.

Men AI har også potentiale som et værktøj for udlændinge selv, deres advokater og interesseorganisationer. Australske forskere har for eksempel udviklet værktøjer, der skal gøre det nemmere for udlændinge at navigere i nationale klageinstanser eller genåbne sager på baggrund af nye oplysninger. Mine nordamerikanske kollegaer udvikler værktøjer, hvor man på baggrund af sagstypen kan se, hvilke argumenter der tidligere har virket overfor den specifikke dommer, der er tildelt sagen. Og i mit eget team er vi i gang med at pilotteste en ny AI-platform til virksomheder og udenlandske arbejdstagere, der kan hjælpe med at navigere i og søge om opholds- og arbejdstilladelse under de forskellige danske erhvervsordninger.

Men med AI-revolutionen melder sig også flere afgørende spørgsmål. Hvad betyder brugen af AI ikke bare for udfaldet men også for beslutningsprocessen, krav om transparens og legitimitet? Hvordan bruger vi AI ansvarligt og indenfor rammerne af eksisterende lovgivning, herunder EU’s nye AI-forordning? Og hvordan risikovurderer vi nye AI værktøjer i forhold til de meget forskellige sagsområder indenfor udlændingeretten? Det er nogle af de spørgsmål, vi forsøger at besvare i Nordic Asylum & Data Lab, der på få år er blevet blandt verdens førende forskningsgrupper indenfor tværfaglig og databaseret forskning i udlændingeretlige afgørelsesmønstre.

Hvad driver AI-udviklingen på udlændingeområdet?

Der er flere årsager til, at brugen af AI og nye teknologier er gået så hurtigt indenfor netop dette område. Forvaltningsmæssigt er udlændingeområdet karakteriseret ved altid skiftende og ofte uforudsigelige sagsmængder. Selvom AI også på dette område har gjort sit indtog, er det i praksis meget svært at forudsige en ny flygtningekrise, en pludselig massetilstrømning til et bestemt land, som den vi i sommer har set ved den spanske eksklave Ceuta, eller behovet for opholdstilladelser til udenlandske arbejdstagere og studerende. På hvert af disse områder afhænger sagsmængden af en række eksterne faktorer – altid skiftende migrationsstrømme, pludselige skift i vores nabolandes regulering, udbud og efterspørgsel på arbejdsmarkedet, for blot at nævne nogle få. For dem, der arbejder indenfor udlændingeområdet, er det derfor et vilkår, at man næsten altid er i gang med enten at opskalere eller skære ned, hyre eller fyre. Og derfor er AI værktøjer noget særligt myndigheder er meget optagede af, da de kan være med til at lette eller stabilisere arbejdspresset.

Bedre og bredere oplysning

En anden problemstilling er, at udlændingesager ofte træffes på et meget sparsomt eller usikkert oplysningsgrundlag. I asylsager er det for eksempel ofte umuligt at verificere alle oplysninger, indkalde vidner eller gennemføre retstekniske undersøgelser. I hovedparten af sager er det således ansøgerens egen forklaring, og troværdighedsvurderingen af denne, der er afgørende for udfaldet. Her håber mange myndigheder, at de nye AI-teknologier kan være med til at skabe et bedre og bredere oplysningsgrundlag, for eksempel i forhold til indhentning af baggrundsoplysninger, ægthedsvurdering af bevismateriale eller sammenholdning af ansøgerens egen forklaring. 

På andre områder, som for eksempel grænsekontrol, er hastighed helt afgørende. Hvis alle passagerer i Københavns Lufthavn skulle udtages til kontrol, ville det medføre timelange forsinkelser. Her bruges AI i stigende grad til at foretage risikovurderinger og forskellige former for triage. EU har således investeret massivt i ny teknologi på dette område, inklusive et pilotprojekt, hvor en digital avatar gennemfører interviews, mens ansøgerens baggrund og sociale medieprofiler automatisk indhentes og såkaldte ”micro expressions” såsom øjenbevægelser optages og vurderes i forhold til tegn på usikkerhed eller løgnagtighed. Om dette virker i praksis er dog stærkt omdiskuteret, og projektet blev mødt af omfattende kritik fra blandt andet psykologiske forskere.

Endeligt er udlændingeområdet i nogle lande kommet til at fungere som et slags eksperimentarium i forhold til brugen af AI i befolkningen mere generelt. I USA har man således siden 2022 haft semi-autonome robothunde som en del af grænsekontrollen, og i Australien ubemandede ubåde til overvågning af for eksempel bådflygtninge. I begge tilfælde udviklet af private firmaer, der ser grænsekontrol som udviklingsplatform i forhold til større markeder indenfor politiarbejde eller militærindustrien.

Udfordringerne står i kø

Brugen af AI indenfor udlændingeområdet kommer dog også med en række udfordringer og risici, etiske, tekniske såvel og rettighedsmæssige. Alene myndigheders brug af ny teknologi i sagsbehandlingen har skabt omfattende kritik. Et helt grundlæggende problem er manglende transparens. Mange af de AI-løsninger, der anvendes i dag, bygger på store sprogmodeller, hvor de mange millioner af datapunkter og beregninger gør det umuligt at spore, hvordan en AI-model når til et konkret resultat. Udfordringen forstærkes, når sådanne værktøjer udvikles af private udbydere. I forbindelse med det ovennævnte EU-pilotprojekt søgte en gruppe EU-parlamentarikere således aktindsigt i den underliggende algoritme, blandt andet for at kunne vurdere systemets faktiske formåen i forhold til at fungere som løgnedetektor. I en sag mod EU’s forskningsagentur afgjorde EU-Domstolen dog, at selvom den offentlige interesse kan begrunde en delvis adgang til projektets dokumentation, opvejer det ikke hensynet til virksomhedens konkurrencemæssige interesser. Det var derfor ikke muligt at få adgang til for eksempel kildekoden eller statistik, der kunne give et fingerpeg om antallet af falsk positive resultater eller mulig forskelsbehandling.

Brug af ny teknologi er tilsvarende blevet kritiseret for ikke i tilstrækkelig grad at tage hensyn til retten til privatliv. Udlæsning af udlændinges mobiltelefoner eller sociale medier indeholder således en stor mængde personfølsomme og ofte mere intime data, hvoraf meget ikke er relevant for sagens oplysning. I Danmark foretages udlæsning i op mod 20 procent af alle asylsager, og det er i praksis svært at foretage en individuel proportionalitetsafvejning i forhold til, hvad der udlæses. Flere sager er på dette område ført i andre europæiske lande. I 2022 afgjorde en appeldomstol, at de britiske myndigheder havde handlet ulovligt ved generelt at udlæse mobildata i asylsager, både fordi retsgrundlaget ikke var tilstrækkeligt, og fordi kravene til nødvendighed og proportionalitet ikke var opfyldt. I 2023 afgjorde den tyske forbundsforvaltningsdomstol tilsvarende, at tyske myndigheder havde handlet ulovligt ved ikke at overveje mindre indgribende midler, ikke tilstrækkeligt at oplyse asylansøgere om, hvilken data der udlæses, og først at vurdere nødvendighed og proportionalitet, efter data var udlæst og analyseret.

Endelig kan man rejse en række mere grundlæggende spørgsmål til sådanne teknologiers betydning for vores retssystemers funktion og legitimitet. En af verdens mest citerede juridiske forskere, Cass Sunstein, har gjort sig til talsmand for, at blandt andet asylafgørelser helt eller delvist bør overlades til AI. Argumentet herfor er, at amerikanske studier har vist, at asylafgørelser i overvejende grad afhænger af den enkelte dommer, der er tildelt sagen, og i vidt omfang påvirkes af vedkommende personlige forudsætninger, politiske holdninger eller andre eksterne faktorer. AI-værktøjer kan dermed være med til i højere grad at ensarte afgørelsesmønstre, så asylafgørelser ikke – som det ofte bliver påstået, fungerer som et de facto lotteri, hvor det i højere grad er den, der sættes til at afgøre end sagens faktiske omstændigheder, der bestemmer udfaldet. 

Vores egen forskning, på baggrund af data fra Danmark, Norge og Sverige, peger dog på, at sådanne udsving i de nordiske retssystemer er langt mindre markante, blandt fordi man i for eksempel Danmark gennem Flygtningenævnet har en specialiseret og panelbaseret ankeinstans. Endnu mere væsentligt viser vores analyser, at dommerens identitet langt fra er det eneste, der påvirker afgørelsen. Særligt når det kommer til troværdighedsvurderinger påvirkes udfaldet af en række forskellige og gennem hinanden samvirkende faktorer – for eksempel ansøgerens motiv, religion, etnicitet eller seksuelle orientering. Den form for bias er langt sværere for en AI-model at rydde op i, idet den typisk trænes på de eksisterende afgørelser. Her risikerer menneskelig bias altså at ryge med over i AI-modeller og kan endda komme til at forstærke den form for forskelsbehandling, det var intentionen at løse.

Man kan også stille spørgsmålstegn ved, hvordan sådanne systemer vil forholde sig til underliggende bevismateriale og baggrundsoplysninger. AI-modeller er generelt bedre til at forholde nye sager til generelle mønstre i det sagsmateriale, de er trænet på. Mindre afvigelser fra disse mønstre bliver ofte registreret som ”outliers,” også selvom sådanne sager juridisk kan have principiel betydning. Det er derfor usikkert, hvordan AI-modeller rent teknisk vil forholde sig en pludseligt skiftende virkelighed, som for eksempel Talibans magtovertagelse i Afghanistan i 2021. Eller til den individuelt forfulgte politiske dissident, der kommer fra et land, der for langt de fleste er sikkert.

Selv mere begrænset brug af AI bør give anledning til grundige overvejelser. Når de britiske myndigheder for eksempel bruger AI til at opsummere lange sagsakter og ansøgerens forklaringer, kan det for nogen virke uproblematisk, så længe selve afgørelsen træffes af en kvalificeret sagsbehandler. Mange praktikere vil dog pege på, at netop processen med manuelt at gå igennem sagens akter er afgørende både for at forstå og etablere sagens faktum.  Fra ansøgerens perspektiv er det tilsvarende afgørende for retsfølelsen, at en beslutningstager er bekendt med og har overvejet alle fremlagte oplysninger.

Hvad kan og bør vi bruge AI til på udlændingeområdet?

Ovenstående bekymringer er dog ikke ensbetydende med, at man på forhånd bør afvise alle former for ny teknologi i udlændingesager. Som på mange andre områder er det i praksis svært at skrue tiden tilbage, og man bliver nødt til at forholde sig til AI som en allerede eksisterende og voksende del af udlændingeretten. I stedet bør vi spørge os selv, hvordan vi kan bruge nye værktøjer ansvarligt og med mindst mulig risiko, særligt på et område hvor forkerte afgørelser kan have afgørende konsekvenser for de berørte.

Et første skridt i den retning er at blive bedre til at forstå og kortlægge de udfordringer og bias, som brugen af AI i for eksempel sagsbehandling kan medføre. Det er netop de spørgsmål, vi fokuserer på i Nordic Asylum Law & Data Lab. Vores forskning peger på den ene side på, at nogen af de problemer, der er blevet påvist i studier fra andre lande, kun i mindre grad gør sig gældende i dansk asylpraksis. Det gælder for eksempel bias i forhold til ansøgerens køn eller udsving i forhold til den enkelte nævnsformands afgørelsesmønstre. Vi kan på den anden side se, at der er stor forskel på, hvordan forskellige typer af sager oplyses, og at der over tid er markante skift i, hvordan troværdighed vurderes ud fra forskellige parametre. Vi arbejder tilsvarende tæt sammen med datalogiske forskere. Den tætte dialog på tværs af discipliner er for os afgørende for at kunne give svar på, hvordan man rent teknisk bør forholde sig til eksisterende og nye regler, som for eksempel EU’s AI-forordning. Endeligt håber vi at kunne være med til at uddanne flere jurastuderende og forskere, der har forståelse for og kan stille kritiske spørgsmål til, dette samspil – hvad nogen kalder ”data literacy.”

Et andet vigtigt perspektiv er at tilgå AI som et supplement til – ikke en erstatning af menneskelig beslutningstagen. Her vil AI-værktøjer for eksempel kunne bruges til at træne og evaluere studerende og nyansatte sagsbehandlere, før de sidder med virkelige sager. I en række lande bliver AI derudover brugt til såkaldt ”nudging.” Det kan for eksempel være værktøjer, der gør sagsbehandlere opmærksom på manglende aspekter i en afgørelses begrundelse, eller gør opmærksom på hvis en afgørelse afviger markant fra eksisterende praksis. Som nævnt er der tilsvarende eksempler på værktøjer rettet mod andre end myndigheder, der kan gøre det nemmere for ansøgere at navigere i ofte komplicerede udlændingeretlige regler, eller for advokater og fortalerorganisationers mulighed for at yde bedre bistand, når ressourcerne er begrænsede, hvilket er tilfældet i mange lande. 

Endeligt bør man nøje overveje, hvor og hvornår brugen af AI er sikker og forsvarlig. På udlændingeområdet er der stor forskel på sagernes karakter og den risiko, en eventuelt forkert afgørelse medfører. Man kunne på den baggrund argumentere for, at der bør stilles endnu højere krav til udviklingen og test af AI på for eksempel asylområdet. Omvendt vil en mere begrænset brug af AI måske i højere grad kunne forsvares, når det kommer til afgørelser i sager om udenlandske arbejdstagere, hvor både ansøgere og arbejdsgivere ofte har en fælles interesse i hurtig sagsbehandling. Man kan tilsvarende overveje at begrænse brugen af AI til områder, hvor formålet alene er at undgå unødigt sagsbehandlingsarbejde eller bedre oplyse sagens faktum. Det kunne for eksempel være screeningsværktøjer, der automatisk gør ansøgere opmærksomme på, hvis nødvendig dokumentation mangler, før en sagsbehandler har tygget sig halvvejs igennem sagen. Eller værktøjer, der automatisk indsamler de nyeste baggrundsoplysninger eller open-source data om forhold af relevans for sagen.