Skal en AI i telefonen sige, at den er en AI?

Det korte svar

Ja. Tager en AI telefonen for dit firma, skal kunden have at vide, at det er en AI. Det står i artikel 50 i EU's forordning om kunstig intelligens, også kaldet AI-forordningen eller AI Act. Den del af forordningen gælder fra 2. august 2026.

Hvad siger artikel 50?

Stk. 1 handler om AI-systemer, der taler direkte med mennesker. Udbydere skal sikre, at "de pågældende fysiske personer oplyses om, at de interagerer med et AI-system". Det gælder, medmindre det er indlysende for en rimeligt velinformeret, opmærksom og forsigtig person ud fra situationen.

Stk. 5 siger, hvordan og hvornår. Oplysningen skal gives "på en klar og synlig måde" og "senest på tidspunktet for den første interaktion". I en telefon betyder det: i starten af samtalen, ikke efter et par minutter.

Stk. 6 siger, at artikel 50 ikke fjerner andre regler om åbenhed i EU-retten eller dansk ret. Persondatareglerne gælder fx stadig ved siden af.

Er det ikke indlysende, at det er en AI?

Ikke i en telefon. En moderne AI-stemme kan lyde som et menneske. Kunden ser ingen skærm og intet logo. Ringer kunden til en håndværker, venter hun et menneske. Undtagelsen om, at det er indlysende, passer derfor sjældent på et telefonopkald. Det sikre er at sige det.

Hvem har pligten: dig eller leverandøren?

Pligten i stk. 1 ligger hos udbyderen. Det er den, der laver AI-systemet. Bruger du en AI-telefonpasser, er det leverandøren, der skal bygge det ind. Men det er dit firmanavn, kunden hører, og din kunde, der føler sig snydt, hvis hun ikke får det at vide. Tjek derfor selv, at din løsning siger det.

Sådan siger Ida det

Ida siger "Jeg er en AI-assistent." som sin egen sætning i første replik, sammen med firmaets navn. Spørger kunden, om hun er et menneske, svarer hun ærligt. Taler kunden engelsk, svarer hun på engelsk.

Vi har valgt ordet "AI-assistent" med vilje. "Digital assistent" er også en jobtitel for et menneske, så det siger ikke klart nok, at det er en AI. Og vi siger det som en hel sætning, så det ikke drukner i en hurtig hilsen.

Tjekliste: siger din AI-telefonpasser det rigtigt?

1. Ring selv til dit firma, når AI'en tager telefonen.
2. Hør efter, om den siger, at den er en AI, i første replik.
3. Tjek, at den siger det med almindelige ord, fx "Jeg er en AI-assistent."
4. Tjek, at den siger dit firmanavn, så kunden ved, hvem hun har ringet til.
5. Spørg den, om du taler med et menneske. Den skal svare ærligt.
6. Tal engelsk til den, og spørg igen, om du taler med et menneske. Svaret skal også være ærligt på engelsk.
7. Spørg leverandøren, om sætningen altid er med. Den bør ikke kunne slås fra.