Resort vnitra připravuje cizinecký zákon, díky kterému by úřady mohly v řízení s cizinci využívat místo lidí robotické tlumočníky. Jednota tlumočníků a překladatelů před takovým návrhem opakovaně varuje.

Návrh MV je třeba vidět z pohledu snahy rezortu vnitra zavést do právního řádu ČR bez debaty s veřejností nástroj využívající umělou inteligenci.

Naše kritika a znepokojení směřuje k návrhu na zavedení takzvaného „strojového tlumočení“ v cizineckém zákoně, tedy nástroje využívajícího umělou inteligenci, do právního řádu ČR, bez debaty s širší právnickou a odbornou veřejností, bez posouzení společenských, právních a bezpečnostních dopadů, bez součinnosti s Ministerstvem spravedlnosti, do jehož gesce soudní tlumočníci a překladatelé spadají.

Je potřeba si uvědomit, že tento návrh fakticky obchází systém katalogu nezávislých soudních tlumočníků, jejichž kvalitu garantuje stát tím, že stanoví jednotná kvalifikační kritéria pro zápis na seznam soudních tlumočníků a překladatelů vedený Ministerstvem spravedlnosti. Tento systém má v českém právním prostředí dlouhou tradici a zápis na seznam je podmíněn složením státní tlumočnické zkoušky, absolvováním dvou semestrů doplňkového studia na právnické fakultě a zkoušky ze znalosti právních předpisů. V současné době je v seznamu zapsáno přes dva tisíce tlumočníků.

Ministerstvo vnitra ve svém návrhu fakticky říká, že místo soudního tlumočníka může v řízeních o udělení pobytového oprávnění pro cizince na území ČR použít technické zařízení pro “automatické tlumočení”. Parametry pro takovéto tlumočení a situace, kdy toto řešení může být využito, chce ministerstvo vnitra řešit vyhláškou. S ohledem na specifika legislativního procesu to tedy znamená, že toto míní řešit bez veřejné debaty na půdě Poslanecké sněmovny, protože se nejedná o zákon.

Mluvčí ministerstva vnitra Hana Malá na dotaz Českého rozhlasu přiznala, že nástroj, který by už nyní úřady mohly v azylovém řízení využívat, zatím neexistuje. „Takové zařízení, bude-li existovat, se nejprve musí vyzkoušet, co se týče přesnosti a spolehlivosti jeho tlumočení v praxi,“ uvedla.

K diskusi o záměru nebyla přizvána žádná z profesních organizací tlumočníků, Ústav translatologie FF UK, ani odbor soudních znalců a tlumočníků Ministerstva spravedlnosti jakožto dozorový orgán, který má v gesci soudně-tlumočnickou agendu, přestože ve vypořádání připomínek, které do mezirezortního připomínkového řízení zaslal OS JTP, ministerstvo vnitra uvedlo, že bude o svém záměru úzce s JTP komunikovat. Dosud však k takové debatě nedošlo.

Varujeme před dalekosáhlými riziky používání strojových překladačů bez lidské kontroly využívajících umělou inteligenci, bez koordinace na celostátní úrovni, bez předchozího přijetí státní strategie k využívání umělé inteligence v justiční a policejní praxi jako celku a zajištění lidské kontroly nad výstupem.

Výbor pro moderní technologie a lidská práva Rady vlády pro lidská práva k tomuto tématu svolal slyšení v dubnu 2024. Zde předsedkyně JTP E. Jiráková prezentovala úskalí kritizovaného návrhu obsaženého v čl. 477 a přizváni byli i pracovníci Ministerstva vnitra. Výbor pro moderní technologie a lidská práva RVLP následně jasně pojmenoval rizika ve svém stanovisku, které k návrhu přijal. V tomto stanovisku jednoznačně doporučuje od navrhované úpravy v tuto chvíli upustit.

Co nám tedy vadí a co je přehlíženo?

• 1. Imigrační procedury jsou jedny z nejnáročnějších s ohledem na specificitu tlumočeného projevu. Musíte si uvědomit, že ti lidé jsou vystresovaní, plní emocí, často ze zcela odlišného kulturního a ekonomického prostředí. Hovoří různými regionálními dialekty, někdy dokonce směsí několika jazyků najednou.

• 2. V cizineckých řízeních jsou dotčena základní lidská práva žadatelů a práva na spravedlivý proces. Jakákoli chyba stroje může mít nedozírné následky, a kdo pak nese odpovědnost? Jak je zajištěno, že se nanejvýš osobní informace nedostanou od provozovatelů technického zařízení do nepovolených rukou?

• 3. Nebojujeme proti strojům, nástroje pro překlad se budou i nadále zdokonalovat, ale technologická řešení se musí používat pouze jako podpůrný nástroj pro certifikované lidské tlumočníky, s cílem zvýšit efektivitu procesu bez negativního dopadu na kvalitu a spolehlivost komunikace.

• 4. Chybí nám uznání složitosti jazyka, který zahrnuje nejen slova, ale také kulturní nuance, víceznačnosti, emocionální výrazy a neverbální komunikační signály, které stroje nemohou přesně zachytit.

• 5. Zdůrazňujeme význam lidského úsudku a otázku odpovědnosti, kdy nepřesnosti nebo špatné interpretace mohou vést k zásadnímu poškození nebo porušení lidských práv.

• 6. Podporujeme vývoj a použití nejnovějších technologií tak, aby podporovaly, ale nenahrazovaly roli certifikovaných lidských překladatelů a tlumočníků.

• 7. Vyzýváme, aby jakékoli technické zařízení bylo podrobeno důkladnému testování a schválení jazykovými odborníky, odborníky na překlad a tlumočení a právními odborníky. Vyzýváme k inkluzivní a transparentní diskusi zahrnující odborníky, tlumočníky, překladatele, zastánce lidských práv a experty na technologie, aby hodnotili fungování a dopad aplikací AI a digitálních technologií v překladu a tlumočení.

Kritizujeme, že čl. 477, odst. 1 uvádí, že „správní orgán může místo tlumočníka použít technické zařízení, které má umožňovat „automatické tlumočení mluveného slova v reálném čase, přičemž přesnost a rychlost musí být srovnatelná se zapsaným tlumočníkem.“ Ministerstvo vnitra však na jiném místě v důvodové zprávě kritizuje kvalitu soudních tlumočníků zapsaných v seznamu Ministerstva spravedlnosti ČR.

Řešením výhrad ke kvalitě tlumočení není nahrazení tlumočníků stroji. Zákon o soudních tlumočnících a soudních překladatelích ukládá orgánům povinnost zasílat podněty ohledně domnělého pochybení soudního tlumočníka či překladatele Odboru znalců a tlumočníků Ministerstva spravedlnosti, které s tímto tlumočníkem/překladatelem může zahájit správní řízení, udělit pokutu či v krajním případě odebrat oprávnění. Pokud má MV informace o nekvalitním či neetickém výkonu tlumočnické činnosti, je povinno konat a usilovat o nápravu! Není ani v zájmu profesní organizace, aby hájila špatný výkon tlumočníka, který poškozuje profesní komunitu jako takovou.

Ministerstvo v návrhu zcela nesmyslně uvádí, že „rychlost a přesnost technického zařízení“ má být srovnatelná se zapsaným tlumočníkem. Ptáme se tedy, kterým tlumočníkem z 2500 tlumočníků na seznamu? S tím, na jehož kvalitu si v důvodové zprávě stěžuje?

Pokud by se o jakémkoli „technickém zařízení“ mělo vážně debatovat, je nutné jasně definovat a regulovat pojem „technické zařízení“ v legislativním kontextu a zajistit, aby každé použití takového zařízení splňovalo národní a mezinárodní standardy lidských práv a práva na spravedlivý soudní proces. V takém případě se musí dbát na legislativní ukotvení garancí na důvěrnost a ochranu dat, což může být ohroženo používáním technologických zařízení, na ochranu soukromí a bezpečnost osobních informací jednotlivce během imigračního procesu, na odpovědnost a především musí být technologie použita v souladu s požadavky AI Aktu.

Rada Evropské unie přijala v květnu 2024 AI Act, jehož snahou je harmonizovat regulaci AI v celé EU, zajistit bezpečnost a ochranu práv a využívat AI ve prospěch lidí. V prosinci 2024 pak byly přijaty závěry pro odpovědnou integraci AI v oblasti justice, kde se hovoří o potenciálu nástrojů AI jako jsou nástroje pro sumarizaci soudních dokumentů, analýzu judikatury, navrhování textů, překlad/tlumočení či zpracování hromadných žalob. Rada EU však ve svých závěrech zdůrazňuje, že využití AI musí být doprovázeno zárukami. Klíčovým principem je tzv. human-in-the-loop přístup, kdy výstupy AI vždy ověřuje lidský odborník, aby byla zajištěna jejich správnost, objektivita a ochrana základních práv.

Přijmout na základě chybného AI tlumočení správní rozhodnutí je v přímém rozporu s těmito požadavky. Není možné, aby odpovědnost za informace, na jejichž základě je přijímáno rozhodnutí, leželo na algoritmu.

Aktuálně je dostupná rozsáhlá databáze odborných prací popisujících celou řadu zásadních pochybení v procesu strojového překladu, předsudečnost, výpustky, záměny a zcela nesprávné interpretace. Aktuální překladače zásadně chybují, a to právě i v odborném překladu. Například u složitější věty změní z afirmativního sdělení (kladná věta) vyznění na negaci (záporná věta), a to u psaného, lineárně strukturovaného textu. Podíváme-li se na spontánní lidskou mluvu, navíc ještě realizovanou v nekomfortních, stresujících podmínkách, bývá nestrukturovaná, přerývavá, obsahuje nedokončené věty. Zde jedině lidský tlumočník z těchto útržků dokáže udělat logický celek a správně prezentovat záměr mluvčího. Dojem, že překlad, potažmo tlumočení, je doslovný převod slova za slovo, je laický pohled, který nebere v potaz teorii komunikaci. Nebere v potaz, že tlumočení není překlad. Nefunguje zde slovníkový převod slova v jazyce A za slovo v jazyce B. V zohlednění mimojazykových jevů strojové tlumočení naprosto selhává.

Kvalita strojového tlumočení také velmi kolísá v závislosti na jazykové kombinaci. Pro malé, respektive exotické jazyky není k dispozici dostatek vstupních dat, na nichž by se příslušný nástroj mohl trénovat. S touto námitkou se MV vypořádává v tom smyslu, že chce ve vyhlášce vymezit jazyky, pro které bude systém používat. Nutné je však podotknout především to, že samotná čeština je tzv. malý jazyk, to znamená, že pro překlady s češtinou zpravidla do všech jazyků překládá strojový překladač přes zprostředkující, tzv. pivotní, jazyk, kterým je angličtina (má nejvíce trénovacích dat). Nepůjde tedy kromě dvojice čeština-angličtina o přímý překlad, ale o překlad „zdvojený“, kde se riziko chybné interpretace dále zvyšuje.

Strojové překladače existují již dekádu, nadále však vyžadují jejich výstupy post-editaci zkušeným překladatelem, který je schopen porovnat zdrojový a výchozí text a provést takové úpravy, aby se jednalo o věrný překlad.

Shrnuto:

Je předčasné dávat do legislativy něco, co neexistuje, nemá předem dané parametry, nebylo otestováno a vyhodnoceno, a má o tom rozhodovat interně Ministerstvo vnitra vyhláškou, přestože se jedná o technologii AI, jejíž použití má potenciál zásadně zasahovat do lidských práv.

Debata se týká rozhodnutí o využití umělé inteligence v bezpečnostní a justiční oblasti. Tato oblast je kriticky významná co do ochrany dat a ochrany práv účastníků.

Je nutné k nástrojům AI přistoupit jednotně v rámci celého justičního a bezpečnostního aparátu, stanovit závazné podmínky, způsob a rozsah použití, vyřešit otázku odpovědnosti, lidského dohledu, ochrany dat a práv účastníků, implementaci AI Aktu do české legislativy a AŽ POTÉ byť teoreticky uvažovat o konkrétním využití nástroje pro účely návrhu zákona.

Pevně doufáme, že tato sněmovna již zákon neprojedná a nadále budeme oslovovat veškerá relevantní místa.

Důsledně také komunikujeme s partnery v zahraničí. Podařilo se nám díky široké spolupráci s partnerskými zahraničními organizacemi vydat jednotné stanovisko Světové federace překladatelů FIT k využití umělé inteligence v tlumočení, kde se přímo zmiňuje alarmující stav v České republice a konkrétně jsou zde vyjmenována všechna rizika českého návrhu. Prezidentka FIT přijela v listopadu na pracovní návštěvu do Prahy, kde za její účasti proběhl kulatý stůl a setkání na Ministerstvu kultury a Úřadu vlády. V rámci JTP zároveň aktivně pořádáme kurzy pro překladatele pro práci se strojovými překladači, nástroji počítačem podporovaného překladu a nástroji umělé inteligence.

Je s podivem, že právě Česká republika, která v oblasti digitalizace nemá příliš mnoho úspěchů, přichází s takto revolučním návrhem, který není nijak komunikován s rezortem spravedlnosti, do jehož gesce soudní tlumočníci a překladatelé spadají, tím méně s profesními sdruženími a univerzitními pracovišti.

Ve světě, který čelí mnoha hrozbám, mohou hrát překladatelé a tlumočníci zásadní roli. Za zmínku stojí veřejná slyšení v britské Sněmovně lordů, kde probíhala na podzim loňského roku několikaměsíční slyšení o roli lingvistů, překladatelů a tlumočníků v kontextu justice v době umělé inteligence, nutnosti podpory lingvistického vzdělávání a cestách, jak podpořit tlumočníky v justičním systému.

Doc. PhDr. Tomáš Svoboda, Ph.D., ředitel Ústavu translatologie FF UK říká: „To, co se nazývá automatické tlumočení, není tlumočení. Tlumočení zahrnuje celou řadu strategií, jako je anticipace, kondenzace, zpětná kontrola a další. Seriózní označení pro to, čemu se populárně říká automatické tlumočení, je „automatic simultaneous speech translation“, tedy okamžitý strojový překlad mluveného slova. Aktuální nástroje zásadně chybují, a to nejen ve fázi rozpoznání řeči a převodu do textu, ale i samotném překladu. Například u složitější věty změní z afirmativního sdělení (kladná věta) vyznění na negaci (záporná věta), a to u psaného, lineárně strukturovaného textu. Podíváme-li se na spontánní lidskou mluvu, navíc ještě realizovanou v nekomfortních, stresujících podmínkách, bývá nestrukturovaná, přerývavá, obsahuje nedokončené věty, nonverbální složku komunikace. Zde je lidský tlumočník nenahraditelný, ať už bude tlumočení zajišťovat, či bude ověřovat kvalitu výstupu „technologického řešení“.

Otestujte se závěrem: Koupili byste si v cizí zemi nemovitost za několik milionů na základě kupní smlouvy přeložené strojovým překladačem? A pokud jde o použití strojového překladu v cizineckých řízeních?

Generativní umělá inteligence (GPT 4o) na tuto otázku odpovídá: „Určitě ne. Kupovat nemovitost v cizí zemi je zásadní rozhodnutí, a pokud je smlouva přeložena pouze strojovým překladačem, existuje obrovské riziko nedorozumění, skrytých podmínek nebo právních problémů. Právní terminologie je složitá a vyžaduje precizní překlad od odborníka, který rozumí místní legislativě. A pokud jde o cizinecká řízení, tam je to ještě citlivější – špatně přeložený dokument nebo nepřesné tlumočení může znamenat odmítnutí žádosti, ztrátu práv nebo dokonce deportaci. Když jde o peníze a život, určitě se vyplatí investovat do profesionálního právního překladu.“

Edita Jiráková

předsedkyně Jednoty tlumočníků a překladatelů