Nevek, amelyeket hónapok neveként fordítanak le, pontatlan időintervallumok és összekevert névmások – a mesterséges intelligencia által vezérelt fordítóalkalmazások mindennapos hibái pusztítást okoznak az amerikai menekültügyi rendszerben – állítják a bírálók.
„Számtalan ilyen jellegű példát ismerünk” – mondta Ariel Koren, a Respond Crisis Translation nevű globális fordítókollektíva alapítója, aki több mint tizenháromezer menedékkérelmet fordított le, és arra figyelmeztet, hogy a hibák megalapozatlan elutasításhoz vezethetnek.
Elmondása szerint egyik esetben az ügyvédek azért hagytak ki egy döntő fontosságú részletet egy nő családon belüli erőszakról szóló beszámolójából, mert az általuk használt fordítóalkalmazás folyamatosan leállt, és kifutottak az időből.
„A gépek a minőségi követelmények minimumát sem adják annak, amire szükség lenne ahhoz, hogy olyan ügyeket tudjanak feldolgozni, amelyek elfogadhatók egy nagy tétet jelentő helyzetben” – mondta Koren, aki korábban a Google Translate-nél dolgozott.
A Thomson Reuters Alapítványnak elmondta, hogy a csoport egyik fordítójának becslései szerint az általa feldolgozott afgán menekültügyek negyven százalékánál a gépi fordítás miatt merültek fel zavarok. Hozzátette, hogy a haiti kreol nyelvet beszélők ügyei is jelentős problémákkal szembesültek.
A kormányzati alvállalkozók és a nagy segélyszervezetek egyre gyakrabban használnak mesterséges intelligenciával működő gépi fordítóeszközöket, mivel „óriási az ösztönzés a költségek csökkentésére” – mondta Koren.
Aliya Bhatia, a Center for Democracy & Technology agytröszt politikai elemzője szerint azonban nem világos, milyen mértékben használják ezeket az amerikai bevándorlási eljárásokban, mivel az átláthatóság nagymértékben hiányzik.
„Tudjuk, hogy a kormányok és a menekültügyi lobbik világszerte (…) az automatizált technológia felé mozdulnak el” – mondta.
A ProPublica oknyomozó hírügynökség 2019-es jelentése szerint arra utasították a bevándorlási hivatalnokokat, hogy a Google-fordítót használják a menekültkérelmeket benyújtók közösségimédia-fiókjainak ellenőrzésére.
Az Amerikai Egyesült Államok Igazságügyi Minisztériuma és a Bevándorlási és Vámhivatal nem válaszolt a Thomson Reuters Alapítvány megkeresésére, ahogy a Fehér Ház sem, amely nemrégiben adott ki egy nemzeti tervezetet a mesterséges intelligenciára vonatkozó iránymutatásokról.
A Google szóvivője a gépi fordítás menedékjogi ügyekben való alkalmazásával kapcsolatos aggályokról azt mondta, hogy a Google Translate-et szigorú minőség-ellenőrzésnek vetik alá, és rámutatott, hogy ingyenes.
„Szigorúan tanítjuk és teszteljük rendszereinket, hogy az általunk támogatott 133 nyelv mindegyikénél megfeleljenek a fordítási minőségi követelmények magas színvonalának” – mondta a szóvivő.
Hiányos tanulás
A fordítóeszközök menekültügyi ügyekben való alkalmazásának egyik fő hiányossága az ellenőrzés beépítésének nehézségeiből ered – mondta Gabe Nicholas, a Center for Democracy & Technology kutatója, aki Bhatiával együtt társszerzője a gépi fordításhoz használt modellekről szóló májusi tanulmánynak.
„Mivel az illető csak egy nyelvet beszél, nagyon-nagyon nagy a lehetősége annak, hogy nem veszi észre a hibákat és a tévedéseket” – mondta.
Nicholas és Bhatia szerint a gépi fordítás az elmúlt években jelentős előrelépést ért el, de még közel sem elég jó ahhoz, hogy olyan, gyakran összetett, nagy tétekkel járó helyzetekben, mint a menekültügyi eljárás, megbízható legyen.
Az egyik fő probléma az, ahogy az alkalmazásokat tanítják – digitalizált szövegeken, amelyek az angol nyelv esetében tömegesen állnak rendelkezésre, más nyelveknél azonban sokkal kevésbé.
Ez nemcsak kevésbé árnyalt vagy egyszerűen hibás fordításokat eredményez, hanem azt is jelenti, hogy az angol vagy más, nagy forrásértékű nyelvek „közvetítővé válnak, amelyeken keresztül ezek a modellek a világot látják” – mondta Bhatia.
Az eredmény olyan angolcentrikus fordítások tömege, amelyek gyakran nem képesek pontosan megragadni az egy-egy adott szó körüli, döntő fontosságú árnyalatokat.
Sok más ágazathoz hasonlóan a fordítóipart is felforgatták az elmúlt hónapokban az olyan generatív mesterségesintelligencia-eszközök, mint a ChatGPT.
„A ChatGPT és a mesterséges intelligencia foglalkoztat most mindenkit” – mondta Jill Kushner Bishop, a chicagói székhelyű Multilingual Connections alapítója és vezérigazgatója.
„Vannak indokok az alkalmazására, amelyek egyre meggyőzőbbek. De a legtöbb esetben még mindig nem áll készen arra, hogy mankó és emberi közreműködés nélkül használjuk” – mondta Bishop.
A vállalat rendszeresen teszteli az eszközöket a különböző nyelveken – mondta Katie Baumann termelési igazgató –, de továbbra is problémákat találnak a szöveges fordításokkal, például török vagy japán nyelven, vagy a mesterséges intelligencia által végzett audioátiratokkal, amelyeken háttérzaj hallható.
„Teszteket futtattunk a bűnüldözési kihallgatások kivonataiból, feldolgoztuk és gépi fordításon hajtottuk keresztül – és sok nonszensz jött ki. Ezzel nem spórolunk időt, ezért nem használjuk” – mondta Baumann.
Tehát még ha a Multilingual Connections egyre gyakrabban használ gépi fordítást, az ember még mindig részt vesz benne.
„Nem tudod, amit nem tudsz. Aki nem beszéli az adott nyelvet, nem tudhatja, hol lesznek a hibák” – mondta Bishop.
„Gondoljunk a menedékjogi ügyekre és arra, hogy mit lehet félreérteni emberi ellenőrzés nélkül” – mondta. A ChatGPT-t kifejlesztő OpenAI nem kívánt nyilatkozni, de egy szóvivője rámutatott azokra a szabályzatokra, amelyek tiltják a „magas kockázatú kormányzati döntéshozatalban” való felhasználást, beleértve a bűnüldözést, a büntető igazságszolgáltatást, a migrációt és a menekültügyet.
Ehhez kapcsolódóan: Az Egyesült Államok és Mexikó határa a világ leggyilkosabb szárazföldi migrációs útvonala
„Szörnyű zűrzavar”
A Respond Crisis Translationnél a mesterséges intelligencia által vezérelt fordítási eszközök hiányosságai szintén pluszmunkát adnak Korennek és kollégáinak.
„Az emberek azok, akiknek ezt a rendetlenséget el kell takarítaniuk” – mondta.
A kollektíva egyik fordítója, Samara Zuza három éve dolgozik egy brazil menedékkérővel, akinek egy mesterségesintelligencia-alkalmazás rosszul fordította le menedékjogi papírjait, miközben Kaliforniában volt bevándorlási őrizetben – mondta.
A kérelem „tele volt őrült hibákkal” – mondta Zuza. „A város és az állam neve rossz. A mondatok fordítva vannak – és ezt a nyomtatványt küldték el a bíróságnak.”
Szerinte ezek a pontatlanságok vezettek ahhoz, hogy elutasították a férfi szabadlábra helyezésére tett kezdeti kísérleteket. A férfit – aki azt kérte, hogy csak Carlos néven említsük – végül 2020 májusában engedték szabadon, miután együtt kezdett dolgozni Zuzával.
„A nyelv volt a legrosszabb aspektus” – mondta a 49 éves Carlos a bevándorlási őrizetben töltött hat hónapról. Carlos a Brazíliában ténykedő bandák elől menekült Amerikába.
A férfi telefonon válaszolt a kérdésekre Massachusettsből, ahol most él, miközben amerikai tartózkodási engedélyére vár.
Carlos, aki írástudatlan, és brazil portugált beszél, azt mondta, hogy hónapokig nem tudott kommunikálni a bevándorlási hivatalnokokkal, de még a többi fogvatartottal sem.
Menedékjogi papírjai kitöltéséhez egy táblagép hangrögzítőjére támaszkodott, amelyet egy gépi fordítást használó alkalmazással kapcsolt össze.
„Nagyon sok szót rosszul fordítottak le – mondta. – Szörnyen zavarosak voltak a menekültügyi papírjaim.”
