Rešpektovaní univerzitní výskumníci bijú na poplach v súvislosti s technológiou, ktorá stojí za plánmi spoločnosti Apple na skenovanie iPhone užívateľské knižnice fotografií pre materiály zobrazujúce sexuálne zneužívanie detí alebo materiály súvisiace so sexuálnym zneužívaním detí, pričom túto technológiu označujú za „nebezpečnú“.
Jonanath Mayer, odborný asistent informatiky a verejných záležitostí na Princetonskej univerzite, ako aj Anunay Kulshrestha, výskumník z Centra pre politiku informačných technológií Princetonskej univerzity, obaja napísal op-ed pre The Washington Post , pričom načrtli svoje skúsenosti s technológiou detekcie obrazu budov.
Výskumníci pred dvoma rokmi začali s projektom identifikácie CSAM v end-to-end šifrovaných online službách. Vedci poznamenávajú, že vzhľadom na svoju oblasť „poznajú hodnotu end-to-end šifrovania, ktoré chráni dáta pred prístupom tretích strán“. Hovoria, že táto obava je to, čo ich desí v súvislosti s „šírením CSAM na šifrovaných platformách“.
kedy kúpiť macbook pro
Mayer a Kulshrestha uviedli, že chcú nájsť strednú cestu pre túto situáciu: vybudovať systém, ktorý by online platformy mohli použiť na nájdenie CSAM a ochranu end-to-end šifrovania. Výskumníci poznamenávajú, že odborníci v tejto oblasti pochybovali o perspektíve takéhoto systému, ale podarilo sa im ho vybudovať a v tomto procese zaznamenali významný problém.
Snažili sme sa preskúmať možnú strednú cestu, kde by online služby mohli identifikovať škodlivý obsah a zároveň zachovať end-to-end šifrovanie. Koncept bol jednoduchý: Ak niekto zdieľal materiál, ktorý sa zhodoval s databázou známeho škodlivého obsahu, služba by bola upozornená. Ak by niekto zdieľal nevinný obsah, služba by sa nič nenaučila. Ľudia nemohli čítať databázu alebo zistiť, či sa obsah zhoduje, pretože tieto informácie by mohli odhaliť metódy presadzovania práva a pomôcť zločincom vyhnúť sa odhaleniu.
Znalí pozorovatelia tvrdili, že systém ako ten náš nie je ani zďaleka realizovateľný. Po mnohých chybných štartoch sme postavili funkčný prototyp. Narazili sme však na do očí bijúci problém.
Od ohlásenia tejto funkcie spoločnosťou Apple bola spoločnosť bombardovaná s obavami že systém na zisťovanie sexuálneho zneužívania detí by sa mohol použiť na zisťovanie iných foriem fotografií na žiadosť represívnych vlád. Spoločnosť Apple dôrazne odmietla takúto možnosť a uviedla, že odmietne akúkoľvek takúto žiadosť vlád.
Napriek tomu sú obavy z budúcich dôsledkov technológie používanej na detekciu CSAM rozšírené. Mayer a Kulshrestha uviedli, že ich obavy z toho, ako by vlády mohli použiť systém na detekciu iného obsahu ako CSAM, ich „vyrušili“.
čo robiť so starým iphone po prenose
Zahraničná vláda by si napríklad mohla vynútiť službu ľuďom, ktorí zdieľajú nepriaznivé politické prejavy. To nie je hypotetické: WeChat, populárna čínska aplikácia na odosielanie správ, už používa zhodu obsahu na identifikáciu disidentského materiálu. India tento rok prijala pravidlá, ktoré si môžu vyžadovať predbežné preverenie obsahu kritického pre vládnu politiku. Rusko nedávno pokutovalo spoločnosti Google, Facebook a Twitter za neodstránenie prodemokratických protestných materiálov.
Zistili sme ďalšie nedostatky. Proces priraďovania obsahu by mohol mať falošné pozitíva a zlomyseľní používatelia by mohli hrať systém tak, že budú podrobení kontrole nevinní používatelia.
Boli sme tak znepokojení, že sme urobili krok, ktorý sme v literatúre o počítačovej vede ešte nevideli: Varovali sme pred vlastným návrhom systému a naliehali na ďalší výskum, ako zmierniť vážne nevýhody....
Apple naďalej rieši obavy používateľov v súvislosti so svojimi plánmi, zverejnenie ďalších dokumentov a stránku s často kladenými otázkami . Apple aj naďalej verí, že jeho systém detekcie CSAM, ktorý sa vyskytne na zariadení používateľa, je v súlade s jeho dlhodobými hodnotami ochrany súkromia.
Tagy: Apple súkromie , WashingtonPost.com , Apple funkcie ochrany detí
Populárne Príspevky