Útskýrt: Hvernig Apple mun leita að myndum af misnotkun barna á tækjum og hvers vegna það vekur upp augabrúnir

Búist er við að hún verði tekin í notkun í Bandaríkjunum í upphafi, en þessir eiginleikar fela í sér notkun nýrrar tækni til að takmarka útbreiðslu CSAM á netinu, sérstaklega í gegnum Apple vettvang.

Í bloggfærslu útskýrði Apple að það muni nota dulritunarforrit í gegnum iOS og iPadOS til að passa við þekktar CSAM myndir sem eru geymdar á iCloud Photo.

Apple hefur tilkynnt það hugbúnaðaruppfærslur síðar á þessu ári munu koma með nýja eiginleika sem mun hjálpa til við að vernda börn gegn rándýrum sem nota samskiptatæki til að ráða þau og nýta sér og takmarka útbreiðslu efnis um kynferðisofbeldi gegn börnum (CSAM).

Búist er við að hún verði tekin í notkun í Bandaríkjunum í upphafi, en þessir eiginleikar fela í sér notkun nýrrar tækni til að takmarka útbreiðslu CSAM á netinu, sérstaklega í gegnum Apple vettvang.

Þá verður vörn í tækinu fyrir börn gegn því að senda eða taka á móti viðkvæmu efni, með aðferðum til að gera foreldrum viðvart ef notandinn er yngri en 13 ára. Apple mun einnig grípa inn í þegar Siri eða Search er notað til að fletta upp CSAM-tengd efni .

Hvaða tækni er Apple að gera til að koma í veg fyrir útbreiðslu CSAM á netinu?

Í bloggfærslu útskýrði Apple að það muni nota dulritunarforrit í gegnum iOS og iPadOS til að passa við þekktar CSAM myndir sem eru geymdar á iCloud Photo. Tæknin mun passa myndir á iCloud notanda við þekktar myndir frá barnaöryggisstofnunum. Og þetta er gert án þess að sjá myndina í raun og veru og aðeins með því að leita að því sem er eins og fingrafaraleikur. Ef það eru samsvörun sem fara yfir þröskuld, mun Apple tilkynna þessi tilvik til National Center for Missing and Exploited Children (NCMEC).

Apple skýrði frá því að tækni þess hefur friðhelgi notenda í huga og þess vegna er gagnagrunninum breytt í ólæsilegt sett af kjötkássa sem er tryggilega geymd á tækjum notenda. Það bætti við að áður en mynd er hlaðið upp á iCloud mun stýrikerfið passa hana við þekkta CSAM kjötkássa með því að nota dulmálstækni sem kallast einkasett gatnamót. Þessi tækni mun einnig ákvarða leik án þess að sýna niðurstöðuna.

Á þessum tímapunkti býr tækið til dulmálsöryggisskírteini með niðurstöðu leiksins og viðbótar dulkóðuðum gögnum og vistar það á iClouds með myndinni. Þröskuldar leynileg miðlunartækni tryggir að Apple geti ekki túlkað þessar fylgiskjöl nema iCloud Photos reikningurinn fari yfir þröskuld þekkts CSAM efnis. Þessi þröskuldur, fullyrti bloggið, hafi verið settur á til að veita afar mikla nákvæmni og tryggir minna en eina á einni trilljón möguleika á ári á að flagga ranglega tiltekinn reikning. Þannig að það er ólíklegt að ein mynd kveiki viðvörun.

En ef farið er yfir þröskuldinn getur Apple túlkað innihald öryggisskírteina og farið handvirkt yfir hverja skýrslu fyrir samsvörun, slökkt á reikningi notandans og sent skýrslu til NCMEC. Apple sagði að notendur muni geta áfrýjað ef þeir telja að þeir hafi verið ranglega merktir.

Hvernig virka hinir eiginleikarnir?

Nýtt samskiptaöryggi Apple fyrir skilaboð mun gera viðkvæma mynd óskýra og vara barn við eðli innihaldsins. Ef það er virkt frá bakendanum gæti barninu líka verið sagt að foreldrum þeirra hafi verið gert viðvart um skilaboðin sem það hefur skoðað. Sama gildir ef barnið ákveður að senda viðkvæm skilaboð. Apple sagði að Messages muni nota vélrænt nám til að greina myndviðhengi og ákvarða hvort mynd sé kynferðislega skýr og að Apple muni ekki fá aðgang að skilaboðunum. Eiginleikinn mun koma sem uppfærsla á reikningum sem eru settir upp sem fjölskyldur í iCloud fyrir nýjustu útgáfur stýrikerfisins.
Einnig, með uppfærslunni, þegar notandi reynir að fletta upp mögulegum CSAM efni, munu Siri og Search útskýra hvers vegna þetta gæti verið skaðlegt og vandamál. Notendur munu einnig fá leiðbeiningar um hvernig eigi að leggja fram skýrslu um misnotkun á börnum ef þeir biðja um það.

Af hverju er Apple að gera þetta og hverjar eru áhyggjurnar?

Stór tæknifyrirtæki hafa um árabil verið undir þrýstingi til að berjast gegn notkun á vettvangi þeirra til að misnota börn. Margar skýrslur hafa í gegnum árin undirstrikað hvernig ekki var nóg gert til að hindra tæknina í að gera CSAM efni aðgengilegt víðar.

Tilkynning Apple hefur hins vegar sætt gagnrýni þar sem margir hafa undirstrikað hvernig þetta er nákvæmlega sú tegund eftirlitstækni sem margar ríkisstjórnir myndu vilja hafa og elska að misnota. Sú staðreynd að þetta er komið frá Apple, sem hefur lengi verið atkvæðagreiðsla friðhelgi einkalífsins, hefur komið mörgum á óvart.

Einnig hafa dulmálssérfræðingar eins og Matthew Green frá Johns Hopkins háskólanum lýst ótta um að kerfið gæti verið notað til að ramma inn saklaust fólk sem sendir þeim myndir sem ætlað er að koma af stað samsvörunum fyrir CSAM. Vísindamenn hafa getað gert þetta frekar auðveldlega, sagði hann við NPR og bætti við að það væri hægt að blekkja slík reiknirit.

En The New York Times vitnaði í aðalpersónuverndarfulltrúa Apple, Erik Neuenschwander, sem sagði að þessir eiginleikar muni ekki þýða neitt öðruvísi fyrir venjulega notendur.

Ef þú ert að geyma safn af CSAM efni, já, þetta er slæmt fyrir þig, sagði hann við útgáfuna.

Fréttabréf| Smelltu til að fá bestu útskýringar dagsins í pósthólfið þitt

Eru önnur stór tæknifyrirtæki með svipaða tækni?

Já. Reyndar er Apple tiltölulega seint á vettvang þar sem Microsoft, Google og Facebook hafa látið lögregluyfirvöld vita af CSAM myndum. Apple hefur verið eftirbátur vegna þess að hvers kyns slík tækni hefði gengið gegn margumtaldri skuldbindingu sinni um friðhelgi notenda. Fyrir vikið, árið 2020, þegar Facebook tilkynnti 20,3 milljónir CSAM-brota til NCMEC, gat Apple aðeins tilkynnt um 265 mál, sagði The New York Times.

Það er fyrst núna sem það hefur tekist að finna tæknilega sætið til að gera þetta án þess að hafa áhrif á venjulega notendur, eða að minnsta kosti hræða þá. Hins vegar, eins og upphafsbakslagið hefur sýnt, er þetta enn spennusaga.

Deildu Með Vinum Þínum: