Navigacija
Lista poslednjih: 16, 32, 64, 128 poruka.

Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM

[es] :: Advocacy :: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM

Strane: < .. 1 2 3 4

[ Pregleda: 6187 | Odgovora: 62 ] > FB > Twit

Postavi temu Odgovori

Autor

Pretraga teme: Traži
Markiranje Štampanje RSS

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
*.telemaxx.net.



+7174 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM13.08.2021. u 17:22 - pre 32 meseci
Rekoh, ovo je malo veci problem - ne bi regrutovali VP-a da objasnjava u "leaku" (inace covek je vrlo kul lik, ali ocigledno i najmladji exec...)

Ali stvari ne prestaju - i to bas u strucnoj javnosti.

Neko ce reci sta Apple boli ona stvar za "strucnu javnost" ali ta "strrucna javnost" moze biti vrlo los neprijatelj. Strucna javnost su i zaposleni u Apple-u kao sto se vidi. Ni to nije za zezanje - Facebook je imao povece probleme sa nalazenjem i zadrzavanjem talenta posle onog fijaska sa Cambridgge Analytica-om.

Nadam se da ce ovo jos eskalirati.

Citat:
dule_ns
I onda mobilni provajderi uskrate pristup svojoj mrezi takvim uredjajima? Mislim ne kazem da e treba pokusati ali...


Sto bi to uradil? Jedino ako ih isto drzava drzi za ja*ca - ali posto ih je mnogo, nemoguce je da se to ne sazna.

A onda su stvari jasnije i postaje cisto ko je neprijatelj.


DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
2a02:8071:31e1:dd00:935:456d..



+7174 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM19.08.2021. u 12:15 - pre 32 meseci
Show HN: Neural-hash-collider – Find target hash collisions for NeuralHash (github.com/anishathalye)

https://github.com/anishathalye/neural-hash-collider
https://news.ycombinator.com/item?id=28229291

Divno - nije proslo puno... naravno Apple je odmah imao odgovor: osim "neuro hash-a" postoji dodatni - super-duper tajni hashing koji se radi server-side (??) tako da, sve je OK jel da? Da :-)

Ovo ce da ih zvekne bas kao Checkm8 - https://www.wired.com/story/ap...-unfixable-flaw-jailbreak-mac/ - videti: https://t8012.dev/ ;-)

Ali ovo je jos mnoogo grdje, sa tolikim rupetinama da prosto garantuju probleme. Ko zna, mozda to i jeste namera... videcemo.

U svakom slucaju, ne popusta ovo:

https://cdt.org/insights/inter...ones-ipads-and-other-products/
https://www.reuters.com/articl...for-abuse-images-idUSKBN2FK09P
https://9to5mac.com/2021/08/17...ns-over-csam-detection-system/
https://www.schneier.com/blog/...s-been-reverse-engineered.html
https://news.ycombinator.com/item?id=28220968

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey
 
Odgovor na temu

nkrgovic
Nikola Krgović
Beograd

Član broj: 3534
Poruke: 2807

ICQ: 49345867
Sajt: https://www.twinstarsyste..


+655 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM19.08.2021. u 12:42 - pre 32 meseci
Ovo, mozda i ispadne OK. Ako dovoljno pritisnu razni, tipa kao sto je Nemacki parlament, Apple ce se povuci. Mozda je ovo politicki pritisak zemalja tipa Indija, ali verujem da je Nemacka ipak mnogo vece trziste - ako EU pritisne da je ovo problem (a moze), Apple ce brzo shvatiti ....

Izem ti zivot, kad se nadam da mi se politicari izbore za privatnost. ;)
Please do not feed the Trolls!

Blasphemy? How can I blaspheme? I'm a god!'
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
2a02:8071:31e1:dd00:935:456d..



+7174 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM19.08.2021. u 14:15 - pre 32 meseci
Sta god da je, ako ikada bude procurelo sta se stvarno desava, siguran sam da ce biti na nivou dobrog romana :)

Cela akcija je suluda - Apple odjednom od zastitnika privatnosti postaje borac protiv decije pornografije "privacy be damned"... Indusi ih u isto vreme skidaju sa "liste" i covek se pita da li je dotle doslo.

Kako stvari idu dalje, vidi se da je Apple dobro pripremljen za ovo - to, opet, nesto ipak iskljucuje Indiju vec vise deluje da je Apple radio na ovome.

Ali.. zasto? Od ovoga nemaju nikakvu korist. Da je "uncle sam" ovo trazio, opet bi to otaljali sto manje mogu.

Kako vreme protice, ostaju samo jos ludje i ludje varijante, tipa:

- CIA/NSA/FBI su odradili tako dobro operaciju, da za ja*ca drze Apple-ov board i menadzment, i da im diriguju tacno kako ce da izvedu akciju.

Ovo je vec James Bond teritorija... mislim, nije apsolutno nemoguce ali... deluje prilicno za*bano skoro pa nemoguce za izvesti i nesto sto bi mozda video za vreme svetskog rata a ne u miru.

- Apple zbog perzistentnih dr*anja sa USA vlastima pravi trojanskog konja, samo sto je konj namenjen vlastima - ako ovo eksplodira u javnosti, ispasce da je javnost ovo trazila da se unisti a ne Apple... "long con?" isto kao i prosla varijanta, zahteva crni pojas u obavestajnim i kontra-obavestajnim delatnostima...

- Apple pravi bombu zbog Corellium..

Kakav crni Correlium?

Ja sam 100% ubedjen da je Corellium "front" od NSA ilI CIA-e - ono sve do kompletno izmisljenih zivota i karijera. I da imaju ljude u Apple-u. Ne mogu da verujem da je neka firma "eto tako" napravila VM koji savrseno izvrsava originalni iOS image (potpisan i sl.) - ili da "tek tako" rasamaraju M1 i bootuju Linux native. Moze, ako imas dokumentaciju ispalu iz ranca nekom :)

Ako to nije dovoljno, cinjenica da ih je Apple tuzio u rodjenoj Americi i izgubio - i to posto je sudija na slucaju dobio pismo od USA DoD-a (!!!) gde DoD ima neke lepe reci za Corellium, kako su kljucni za "nacionalnu bezbednost"...

Plus, ona njihova tech-CEO se uopste nije uzbidjivala sto je tuzi 2-trilionska kompanija, sto isto nije bas normalno ponasanje, osim ako nemas ledja u Ft. Meade-u i Pentagonu.

Ali skoro... https://www.corellium.com/journalists

Citat:

Corellium for Journalists
To help protect and promote the basic human right of freedom of the press, we’ve made Corellium free for journalists and human rights defenders.


Mislim da je rec koju traze "assets", ali znaju oni to vrlo dobro verovatno ;-)

KO zna sta se ovde desava stvarno.

Jedno je sigurno, iOS postaje vrlo hostilan sa ovim.
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey
 
Odgovor na temu

Shadowed
Vojvodina

Član broj: 649
Poruke: 12851



+4784 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM19.08.2021. u 14:34 - pre 32 meseci
Najzanimljivije ce biti ako neko napravi neki "un-hash". Naravno, ne moze se dobiti originalni sadrzaj ali se slican princip koristi npr. kod deepfake-a gde je on treniran da koristi podatke drugog lica i hash sa feature-ima prvog. Slicno i sa generisanjem potopuno novih lica.
Ako nekom uspe nesto slicno (ne isto), sa tom listom hash-eva je apple prakticno distribuirao ono protiv cega se bore a nekom popu sa iPhone-om nece mnogo smetati ako goli Perica malo vise lici na Ivicu.
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
*.telemaxx.net.



+7174 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM19.08.2021. u 15:31 - pre 32 meseci
Nece Perica liciti na Ivicu vec ce samo imati vise suma (signal dodat koji zbunjuje "hash" funkciju).

Mislim da ce pedofili lako resiti ovaj problem, iPhone nece biti na njihovoj shopping listi. Nekakvi un-hashevi / anti-hashevi su tehnoloski suvise komplikovani ako je alternativa da kupe drugi telefon.

Zbog toga je cela ova prica jos ludja i grdja.

Bukvalno je neminovno da ce ostati samo ljudi koji ce biti gonjeni ili praceni iz sasvim drugih razloga.
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey
 
Odgovor na temu

Shadowed
Vojvodina

Član broj: 649
Poruke: 12851



+4784 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM19.08.2021. u 16:02 - pre 32 meseci
Citat:
Ivan Dimkovic:Nekakvi un-hashevi / anti-hashevi su tehnoloski suvise komplikovani ako je alternativa da kupe drugi telefon.


Naravno, ali bi bilo zanimljivo :)
 
Odgovor na temu

nkrgovic
Nikola Krgović
Beograd

Član broj: 3534
Poruke: 2807

ICQ: 49345867
Sajt: https://www.twinstarsyste..


+655 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM19.08.2021. u 17:42 - pre 32 meseci
Ovo postaje VRLO zbunjujuce, i cela "corellium" prica i cela "scan" prica i sve.... Da, meni ovo nije jasno, to je sve. A nije da sam u ovome od juce... Sve sto ja mogu da zakljucim iz svega ovoga je: Uredjaj koji ja kupim nije moj, neko treci ima uvid u podatke koji se nalaze u njemu, bez da meni kaze sta sa njima radi. Ako ja taj uredjaj podelim zaposlenima i ako moji zaposleni sa tog uredjaja pristupaju podacima koji su zasticeni zakonom, da li ja krsim zakon?

Primera radi: Bolnica podeli iPad-ove lekarima. Lekari na njima gledaju slike koje ukljucuju slike pacijenata, slike zdravstvenih kartona (skeniran / poslat faxom iz druge bolnice). Da li postoji nacin da se spreci Apple da "pogleda" ove podatke? Ako ne, da li to krsi pravo na privatnost pacijenata? Da li treba da lekari u Nemackoj ili Francuskoj prestanu da koriste iPad ako na njemu gledaju npr. podatke svojih pacijenata. Pedijatrijski hirurzi imaju fotografije gole dece, hoce li to biti poslato Apple-u na analizu?

Hostilno je jedan problem, ovo je sasvim drugi....
Please do not feed the Trolls!

Blasphemy? How can I blaspheme? I'm a god!'
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
2a02:8071:31e1:dd00:ccb4:92c..



+7174 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM20.08.2021. u 09:21 - pre 32 meseci
Oh boy oh boy oh boy :)

https://blog.roboflow.com/nerualhash-collision/

Citat:

ImageNet contains naturally occurring NeuralHash collisions

...

While the system's resistance to adversarial attacks is an important area to continue to probe, I was more interested in independently verifying Apple's stated false-positive rate on real-world images. Apple claims that their system "ensures less than a one in a trillion chance per year of incorrectly flagging a given account" -- is that realistic?

In order to test things, I decided to search the publicly available ImageNet dataset for collisions between semantically different images. I generated NeuralHashes for all 1.43 million images and searched for organic collisions. By taking advantage of the birthday paradox, and a collision search algorithm that let me search in n(log n) time instead of the naive n^2, I was able to compare the NeuralHashes of over 2 trillion image pairs in just a few hours.

I found many (8272) truly duplicated images (their file contents matched bit for bit) and 595 actual collisions, but, upon manual inspection, most of those were examples of the algorithm doing its job (it had successfully detected slight perturbations like re-encodings, resizes, minor crops, color changes, watermarks, etc).


Ja ne znam sta da kazem. Ne, ozbiljno... sta covek moze da kaze na ovo?

Da, algorithm "radio posao" ali bukvalno u roku od >nekoliko dana< su vec nasli pukotine. ImageNet je, za danasnji AI/ML state-of-the-art, smesan dataset (kako se stvari brzo menjaju). Lik je nasao kolizije uglavnom sa jednostavnim transformacijama i zakljucio da je OK. Da, to jeste "OK" ako su kriterijumi toliko pali

Ali ovde ne pricamo o diskusiji oko kandidata za godisnju ILSVRC nagradu u domenu prepoznavanja objekata - vec o necemu sto potencijalno moze nekoga lisiti zivota. Plus, neprijatelj sa losom namerom i sa pristupom jakim data centrima moze izvesti daleko vise eksperimenata i doci do boljeg modela za koliziju.

Deo mene koji "veruje u dobro koje vodi svet" (mali deo ;-) hoce da veruje da je neko u Apple-u ovo namerno izrezirao kako bi ovakve gluposti pukle na sledecih par decenija, bas kao sto je "Clipper Chip" 90-tih zakopao diskusiju do... ovih dana.

Ali, opet, istorijat komicnih Apple-ovih propusta od ranije (ko garantuje da ovo nije jedan od njih) + znanje da je u toku definitivni rat protiv privatnosti od strane drzava (nije nemoguce da je sve dozvoljeno) globalno ne dozvoljavaju da ovo biva prva na listi mogucih teorija.

--

Sve sve... ali brate... zamisli da ti u kucu upadnu SWAT-ovci zbog nekog algoritma?

Mozda je to bas ono sto i treba da se desi. Neki nesrecnik da pogine kako bi svima postalo jasno sta konkretno jeste problem sa ovim :(

[Ovu poruku je menjao Ivan Dimkovic dana 20.08.2021. u 10:32 GMT+1]
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey
 
Odgovor na temu

Space Beer
ISS

Član broj: 325788
Poruke: 107
87.116.180.*



+93 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM21.08.2021. u 18:33 - pre 32 meseci
Nije Apple AI, ali ko će da mi garantuje da je njihovo rešenje bolje
How AI-powered tech landed man in jail with scant evidence
“It’s not perfect"

Bio je pre par godina slučaj i kad je nevin čovek optužen jer je guglov servis za lokacije rekao da je on bio na licu mesta u vreme zločina. Al' dobro, pogreši algoritam, nije savršen. Ali nije da će neko nastradati zbog toga. Oh, wait...
 
Odgovor na temu

dr0id

Član broj: 326795
Poruke: 464



+125 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM22.08.2021. u 00:53 - pre 32 meseci
I koliko nevinih osudjenika robija jer je pandur/tuzilac/sudija pogresno identifikovao, pomesao/podmetnuo dokaze, iznudio priznanje, itd? I koliko SWAT-ova je upadalo (pa i ubijalo) zbog (lazne) prijave komsija, PSN/reddit bubuljicara i sl? I nikom nista
 
Odgovor na temu

Space Beer
ISS

Član broj: 325788
Poruke: 107
87.116.180.*



+93 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM22.08.2021. u 06:52 - pre 32 meseci
Pa je rešenje za sistem koji pravi greške uvođenje drugog sistema koji pravi greške? S tim što u ovom prvom možeš da identifikuješ krivca, tj. uzrok greške, dok u drugom tako nešto ne postoji.
 
Odgovor na temu

dr0id

Član broj: 326795
Poruke: 464



+125 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM22.08.2021. u 10:38 - pre 32 meseci
Nije ali niko i ne radi na resenju sistema/problema (jer im niko i ne trazi tj. ne buni se, ljudi su nezainteresovani ili prihvataju odr. procenat "greski"). Tako je i kod self driving vozila bitno da ne bude vise AI greski od ljudskih, a ne da ne bude uopste tj. najmanje moguce
 
Odgovor na temu

Space Beer
ISS

Član broj: 325788
Poruke: 107
*.34.235.204.o2inet.sk.



+93 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM23.08.2021. u 10:25 - pre 32 meseci
Veliki je problem ako je procenat uspešnosti jedino merilo. Zato što znaš kada otprilike možeš da očekuješ da čovek pogreši, ali ne znaš kada će AI doneti pogrešnu odluku.

Uzmi automobile na primer. Znaš da će čovek pogrešiti kad je pijan, umoran, nervozan... Zato se, lupam, 99,95% vožnji završi bez udesa. A vozilo kojim upravlja AI će npr. 99,999% vožnji završiti bez udesa. S tim što nemaš predstavu kada će se desiti tih 0,001%. Da li bi ti pristao da te neko vozi ako znaš da će se slupati u situaciji u kojoj bi ti sigurno odreagovao bolje i izbegao nesereću?

Ovo je meme na račun Apple sistema. Tj. NeuralHash je isti za ove dve fotke
https://user-images.githubuser...cf-4483-9a63-d62a94951779.jpeg
Uostalom, i Apple sistem uključuje čoveka koji mora da proveri da li je AI u pravu. A izgleda da će biti posla i za te ljude :)
Zamisili auto koji je treniran da zaštiti pešaka i ispred sebe vidi mrlju od koje pomisli da je dete. I umesto da produži napred, on skrene sa puta. Doduše, algoritmu je vozač na prvom mestu, dok vozačima nije uvek. S razlogom.

Moje mišljenje da je pravo vreme za AI u ovakvim situacijama (pravo, medicina, saobraćaj...) tek kada su apsolutno sve greške algoritma podskup grešaka čoveka u istim uslovima. A možda ni tada
 
Odgovor na temu

dr0id

Član broj: 326795
Poruke: 464



+125 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM23.08.2021. u 12:17 - pre 32 meseci
Odosmo s teme ali zakonodavce interesuju samo procenti i brojevi a ne razlozi dok vecinu ljudi ne interesuje ni to (sutra bi se vozili AI taxijem ako je isti ili bolji od regularnog, ne smeta im personalizovanje reklama, skeniranje sadrzaja telefona, lokacije, itd.). I pijani/drogirani mislim da su bili odgovorni za 30% nesreca, ostalo je nepaznja, umor, telefon, nesposobnost za voznju, itd.

A sto se prava i saobracaja tice, postoje i AI dronovi https://www.theverge.com/2021/...attack-libya-un-report-context
 
Odgovor na temu

Java Beograd
Novi Beograd

Član broj: 11890
Poruke: 9514
*.static.avana.rs.



+10254 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM23.08.2021. u 12:43 - pre 32 meseci
Nemamo šta da se iščuđavamo AI dronovima, jer Tomahavk rakete odavno postoje.

Autonomno lete do cilja, sa / bez GPS navođenjem. U slučaju ne-nalaženja cilja, prebacuje se na sekundarni.

I ubija, samo tako.
OTPOR blokadi ulica, OTPOR blokiranom Beogradu, OTPOR blokiranoj Srbiji
 
Odgovor na temu

nkrgovic
Nikola Krgović
Beograd

Član broj: 3534
Poruke: 2807

ICQ: 49345867
Sajt: https://www.twinstarsyste..


+655 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM24.08.2021. u 07:52 - pre 32 meseci
Krenula i peticija:

https://act.eff.org/action/tell-apple-don-t-scan-our-phones


Please do not feed the Trolls!

Blasphemy? How can I blaspheme? I'm a god!'
 
Odgovor na temu

Space Beer
ISS

Član broj: 325788
Poruke: 107
*.static.isp.telekom.rs.



+93 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM24.08.2021. u 09:49 - pre 32 meseci
Ako je nešto bitno uticalo na velike promene u društvu, to su online peticije :d
 
Odgovor na temu

Java Beograd
Novi Beograd

Član broj: 11890
Poruke: 9514
*.static.avana.rs.



+10254 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM24.08.2021. u 10:48 - pre 32 meseci
Citat:
Space Beer: Ako je nešto bitno uticalo na velike promene u društvu, to su online peticije :d
To je zato što su rezultati nedvnosmisleno pouzdani, i nikako se ne mogu lažirati.
A vlast se posebno uplaši, kad čuje da se dešava onlajn peticija.
OTPOR blokadi ulica, OTPOR blokiranom Beogradu, OTPOR blokiranoj Srbiji
 
Odgovor na temu

Java Beograd
Novi Beograd

Član broj: 11890
Poruke: 9514
*.static.avana.rs.



+10254 Profil

icon Re: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM26.08.2021. u 14:39 - pre 32 meseci
Nema razloga da zaziremo od ovoga šta Apple radi, kad, evo, svako može biti identifikovan momentalno, čak i na osnovu prilično lošeg snimka.

Ko ne zna o čemu se radi - neka izgugla.

OTPOR blokadi ulica, OTPOR blokiranom Beogradu, OTPOR blokiranoj Srbiji
Prikačeni fajlovi
 
Odgovor na temu

[es] :: Advocacy :: Apple će skenirati fotografije na iPhone-ovima u portazi za CSAM

Strane: < .. 1 2 3 4

[ Pregleda: 6187 | Odgovora: 62 ] > FB > Twit

Postavi temu Odgovori

Navigacija
Lista poslednjih: 16, 32, 64, 128 poruka.