21. 7. 2017, 20:39

Hlavní stránka Piráti  Internet  Zahraničí  Kultura  Politika  Monstrproces  Kopírovací monopol  Názory  Kauzy  Věda a technika  Video  HogoFogo  Události  Zprávička  Jednou větou  Komix
Šmírování a matematika


V poslední době se čím dál tím víc objevují různé sledovací systémy, které nás údajně mají chránit před zločinem. Například INDECT, jehož cílem je vyvinout algoritmy, které automaticky rozpoznají kriminální aktivity, jako je terorismus, dětská pornografie a další nebezpečné aktivity. Nechci řešit, jaký je to neuvěřitelný vpád do soukromí. Chci za pomocí jednoduché úvahy předvést, že systém, který dopředu rozpozná podobná nebezpečí, vyrobit nelze.



25. 11. 2012


Datum: 25. 11. 2012, Autor: Lukáš Křečan
Přečteno: 25315x
Zobrazit článek pro tisk Vytisknout

Doposud hodnotilo 0 čtenářů, celková známka je .
Ohodnoťte známkou jako ve škole | 1 je nejlepší: 1 2 3 4 5

Komentáře

piráte, zaplať pokutu, a nikomu o tom neříkej !
(nelegální, 25. 11. 2012 - 19:58:32)
Odpovědět
http://www.lupa.cz/zpravicky/finska-policie-zabavila-devitiletemu-diteti-laptop-z-duvodu-piratstvi-j

ed
(bdf, 25. 11. 2012 - 14:20:16)
Odpovědět
Takové systémy se nebudují kvůli teroristům,

článek je odvádějící

ty systémy se budují, aby dokázali odhalit proti-nwo (tedy u nás proti-EU) činnost již v začátcích

tedy když někdo třeba začně připravovat demonstraci proti ACTA či proti vládě apod., hlídači to budou vědět hned v začátcích, kdy to budou schopni ještě v tichosti a bez více svědků zastavit

nedávno byl testován v Austrálii systém, který automaticky kontroloval slova ze sociálních sítí;
systém dokázal upozornit na vznik požáru 20 minut před tím, než byl přijat první telefonát na tísňovou linku
(link už jsem bohužel znovu nenašel)

Re: ed
(Jack, 25. 11. 2012 - 19:34:27)
Odpovědět

Re: ed
(Jack the Reppir, 25. 11. 2012 - 20:04:48)
Odpovědět
Na to nepotřebuješ INDECT. Úplně stačí vzít seznam webů zbrojících proti NWO (Pirátské noviny např.) a identifikovat jejich pravidelné čtenáře.

Já tedy nevím...
(Jan, 25. 11. 2012 - 13:04:58)
Odpovědět
... ale myslím, že podceňujete, čeho jsou moderní algoritmy schopné. Např. u nás na ČVUT na FEL se v centru agentních technologií vyvíjí systém CAMNEP (http://agents.felk.cvut.cz/projects/camnep/) pro detekci síťových útoků a funguje velice dobře. Systém INDECT by měl (podle toho co vím a co si myslím) fungovat v podobném duchu. Tyto systémy imho neslouží jako klasifikátory, tzn. každé instanci (člověku) přiřadí nálepku terorista/neterorista, ale spíše detekují odlehlé hodnoty, anomálie. A to, co píšete, podle mě nemusí být pravda. Terorista se zákonitě musí chovat anomálně, pokud si svůj útok nějak připravuje. A pokud k těmto informacím bude mít systém dostatečný přístup a bude běžet dostatečně dlouho na to, aby se "naučil" to neanomální chování, myslím si, že je schopen anomálie detekovat. U CAMNEPu to funguje dobře.

A ještě jedna věc - myslím si, že tyto systémy nefungují tak, že by měly říkat "tito jsou podle mě (systému) teroristé", ale spíše tak, že řeknou "tito se chovají zvláštně jako nikdo jiný, měli byste se na to kouknout vlastníma očima". Takový filtr mezi realitou a policajtem, který policajtovi dá jen "to zajímavé", aby se tím ostatním nemusel vůbec (nadsazeno) zabývat. Aby měl alespoň nějakou pomůcku.

A druhá věc - ano, problém systému typu INDECT vidím v obrovském množství informací, to je to, co může takovému systému dělat problémy.

A třetí věc - co se týče false positives/negatives, myslím, že pokud bude systém nastaven velmi volně, tzn. bude označovat málo lidí, tak byť 99.9% teroristů nedetekuje a to 0.1% detekuje, má to nějaký smysl.

Re: Já tedy nevím...
(Olgoj Chorchoj, 25. 11. 2012 - 13:55:37)
Odpovědět
a copak bys mily Honzo oznacil za "nenormalni" chovani? Me se tu od pocitace jevis jako osoba s nenormalnimi nazory - kdo bude ten, kdo rozhodne, co je normalni? Pamatujes si jeste jak byli za komunistu pronasledovani vsichni s dlouhymi vlasy? No jen se priznej, jakej mas sestrih, hipiku!

Re: Re: Já tedy nevím...
(Jan, 25. 11. 2012 - 14:07:18)
Odpovědět
Ptáš se na nenormální chování, ale pak mluvíš o nenormálních názorech. Názor jsem do toho vůbec netahal a rád bych zůstal u toho chování.

Nevím, jak se připravuje teroristický útok, takže nevím co by to mělo být za anomálie, ale tipnul bych si něco ve smyslu, že někdo často a intenzivně fotografuje nějakou významnou budovu, nebo vždycky v 7 hodin ráno když se střídá ostraha někde je ten samý člověk a upřeně to pozoruje, nebo že po internetech shání informace o vnitřní struktuře apod. Prostě věci, které normální člověk nedělá a nepotřebuje.

Ano, dá se argumentovat "a proč bych si já nemohl fotografovat budovu" nebo "proč bych se nemohl chodit koukat v 7 hodin ráno na střídání ostrahy". Toto právo jistě nelze upřít, ale někdo, kdo chystá něco velkého nebude dělat jen tu jednu věc. Bude jich dělat víc a to je právě to, co by měl systém detekovat.

A pak se dá argumentovat tak, že "co když si prostě budu fotit budovy a pozorovat střídání ostrah a shánět informace o vnitřku a oni mě za to zatknou" - myslím, že když někdo bude napodobovat "práci" teroristy, je zcela legitimní takového člověka prověřit. Když na vás někdo namíří zbraní, taky ho chcete zneškodnit, i když má jen dětskou hračku a dělá to ze srandy.

Mám dlouhé vlasy.

Re: Re: Re: Já tedy nevím...
(zzz, 1. 12. 2012 - 04:01:56)
Odpovědět
Dlouhe vlasy, kratky rozum... na nektere to evidentne plati. Je k popukani videt blbce jak si s popevkem budovatelskych pisni na rtech stavi vlastni sibenici a jeste si to povinne ve volnem case racionalizuje na forech.
Bohuzel ji ale stavi i pro ostatni a to uz tak vtipne neni.

Re: Re: Re: Já tedy nevím...
(Filip, 8. 2. 2013 - 15:31:52)
Odpovědět
A je pak vubec nejaka sance na zmenu spolecnosti? Nejsou tyto systemy budovany jen pro posileni moci a kontroly nad masami elitou? Protoze komu tohle vlastne slouzi? Vencovi z Hoštic? To asi tezko.. Jestlize budou potlacovany projevy nesouhlasu (napr demonstrace), jestlize lide budou neustale pod kontrolou, pak se nejedna o nic mene nez policejni stat, diktaturu. Dovolim si i trochu provokativni otazku k zamysleni? Co kdyz demonstrace, nepokoje, nasili v ulicich a proti rezimu, pripadne teroristicky akt ma vlastne ocistnou funkci pro spolecnost? Co kdyz je to jeji prirozenou soucasti, ze v jiste fazi se nekolik odvaznejsich jedincu rozhodne systemu postavit? Diky socialnim studiim totiz dnes vime, ze i jeden jedinec, ktery vystoupi z davu, dokaze svym rozhodnutim zmenit chovani, nazor klidne i celeho davu.. Paklize stoupa agrese statu na obcanech, paklize stat prestane pracovat pro obcany, ale protoi nim a pouze je vyuziva a zneuziva, pak je pravem a povinnosti se tomuto branit. Stat je obcanu, to oni jsou jeho podstatou a duvodem vzniku, nikoliv naopak. Tyto spehovaci systemy jdou jednoznacne proti lidem.. Humus, doba Orwella je zkratka tady, valka je mir, lez je pravdou a tyranie svobodou..

Re: Já tedy nevím...
(Jack the Reppir, 25. 11. 2012 - 19:32:38)
Odpovědět
Dostatečně dlouho je první problém. Navíc to předpokládá, že systém bude moci analyzovat co nejvíc teroristů, aby jejich chování odlišil od chování ostatních lidí. Síťové útoky, které zmiňuješ, se dějí jak často? Jednou za pár let, jako teroristické útoky? Nebo každou chvíli? Mně na servery někdo útočí každý den.

Druhý problém leží v tom, že proti jakémukoliv opatření je vždycky možné vyvinout obranu. Teroristi jsou lidé, takže mají mozek a umí přemýšlet. Ve chvíli, kdy jednoho chytí, další se přizpůsobí, změní své chování a systém bude zase na začátku.

Místo fotografování si do brýlí nainstalují kameru nebo použijí Google street view či Flickr, kde už je hromada fotek k dispozici. Maximálně si místo před útokem projdou, ale to pochybuji, že systém odliší od ostatních lidí. Možností jsou kvanta.

Nehledě na to, že zvláštně se chová kvanta lidí a teroristi to nejsou.

"tak byť 99.9% teroristů nedetekuje a to 0.1% detekuje, má to nějaký smysl" - a jaký? To mi uniká. Na co vyhazovat stovky milionů EUR, nebo kolik tahle sranda stála, aby se nepovedlo detekovat ani jednoho teroristu z těch třeba 50, co je možná máme někde v EU?

Re: Re: Já tedy nevím...
(Jan, 25. 11. 2012 - 20:46:10)
Odpovědět
Ale vy přesně píšete to, o čem si myslím, že takto systém nefunguje. Systém se neučí to, jak vypadá terorista. Systém se učí to, co je běžné, normální, a co vybočuje mimo normální škálu.

Ad útoky v sítích - pravda, je to trochu jiná doména, útoky jsou častější, ale právě - něco, co se děje hodně málo často (a je dostatečně výrazné), může být dokonce ještě snadnější detekovat (právě proto, že jde o tak výjimečné chování). Naopak pokud se nějaký jev děje hodně často v poměru k normálu, lze na to zase použít klasifikační techniky.

Ad přizpůsobování - to ano, ale to nepovažuji za validní argument. Zloděj se vám do bytu stejně vloupá, když budete chtít, ale stejně si zamykáte... nebo ne? Ano, jistě, že se mohou přizpůsobit, ale už to, že jsou nuceni se nějak přizpůsobovat, je podle mě k něčemu. Prostě se omezí možnosti páchat velké zločiny.

Ad false pozitives - ano, spousta lidí se chová zvláštně, ale ne jako teroristé. Od toho by právě ten systém měl být, aby byl schopen separovat tu správnou sadu zvláštností.

Ad procenta - ta čísla jsem zvolil nešťastně. Měl jsem tím na mysli, že i kdyby se tím podařilo zneškodnit byť jediného teroristu ze všech těch, co jsou, má to nějaký smysl. A sekundární smysl v tom (alespoň já) vidím vědecký. Pokud by takový systém byl skutečně funkční, byl by to velký pokrok v umělé inteligenci.

Re: Re: Re: Já tedy nevím...
(Jack the Reppir, 25. 11. 2012 - 21:04:41)
Odpovědět
"něco, co se děje hodně málo často (a je dostatečně výrazné), může být dokonce ještě snadnější detekovat (právě proto, že jde o tak výjimečné chování)"

Tak vyouchnout uprostřed nákupního centra je neobvyklé, ale detekovat výbuch samotný je k ničemu. Detekovat to má cenu před tím, než se odpálí. A je otázkou, jak neobvyklý je _zaznamenaný_ sled činností teroristy _před_ výbuchem.

"Prostě se omezí možnosti páchat velké zločiny."

Rád bych měl váš optimismus. Ale i kdyby, tak za jakou cenu? Co mi hrozí, když si zamykám byt? Že si zabouchnu dveře a budu muset volat zámečníka. V zásadě levné, účinné opatření bez citelných vedlejších účinků.

Co nám hrozí se systémem jako INDECT, který plošně sleduje chování všech lidí a vše zaznamenává? Neumožní to naopak těm, kteří k němu mají přístup, páchat jiné velké zločiny, třeba i větší než samotný terorismus?

"Od toho by právě ten systém měl být, aby byl schopen separovat tu správnou sadu zvláštností."

Hodně štěstí. V tak malém vzorku bude sakra obtížné hledat tu správnou sadu zvláštností.

"i kdyby se tím podařilo zneškodnit byť jediného teroristu ze všech těch, co jsou, má to nějaký smysl"

I kdyby to zachránilo byť jen jeden život, zrušení automobilové dopravy má smysl. Vždyť se nám na silnicích zabíjí víc lidí za rok, než nám zabili teroristé za posledních 50 let. A to jsme neměli INDECT...

Ne, smysl to má až tehdy, když se dosažený výsledek porovná s náklady a s riziky.

Re: Já tedy nevím...
(Visgean, 25. 11. 2012 - 19:35:37)
Odpovědět
OK, věřím že podobné systémy mohou existovat, ale pak je tu otázka soukromí: skutečně chceme aby o nás policie měla takové informace? Ten systém by očividně musel být schopen dlouhodobého sledování a aby nade mnou měl takovou moc nějaký sotva vyškolený opičák tak to fakt ne...

Re: Já tedy nevím...
(Vašek, 26. 11. 2012 - 00:41:31)
Odpovědět
Vymyslím si z hlavy nějaký případ. Teroristický útok naplánuji někde v afghánských horách. Během několika měsíců pošlu 2 "turisty" s předem zadanými úkoly do cílové země. Výrobce bomby (jeden z "turistů", třeba pákistánec) dá vědět útočníkovi (z Egypta) vyvěšením smluveného inzerátu někde v obchoďáku a sejdou se třeba v lázních (datum, čas a lázně dohodnuté předem, ještě v zahraničí). Vymění si zavazadla (jedno s bombou) a útočník se jde odpálit, když jde jako by na vlak domů.

V tomto případě si nikdo nevolal, nepoužíl počítač, s nikým se pravidelně nesešel na stejném místech a vlastně o sobě oba spolupachatelé nemuseli vůbec nic vědět. Pokud jde o kamery, tak ty zaznamenají jen zcela normální pohyb 2 neznámých lidí, kteří jen dvakrát vlezou do stejné budovy, a ještě k tomu jen jednou ve stejný čas. Když by jeden z nich bydlel v satelním městečku bez kamer někde poblíž Prahy, tak by byly kamery už úplně k ničemu. Když dokážu naplánovat terorististický útok bez použití sledovatelných komunikačních technologií za pár minut, proč by to měl být problém pro skutečné teroristy?


(Virteal, 25. 11. 2012 - 12:54:15)
Odpovědět
No... Na tom myslim neco je. Napr. kamery sledujici namesti v Litomericich, ty jsou tam uplne na hovno.


Přidat komentář

Jméno
Nevyplňujte <- toto políčko nechte prázdné
Předmět
Obsah:



Internet
články v rubrice

16. 1. 2015 | 10588
Stát si brousí zuby na WiFi. Další pokus znásilnit Internet.
24. 4. 2013 | 417
CISPA aneb šmírování internetových uživatelů opět na scéně
30. 1. 2013 | 1796
FISA aneb Jak se Barack Obama změnil ve Velkého Bratra
22. 12. 2012 | 184
Za zavřenými dveřmi OSN při pokusu o přivlastnění internetu
12. 12. 2012 | 448
Hacktivističtí hrdinové z GhostShell a důvody pro jejich boj
8. 12. 2012 | 142
Doporučení OSN, o kterých ani nevíte
25. 11. 2012 | 182
Šmírování a matematika
6. 11. 2012 | 1900
CRYPTOPARTY: Šifrování coby virál
19. 10. 2012 | 1699
STOP INDECT
24. 6. 2012 | 2304
Poslanci hlasovali podle televize, šmírování by schválili i jako ústavní zákon
23. 3. 2012 | 3251
Shromážděná osobní data budou vždy nakonec zneužita proti občanům.
22. 3. 2012 | 4098
Jak lobby mediálního průmyslu a držitelů autorských práv postupně vytváří dystopickou budoucnost Velkého Bratra.
27. 2. 2012 | 9643
My, děti Sítě
25. 2. 2012 | 952
Na Facebooku probíhá protest proti ACTA, spamují se stránky parlamentních stran
18. 2. 2012 | 10247
Ondřej Neff: Akce Anonymous považuji za legitimní způsob odporu
17. 2. 2012 | 24992
Anonymous napadli další weby americké vlády
8. 2. 2012 | 66705
Cenzura a represe mohou lidem otravovat život, ale nikdy nevyhrají, píše Mladá fronta DNES
6. 2. 2012 | 1120
Anonymous získali data ODS
2. 2. 2012 | 507
Web ODS hacknut, Anonymous vyzývají k odporu
1. 2. 2012 | 459
TOP 09 otevřeně podporuje ACTA
Nejnovější zprávy
Stát si brousí zuby na WiFi. Další pokus znásilnit Internet.

16. 1. 2015 | Internet | 10579
Necháme si bez odporu odebrat svobodné WiFi a přejdeme dobrovolně pod křídla korporátních Internetů?
Zobrazit celý článek ►
 

Zvolbovaní Piráti
12. 10. 2014 | Piráti | 20319
Kdo vyhrál, kdo prohrál, jak Piráti a co bude dál?

Americké lhaní -základní prostředek politiky
22. 7. 2014 | Politika | 3623
Včera na tiskové konferenci ministerstva obrany Ruské federace byly prezentovány důkazy z monitorování oblasti sestřelu. Důkazy Rusko předá zainteresovaným i dalším. Média i politici však zcela zásadní odhalení ignorují a dál obviňují bez jakýchkoliv důkazů Moskvu.

Facebook je konec. Konec japonec.
30. 4. 2014 | Piráti | 33233
To byl vynikající nápad, vyhradit lidu takové populární místo, kde se můžou všichni vyvztekat, vydemonstrovat, vybrečet a pohádat, vyblejt na sebe všechny problémy, zbavit se soukromí a to vše přitom za pečlivého dozoru státní bezpečnosti. Ovládat svět je čím dál tím snazší.
 
Hlavní stránka Piráti  Internet  Zahraničí  Kultura  Politika  Monstrproces  Kopírovací monopol  Názory  Kauzy  Věda a technika  Video  HogoFogo  Události  Zprávička  Jednou větou  Komix
 
Pirátské noviny jsou internetový občasník digitálního věku.
Informujeme o Internetu, politice, kopírování, svobodné tvorbě a blbostech.

Pirátské noviny oslovujte E-mailem na adrese: redakce zavináč piratskenoviny.cz

Provozovatel a vydavatel: Martin Brož | Sídlo vydavatele: Praha

Pirátské noviny | ISSN 1804-5197

Copyleft Pirátské noviny
Publikování nebo další šíření obsahu serveru Pirátské noviny je umožněno i bez písemného souhlasu.
Všechna práva vyhlazena.