Evo moje kompresije

Izvini Gorane, ali nisi u pravu.

Decko je u 2003 to postovao i dok je to bilo kao njegova ideja za kompresiju tako je i ostalo - Filmil je postavio tu par pitanja na koja Marko nije odgovorio i tu se prica zavrsila. Marko je sam odlucio da izadje iz te diskusije, iako je ostao "duzan" odgovore na nekoliko bitnih pitanja.

Prica ponovo pocinje 2004 kad Politika objavljuje pricu o leskovackom wunderkidu za cijom kompresijom svi izgleda lude i dolaze da vide (sic!) - onda je to i mene zaintrigiralo jer je kompresija oblast kojom se usko bavim 6 godina, tako da me naravno to interesuje jer je polje mog rada, profesionalno a i kao coveka koji je ljubitelj digitalne multimedije, stoga moja pitanja i komentarisanje te ideje.

Onda sam i ozbiljno obratio paznju na to sto je napisano i dosao do svojih zakljucaka - koje sam napisao. I iza kojih naravno stojim.

I, naravno, imam jaku zelju da prokomentarisem bilo sta sto mi ili nije jasno ili mislim da nije tacno - a u pisanju Politike i samoj Markovoj prezentaciji na pocetku ovog teksta postoji i te kako mnogo toga sto skripi i sto nije bas tacno - ne znaci da je a priori to lose, ali ipak je potrebno razjasniti neke stvari - cisto radi korektnosti.

Ako tebi to smeta, izvini - ali ovo je Art of Programming, i ako je vec neko krenuo nesto da izlaze - sam je kriv ako nije u stanju da tu diskusiju zavrsi na odgovarajuci nacin (naucnim argumentima)

Ako imas argumente sa kojima ces da pobijes ovu moju tvrdnju - samo izvoli, meni je drago da me neko ubedi u suprotno u ovom slucaju jer ce biti dobro za sve - ali te molim da koristis opste prihvacene metode za dokazivanje, a ne price kako bilo ko nekog mrzi i sl..

---

Pa moram priznati da nisam bas toliko podkovan da mogu pricati o novijim naprednijim kompresijama, moji radovi na tome zavrsili davne 90-te, kada sam sam napisao kompresor za c-64, ali sam ga obrisao istog trena kada sam shvatio da ideja nije ni genijalna ni originalna :).

Da li sve ovo znaci da je neko samo zapoceo da izucava kompresiju (dovukao neke knjigice do kojih drugi nisu dosli, pa se pravi pametan ??? ). Ja iskreno vise volim da vidim rezultate. (Setite se sve genijalne dece o kojima se pisalo ranije, pa ja jedino vidim da je Stefan Milenkovic uspeo, ali on je stvarno bio genije :) ).

---

U krajnjoj liniji, neosnovano senzacionalističko lansiranje u orbitu dečka (koji zaista možda nije ni kriv ni dužan za to) je pomalo nefer prema mnogim zaista izvanredno nadarenim našim mladim ljudima (između ostalog i Ivana i Filipa stavljam u tu kategoriju), za kojima se ipak ne diže tolika medijska prašina. Zašto? Zbog toga, ako ni zbog čeg drugog, ovakve stvari treba da budu izložene javnoj raspravi, da se ne potvrdi ponovo onaj stereotip o Srbima koji jedini za sebe misle da su najpametniji na svetu.

---

Marko i ja ti cestitam,ali u pocetnoj poruci si napisao da si razvio nekoliko dobrih algoritama za kompresiju,dali mi ih mozes reci gde mogu da nadjem nesto vise o tim algoritmima ?

---

Čisto da vam kažem da je u prvoj poruci na ovoj temi Marko pokušao da okači slike na forum na sledeći način:

[img]D:\Documents and Settings\Marko\My Documents\My Pictures\test-1.jpg[/img]

[img]D:\Documents and Settings\Marko\My Documents\My Pictures\test-1a.jpg[/img]

[img]D:\Documents and Settings\Marko\My Documents\My Pictures\test-2.jpg[/img]

[imgD:\Documents and Settings\Marko\My Documents\My Pictures\test-2a.jpg[/img]

[img]D:\Documents and Settings\Marko\My Documents\My Pictures\test-3.jpg[/img]

[img]D:\Documents and Settings\Marko\My Documents\My Pictures\test-3a.jpg[/img]

[img]D:\Documents and Settings\Marko\My Documents\My Pictures\test-4.jpg[/img]

[img]D:\Documents and Settings\Marko\My Documents\My Pictures\test-4a.jpg[/img]

Da, u poruci u kojoj priča o real time prenosu videa preko interneta.

hmmm...

---

I sta s tim sto je pokusao...???
Zar treba to postati ovdje i spustati covjeka???
Ocemo napraviti forum jednoumnim???
LOL

---

To je samo dokaz da genijalac nije uvek genijalac, mozda je toliko genijalan da je potpuno smusen i ...

To mozda samo pokazuje da mozda nije genijalac :).

---

Nije li ovo slicno DiVX kompresiji? Bar su rezultati isti...

To pokazuje da Marko u trenutku kada priča o realtime prenosu videa putem interneta pokazuje nepoznavanje osnova rada interneta i postavlja slike na internet forum preko lokalnih putanja do fajlova. I ti posle veruješ da je on u tom trenutku mogao razviti nešto od onoga o čemu se pričalo po njegovom sajtu i u medijima? Pa, jedino ako se odmah bacio na proučavanje RTP-a a preskočio sve ostale protokole interneta + zaboravio da prouči osnovne načine funkcionisanja istog.

E, ova je izjava ravna onoj da Arhimed nije mogao da izmisli Arhimedov zakon jer nije znao da pliva?!

Ja sam pre neki dan imao posla sa likom koji vrti 40-ak miliona €, a ne zna da koristi (bukvalno!) nijedan program sem Excela. Jel' to znaci da on nije finansijski GENIJE!

I nek' se neko pohvali da je sa 19 godina ucinio ono sto je Marko ucinio.

---

nisam hteo da se mešam u ovaj thread ali...u ovoj tvojoj konstataciji postoji jedna bitna sitnica - što je čovek finansijski genije. Mi, čini mi se, ovde pričamo o IT.

---

ucino sta? svakako je veliki uspeh prevariti veliki broj ljudi na duzi vremenski period, but wait... zar se to vec nije desavalo?

---

Ja znam neke koji su zaradili takav novac u IT-u, a nisu ga dobili na zajam od drzave, sa istim godinama... no to uopste nije tema ove diskusije (zapravo ne znam kakve uopste to veze ima sa genijalnoscu), vec je tema Markov algoritam za kompresiju opisan na pocetku, koga je autor sam izlozio i trazio komentare.

Takvim strafe-ovanjem sa teme se ne postize apsolutno nista i tema postaje opsta pljuvaonica umesto smislena diskusija.



Pa i nije - ovo sto je Marko opisao je jednostavna kompresija zamrznute slike - velikim usavrsavanjem ovoga (u odnosu na izlozeno) bi dosao do necega slicnom JPEG-u (dodavanjem transformacije u spektralni opseg i kvantizovanjem i kasnijim kodiranjem spektralnih koeficijenata), a daljim uvodjenjem kodiranja razlike u slikama kao i predvidjanjem pomeranja (P i B frejmovi, motion compensation i inter-prediction) bi dobio nesto slicno DivX-u (zapravo MPEG-4 koderu)

---

Ideja kao ideja jeste nova i oduševila me, bar mene koji nemam pojima o kompresijama. Voleo bih da vidim poređenje sa OpenDiVX codecom da vidimo kakava je razlika.

A sta je novo u toj ideji ?

Redukcija irelevancije je ideja iz nekih 60-tih i 70-tih godina... redukcija irelevancije u prostornom domenu, koju Marko koristi, je odavno unapredjena koriscenjem T/F mapiranja (FFT i njeni derivati, pojasni filteri, ...) jer je poznato da je ljudski nervni sistem mnogo manje osetljiv na visoke frekvencije.

Za tih 30-40 godina je kompresija ohoho napredovala i danasnji moderni kompresori (JPEG2000 za sliku, MPEG-4 AVC / H.264 za video i HE-AAC v2 za audio) su vrlo slozeni i poprilicno optimizovani.

Dakle - ideja je dobra i Markov trud je svakako za pohvalu - ali svakako nije niti nova, a ni genijalna - za to ipak treba malo vise.

Naravno - ta ideja moze da izraste u nesto novo i/ili genijalno - ali to do sad nije demonstrirano.



OpenDivx je implementacija MPEG-4 video kodera i ima sledece module:

- Intra kodiranje slike (keyframe) preko DCT funkcije sa perceptualnim faktorisanjem i kvantizacijom

- Inter kodiranje medju-frejmova (P frame) preko predikcije

- Predvidjanje i kodiranje vektora pomeranja radi lakse predikcije (Motion Compensation)

- VLC kodiranje kvantizovanih koeficijenata

- Efikasan ISO/MPEG-4 kompatibilan zapis bitstreama

Markova izlozena kompresija je samo intra kodiranje bez DCT (ili bilo kakve druge) transformacije, sa jednostavnim faktorisanjem koje nije bas 100% perceptualno, bez kvantizacije - sa diferencijalnim kodiranjem .

Dakle - to su dve stvari koje nisu iste.

---

Kako Ivane ne razumeš da je to što ti pišeš potpuno irelevantno? Zašto, evo sad ću da ti objasnim. Timeline:

T1. Marko objavi nešto što plebs ne razume. Dakle, on je pametan.
T2. Marko ode u USA, nešto što većina plebsa sanja. Dakle, on je pametan + uspešan.
T3. Politika objavi senzacionalni vest o Marku. Nešto što se plebsu ne dešava. Dakle, on je PUP (pametan, uspešan, poznat).
T4. Par ljudi sa mozgom koji razumeju ono što je Marko uradio u T1 napišu realan komentar toga. Plebs to ne razume, kao što nije razumeo ni T1. S obzirom da komentatori nisu PUP, a komentarišu PUP, oni su dakle zlonamerni.
T5. Plebs doživljava proviđenje (poput našeg bivšeg ministra policije, sudeći po vestima), odmah razumeva Markovu teoriju i napda komentatore.
T6. Komentatori su grbavi, ma šta uradili i napisali.

Eto, kao što vidiš... Džaba ti trud. To ne biva.

Marko.

---

O genijima:

Pripadam generaciji koja je dala nadprosecno veliki broj asistenata na ETF-u (od kojih
se vecina odavno raselila po Americi). Imali smo prilike da studiramo sa jedno 7-8
genijalnih i jedno 20-30 ultra kvalitetnih. Genijalni su zavrsavali 5 godina studija za
jedno 3.5 godine ili su se zezali cele godine i vidjali smo ih samo po ispitima gde su
ubadali desetke.

Sa vremenske distance vece nego sto je to prosek na ovoj diskusiji, neka pravila su
se izkristalisala jasno:

1) Najdalje prolaze tihi posvecenici, ljudi koji imaju svoj put (tao) kroz nauku,
svoju unutrasnju zelju da nesto saznaju, prirodno skromne i radne individue koji su
to sto su i kad ih niko ne gleda, bez obzira sta se o njima mislilo, govorilo, ili pisalo.
2) Vrlo bitna (ako ne i najbitnija) stvar je biti normalan u svim ostalim segmentima
zivota (imati hobi, prijatelje, zanimati se za jos nesto van struke, imati devojku, baviti
se sportom). Normala ukoliko se od nje odstupa doceka kasnije na krivini, u kasnijoj
fazi zivota. Znati za radost u bilo cemu drugom osim struke je izuzetno bitna stvar.
3) Talenat je samo potreban ali ne i dovoljan uslov. Nekada se u igru umesa slucaj,
nekada covek naidje na neki zli faktor koji mu jednostavno presece put, i ocit genije
ne prodje gde smo svi ocekivali da ce sigurno proci.
4) Dusevna i duhovna kompletnost vodi nekada mnogo dalje nego cist destilovan
talenat za jednu oblast.
5) Ko zna sta nece dospeva mnogo dalje nego onaj koji zna sta hoce (by Milorad
Pavic).

O kompresijama:

Ni MPEG ni JPEG nisu zlatna slova. DCT kao metod transformacije (koji lezi u osnovama
obe kompresije) nije jedini efikasni metod. Dve kompanije (Pulsent Technologies, kao i
Compression Science) iz Silicijumske Doline su nezavisno dosli do dve zamene za MPEG.

Pulsent-ov model je bio nezgrapan za dekodovanje (zli jezici kazu i tesko ostvariv na
real-time platformama), iako je proizvodio manji bitstream i vrlo dobar kvalitet. Druga
firma, ciji rad poznajem mnogo bolje, proizvela je bitstream 50% manjeg bitrate-a
sa kvalitetom slike neznatno BOLJIM nego MPEG (ostrina slike ista, boje prirodnije).
Stream nije bio baziran na DCT-u, nego na aritmetickoj kompresiji.

Obe firme su propale. Pulsent je apio pare od venture kapitalista na vreme (1999) pa
je guslao cetiri godine. CompressionScience je algoritam patentirao 2000, a krenuo u
real-time implementaciju avgusta 2001 (usled krize, mesec dana pre napada na WTC,
posle cega je dobiti investiciju postalo nemoguce).

Da nisu u pitanju samo poduhvati ludaka, tj. da je postojao realni podsticaj je zakon
o broadcasting-u u USA koji je zahtevao od cable provider-a da pruzaju znatno vise
kanala. Izlaz je bio da se kroz postojeci bandwidth protera efikasniji stream.

Kriza i narocito 9/11 su celu pricu bacili u vodu. Zameniti MPEG u svim postojecim
infrastrukturama zahteva ogromnu inicijalnu lovu, za sta jednostavno nije bilo vreme.

O Marku:
Cinjenica da ima 18 godina znaci da je tu negde u pubertetu, sto je po definiciji
mnogih psihologa doba intenzivnog foliranja. Osoba jos uvek ne zna sta je, i sebi
zadaje razne role koje pokusava da sledi i da zahteve te role ispunjava. Meni se
cini da je decko definitivno iznad proseka, ali da je definitivno jos uvek deriste koje
treba da raste.

Stvari koje mi se svidjaju: grize na veliko i zadaje sebi velike ciljeve.
Stvari koje mi se ne svidjaju: epizoda sa laznim nick-om je definitivno veliki minus, i
siri izuzetno los miris na sve strane.
Stvari sa kojima nisam nacisto: siri oko sebe veliku famu i veliku maglu. Ovo moze da
bude i dobro (obezbedio je sebi veliku lovu za skolovanje) i lose (svaka laz je ipak
laz i kad-tad postaje teret koji se obija o glavu). Ako je pametan da ne slaze sebe u
krajnjoj liniji, moze da izadje na dobro (ako nigde drugo bar u Leskovcu).

Da li je genije ? Sigurno je vrlo, vrlo dobar, pogotovo ako se uzme u obzir da dolazi
iz sredine gde nema mnogo putokaza u smeru u kojem je krenuo. Ne znam mnogo
toliko mladih koji vec znaju to sto znaju. Gde ce cela prica sa njim izaci, zna samo
Bog.

O Markovoj kompresiji:
Jedan detalj smrdi od pocetka - matrica 9x9 - ne lici mi da ista sto nije 2^x ima
sanse da bude brzo i efikasno. Ako ni zbog cega drugog, zato sto treba da se izvrsava
na masinama koje su binarne po prirodi.

O Marku i nama na ovoj diskusiji:
Za svaku je pohvalu sto je decko prosao kroz dobru smirglu. Dobro je i za njega, a
dobro je i za nivo diskusije. Ipak je ovo forum znalaca, gde ne moze da se lupa svasta.
Sto rekao Linkoln - mozes folirati neke ljude sve vreme, i sve ljude neko vreme, ali
ne mozes sve ljude sve vreme.

Summary:

Ova epizoda mu definitivno nije prosla ovde (sa dobrim razlogom).
Pustimo ga malo na miru, neka radi svoje i neka se razvija. Rano je jos da sudimo o
tome sta moze i sta ce biti od njega. Sta god da je, ipak je jedan od nas.

Bas cu da pretrazim... ali prva stvar koja mi je cudna - aritmeticka kompresija nema puno veze sa transformacionom funkcijom - to moze biti DST/DCT/FFT/MDCT/... bilo sta (cak i bez.. kao recimo Markov codec) i posle kvantizacije u integere se primenjuje entropijsko kodiranje.

Koje, kao sto znas, moze biti aritmeticko, ili neke huffman tabele - ili bilo sta drugo for that matter :)

Sto se aritmetickog kodiranja tice... ono jeste efikasnije u nekim slucajevima od recimo fiksiranih huffman tabela - ali postoje i aplikacije gde je jednostavno neprimenjivo zbog drugih stvari i zahteva industrije - recimo MP3 i AAC ne koriste aritmeticko kodiranje vec huffman tabele jer je zahtev da postoji moguci "break-in" u sred bitstreama (recimo seek, ili upad u stream session) i da to moze da se dekodira. Zamisli streaming bez toga :)

Oko MPEG-a... posto sam vrlo cesto clan nemacke nacionalne delegacije na MPEG sastancima, mogu da prokomentarisem par stvari koje verovatno znas, a koje mogu biti korisne:

- MPEG nije jedan standard, vec veoma veliki broj standarda (nekoliko za audio i video kao i mnogi novi standardi za efikasno identifikovanje podataka - MPEG-7 i njihovu deklaraciju i opis - MPEG-21)

- Sam MPEG komitet (ISO SC29/WG11) redovno skenira stanje nauke (state of the art) kao i zahteve industrije (industry requirements) i ako postoji nesto jako novo, ili zahtev za necim novim, uradi se Call For Proposals (CFP - poziv za predloge) i svaki novi izum moze lako da se nadje unutra ako ...

- Novi izum mora da zadovolji zahteve za odredjenim performansama i kvalitetom - i mora da bude dostupan pod fer i nediskriminisujucim uslovima, tako da ne znam zasto pomenuti Pulsent nije uspeo - mogli su lako da postanu deo patent pool-a ako je to njihovo, bice da je bilo nekih drugih problema - no pogledacu istorijat, zaista ne znam o cemu se radi za sad... propustio sam tu epizodu :)

- Sami MPEG standardi nisu uvek najpopularniji - recimo u USA u audio svetu se u njihovim standardima (A52 - digitalni TV, recimo) forsiraju USA-only tehnologije, na primer Dolby-AC3. Za video MPEG-2 u DVD-u jednostavno nije imao alternativu, da je imao Holivud bi svakako progurao nesto iz USA - kao sto je sad uredjeno sa Microsoft VC-9 (sada SMPTE VC-1) koji je u Windows Media kodecima

- Trenutni novi MPEG standardi (AVC za video i HE-AAC v2 za audio) su daleko ispred DVD MPEG-2 (verovatno i 60% manji fajlovi istog kvaliteta) ili MP3 (2-4 puta manji fajlovi sa slicnim kvalitetom) kao i JPEG-2000 (jedini uspesni komercijalni wavelet kodk) - znaci da se u poslednjih 5 godina uradilo dosta na polju standardizacije novih kompresionih tehnologija i da su izumi iz 90-tih i prve polovine 21-vog veka vec usli u MPEG standarde.

Tako da ako neko zeli da bude state-of-the-art, nek zaboravi JPEG - novi benchmarci su JPEG2000, MPEG-4 AVC video (H.264) kao i HE-AAC v2 audio... jedini konkurenti su u video polju Real Video 10 i Windows Media 9... audio codec iz MPEG-a (HE-AAC v2) danas nema nikakvu konkurenciju u kvalitetu, a za JPEG-2000 nisam toliko upucen u konkurenciju ali znam da je vrlo kvalitetan - i da je znacajno bolji u odnosu na JPEG.



Ali postoji nacin da ta ideja postane deo novog MPEG standarda.. kao sto su mnoge postale deo AVC-a (CABAC, partitioning, multiple reference frames, bolje predikcije....) ili audio kodiranja (spectral band replication, parametric stereo i uskoro spatial audio coding)

Takodje postoje i politicki motivi - kineski EVD npr, bilo gde gde je neophodno izbeci odliv novca u USA :) Te istocne zemlje obicno uvek guraju nesto svoje tamo interno, kao sto i USA radi kod sebe (Dolby AC-3, Windows Media, ....)



Slazem se - Marko je sigurno talenat, jako si dobro primetio da to znanje sigurno nije mogao tek tako da stekne - vidi se da ima interesovanja i zelje da to sprovede u delo... to ce mozda doci, ne treba ga obeshrabriti.

Ali naucno ribanje je uvek dobro :)

---

Hmm.. pretraga po "Pulsentu" daje samo gomilu press-release-ova i marketinskih izjava, i vest o tome da su imali privatni demo na nekom NAB-u...

Imaju patentne aplikacije (koje se jos razmatraju)

http://l2.espacenet.com/espace...76231&ID=US2004076231A1+I+
http://l2.espacenet.com/espace...amp;CY=gb&LG=en&DB=EPD

i sl... koliko vidim njihovi izumi su efikasna segmentacija scena i na osnovu te informacije bolje kodiranje pokreta - ostalo je manje vise standardni video codec koliko se vidi iz aplikacije za patent... pa ne znam, ako je ta segmentacija toliko dobra kao sto tvrde, mogli su svakako da je proguraju u neke standarde.

Inace.. bez nezavisnog testa nisam bas sklon da verujem tvrdnjama koje poticu iz samo jednog izvora... tako da bez javne demonstracije ne mogu da ih shvatim mnogo ozbiljno. Mozda je istina a mozda je samo venture capital con 101 - bez otvorene provere necemo nikad znati:)

A vidim da su i dospeli i na "Endless Compression" koji se bavi mitovima o beskonacnim kompresijama :) [vrlo dobar site, mozda i Politikin clanak o Marku dospe tamo ;) ]

http://www.endlesscompression.com/

hmmm...

A sto se "CompressionScience" firme tice, ovo mi deluje daleko ozbiljnije - koliko vidim oni su predlozili njihov izum:

http://ftp3.itu.int/av-arch/video-site/0201_Gen/JVT-B105.doc za usvajanje u tadasnji H.26L - a danas MPEG-4 AVC / H.264 codec... dakle, kao sto rekoh gore - nije problem da se to integrise...



Pogledacu zasto nije proslo.

---