Analisi della qualit video per applicazioni webcasting Fase II

ing. Paola Sunna Rai Centro Ricerche e Innovazione Tecnologica Torino Presidente del gruppo EBU/UER B/VIM

1.

Introduzione

Allo scopo di valutare le prestazioni dei codicatori per applicazioni multimediali, il gruppo EBU B/VIM (Video in Multimedia) ha sviluppato una nuova metodologia soggettiva chiamata SAMVIQ. Le modalit di funzionamento di SAMVIQ sono state gi descritte in un precedente articolo di Elettronica e Telecomunicazioni [1], insieme ai risultati dei test condotti da B/VIM durante la fase di sviluppo della metodologia stessa. La consistenza dei risultati soggettivi ottenuti e la riproducibilit degli stessi nel caso di prove soggettive eseguite da laboratori diversi [2], hanno spinto B/VIM a chiedere l'avvio del processo di standardizzazione di SAMVIQ presso lITU [3,4].

Nel corso del 2003 B/VIM ha eseguito una nuova campagna di valutazioni soggettive basate sullutilizzo di SAMVIQ allo scopo di individuare le prestazioni di alcuni nuovi codicatori disponibili sul mercato. I risultati emersi dalle valutazioni soggettive sono riportati in questo articolo

2.

Valutazioni soggettive dei codec per applicazioni multimediali

I codec presi in considerazione per le valutazioni soggettive sono stati: Windows Media 9 (WM9) Real Video 9 (RV9) MPEG-4 (Envivio) Quick Time 6 (QT6)

I bit-rate ed i formati utilizzati per i test sono indicati nella tabella 1.

Tab. 1 - Formati delle immagini e bit-rate utilizzati per i test.

QCIF (176x144) CIF (352x288)

56 kbps 256 kbps

128 kbps 500 kbps

256 kbps 700 kbps

500 kbps 1400 kbps

ELETTRONICA E TELECOMUNICAZIONI N1 APRILE 2005

www.crit.rai.it

Analisi della qualit video per applicazioni webcasting - Fase II

Fig.1 - Sequenze di test utilizzate.

Le sequenze considerate sono state un sottoinsieme di quelle gi utilizzate da B/ VIM nel corso della prima fase dei test e la gura 1 riporta unimmagine signicativa per ciascuna di esse; in particolare si tratta di Basket, Flower Garden, Kayak e Entertainment, tutte lunghe 10 s e caratterizzate da differenti criticit spazio-temporali. I test soggettivi sono stati eseguiti da due membri del B/VIM: lNRK, la televisione pubblica norvegese, e France Telecom R&D; il numero di osservatori stato tra i 15 ed i 20, met dei quali erano osservatori non esperti. I risultati per entrambi i laboratori e per ogni condizione di test sono riportati nelle gure 2 e 3, mentre di seguito fornita una sintesi delle principali considerazioni emerse dallanalisi dei risultati.

3.

Sintesi dei risultati delle valutazioni soggettive

Le prestazioni migliori sono state ottenute con RV9 sia nel caso di formato QCIF che CIF e per tutti i bit-rate sotto test; necessario, per, sottolineare che questi valori si riferiscono alla qualit intrinseca fornita dal codec e che le prestazioni potrebbero essere differenti in presenza di errori sulla rete IP durante il processo di streaming. Il comportamento dei codicatori in ambiente IP simulato sar presto oggetto di studio da parte di B/VIM . Il codicatore RV9 stato inoltre lunico codec in grado di fornire una qualit trasparente (punteggio soggettivo intorno a 80) a 1.4 Mbps seguito da WM9 che per ha riportato una valutazione soggettiva

ELETTRONICA E TELECOMUNICAZIONI N1 APRILE 2005

www.crit.rai.it

Analisi della qualit video per applicazioni webcasting - Fase II

inferiore di 10 punti rispetto a quella di RV9. A parit di marca del prodotto, le nuove generazioni di codicatori non hanno sempre fornito una qualit superiore a quelle precedenti; ad esempio, la qualit di WM8 migliore di WM9 a 500 kbps e a 700 kbps. Analogamente, RV9 leggermente peggiore di RV8 a 250 kbps. Il codec QT6 fornisce una qualit decisamente inferiore a quella della versione precedente, QT5, a tutti i bit-rate presi in considerazione. Per quanto riguarda le implementazioni di uno stesso algoritmo standard di codica (MPEG-4 Part 10), dallanalisi dei risultati emerso che limplementazione di Envivio fornisce una qualit superiore a quella di QT6, indipendentemente dal formato e dal bit-rate preso in considerazione. Se si suppone di considerare il valore soggettivo di qualit pari a 50 come il valore per il quale la qualit fornita dal codificatore considerata accettabile dallosservatore, si pu notare dalla tabella 2, che per i codicatori testati tale valore ottenuto per bit-rate differenti: RV9 ancora una volta il codicatore che consente di ottenere il valore soggettivo di qualit pari a 50 utilizzando meno bit-rate rispetto agli altri.

4.

Conclusioni

Lo svolgimento delle prove soggettive sopra riportate (Fase due di B/VIM) ha evidenziato ulteriormente che SAMVIQ una metodologia soggettiva afdabile sia in termini di attendibilit dei risultati forniti che in termini di convergenza dei risultati tra laboratori differenti. In base ad alcuni studi condotti da France Telecom R&D, SAMVIQ consente inoltre di ottenere intervalli di condenza pi piccoli rispetto a quelli ottenibili con altre metodologie soggettive, come ad esempio il DSCQS specicato nella Raccomandazione ITUR BT.500. SAMVIQ quindi utile per chiunque debba scegliere se utilizzare un codec piuttosto che un altro e consente di valutare le prestazioni sia in funzione della criticit del contenuto da codicare che del bit-rate utilizzato. E per importante sottolineare che la scelta di un codec non dipende esclusivamente dalle prestazioni tecniche del codicatore ma anche dal costo che leventuale adozione pu implicare in termini di sicurezza e di pagamento dei diritti di utilizzo. Il gruppo B/VIM ha cominciato la terza fase di lavoro nel corso della quale si occuper

Tab. 2 - Bit-rate ai quali corrisponde un valore di qualit soggettiva accettabile (50)

RV9 Real Video 9 CIF QCIF 550 kbps 180 kbps

WM9 Windows Media 9 650 kbps 300 kbps

Envivio 1100 kbps 370 kbps

QT6 Quick Time 6 >1400 kbps >1400 kbps

ELETTRONICA E TELECOMUNICAZIONI N1 APRILE 2005

www.crit.rai.it

Analisi della qualit video per applicazioni webcasting - Fase II

principalmente di confrontare le prestazioni dei codicatori esistenti sul mercato rispetto a quelle dei codicatori H.264 ed estender i test non solo ai formati CIF e QCIF ma anche al Full Format (SDTV).

Bibliograa
1. P. Sunna: "Analisi della qualit video per applicazioni webcasting", Elettronica e Telecomunicazioni, aprile 2003 (www.crit.rai.it)

2. F. Kozamernik, P. Sunna, E. Wykens, D. I. Pettersen: "Subjective quality of internet video codecs - Phase 2 evaluation using SAMVIQ", EBU Technical Review, January 2005 (www.ebu.ch) 3. Question ITU-R 211/11, Geneva, 2004. 4. ITU-R Document 6Q/57-E: "Draft New Recommendation for Subjective Assessment of Streaming Multimedia Images by Non-expert Viewers" Source: EBU, Geneva, 27 April 2004.

Acronimi e sigle
CIF EBU/UER ISO ITU Common Intermediate Format: formato immagine, 352 pixel e 288 righe European Broadcasting Union/ Union Europenne de Radio-Tlvision (www.ebu.ch) International Organisation for Standardisation (www.iso.org) International Telecomminication Union (www.itu.org) Union Internationale de Tlcommunication Unin Internacionale de Telecomunicaciones Motion Picture Expert Group: gruppo di lavoro congiunto ISO/IEC Quarter Common Intermediate Format: formato d'immagine, 176 pixel per 144 righe versione 5 e 6 di QuickTime (www.apple.com) versioni 8 e 9 di RealVideo (www.realnetworks.com) Subjective Assessment Methodology for Video Quality

MPEG Q-CIF QT5 e QT6 RV8 e RV9 SAMVIQ

WM8 e WM9 versioni 8 e 9 di Windows Media Encoder (www.microsoft.com)

ELETTRONICA E TELECOMUNICAZIONI N1 APRILE 2005

www.crit.rai.it

Analisi della qualit video per applicazioni webcasting - Fase II

Fig.2 - Alcuni dei risultati ottenuti con il metodo SAMVIQ presso il laboratorio della televisione norvegese NRK. I risultati si riferiscono ai quattro co-decodicatori testati (Envivio, QT6, RV9 e WMV9) con immagini CIF (gura in alto) e QCIF (in basso). Questi esempi sono stati estratti dall'articolo [2], sul quale sono disponibili ulteriori esempi, oltre ad una descrizione pi completa della metodologia.

ELETTRONICA E TELECOMUNICAZIONI N1 APRILE 2005

www.crit.rai.it

Analisi della qualit video per applicazioni webcasting - Fase II

Fig.3 - Risultati ottenuti dal laboratorio France Telecom R&D; valgono le stesse indicazioni riportate per la gura 2.

10

ELETTRONICA E TELECOMUNICAZIONI N1 APRILE 2005

www.crit.rai.it