Mobile networks benchmark Merenje i metodologija

Interaktivni portal

Merenja su sprovedena na način koji je statistički validan, ponovljiv, tehnički konzistentan i koji obezbeđuje uporedivost ključnih indikatora performansi (KPI) mobilnih mreža i mrežnih tehnologija. Svi mereni KPI definisani su u skladu sa ETSI standardima (ETSI TS 102 250-2) i ITU preporukama.

Drive test

Kampanjom je pokriveno 47 gradova (12 više u odnosu na kampanju iz 2017.) i 10.000 km puteva u Srbiji. Merenja su obuhvatala tri kategorije: Velike gradove, Male gradove i Puteve. S obzirom na broj mernih odbiraka prikupljenih tokom drive test merenja (preko 6000 testova govornog servisa i 100.000 sesija prenosa podataka obavljeno je u mreži svakog od operatora), smatra se da je standardna greška manja od 3% i da je nivo pouzdanosti veći od 95% za dobijene rezultate merenja.

 
Veliki gradovi:
  • Beograd
  • Čačak
  • Kragujevac
  • Niš
  • Novi Sad
  • Pančevo
  • Subotica
  • Zrenjanin
Mali gradovi:
  • Aleksinac*
  • Apatin*
  • Aranđelovac*
  • Bačka Palanka
  • Bačka Topola*
  • Bor
  • Bujanovac*
  • Gornji Milanovac
  • Inđija*
  • Jagodina
  • Kikinda
  • Kraljevo
  • Kruševac
  • Lazarevac*
  • Leskovac
  • Loznica
  • Negotin
  • Novi Pazar
  • Obrenovac
  • Paraćin
 
  • Pirot
  • Požarevac
  • Preševo*
  • Priboj*
  • Prokuplje
  • Ruma
  • Sjenica*
  • Smederevo
  • Smederevska Palanka
  • Sombor
  • Sremska Mitrovica
  • Šabac
  • Temerin*
  • Užice
  • Valjevo
  • Vranje
  • Vrnjačka Banja*
  • Vršac
  • Zaječar

* Gradovi dodati u Benchmarking kampanji 2018. godine

 

Drive test rute korišćene za merenja prikazane su na Slici 1.


Sl. 1 Drive test rute

Merenja su obavljena u drive test formi, što znači da je merna oprema bila instalirana u vozilima koja se kreću unapred definisanim rutama. Merna oprema prikuplja podatke o mreži sprovodeći testove prenosa govora i podataka, koristeći skener za prikupljanje radio parametara. Sve tri mobilne mreže testirane su u istom trenutku, na istim rutama, korišćenjem istih mernih terminala – pametnih telefona Sony Xperia XZ za testiranje govorne usluge i usluge prenosa podataka. Sony Xperia XZ je mobilni uređaj koji podržava 4G LTE kategorije 9 (Cat. 9), što znači da podržava brzine prenosa podataka do 450 Mb/s za prijem podataka, odnosno 50 Mb/s za slanje podataka. Svi pametni telefoni korišćeni za merenje su radili u režimu automatskog odabiranja tehnologije. Kako bi se omogućilo sveobuhvatno testiranje mreža i korišćenje raspoloživih servisa sa maksimalnim mogućnostima koje mreža pruža, za testiranje svih mobilnih mreža su se koristile SIM kartice sa komercijalnim tarifnim paketima koji pružaju maksimalne mogućnosti krajnjim korisnicima (najveći broj minuta, najveća količina podataka).

Mobilni tarifni paketi koji su se koristili za testiranje mobilnih mreža (drive test) prikazani su u Tabeli 1.

Operator Tarifni paket za testiranje govorne usluge Tarifni paket za testiranje usluge prenosa podataka
Telekom Srbija SOKO SOKO
Telenor PREMIUM PREMIUM
Vip mobile NEO10 Vip Online 49

Tabela 1. Mobilni tarifni paketi – Drive test

Merni sistem se sastojao od dva merna vozila opremljena identičnim mernim uređajima (SwissQual Diversity Benchmarker II), koji su omogućavali testiranje svih tehnologija i servisa istovremeno, sa velikom tačnošću. Za potrebe testiranja govornog servisa, Sony Xperia XZ telefoni su neprekidno pozivali jedan drugog unutar iste mreže. U velikim gradovima, testiranja su se obavljala tako što su se pomenuti telefoni nalazili u različitim vozilima, dok su u malim gradovima i na putevima telefoni bili u istom vozilu. Ovakav specifičan pristup za velike gradove omogućio je efikasno prikupljanje relevantnih podataka, bez prevelikog opterećivanja mreže u zonama gde se inače očekuje velika količina saobraćaja u mobilnoj mreži. Ovim testovima procenjuje se dostupnost govornog servisa, održivost veze i kvalitet govornog signala. Za potrebe benchmarking-a korišćeni su pozivi u trajanju od 85 sekundi.

 

Merna oprema instalirana u kolima prikazana je na Slici 2.

Sl. 2 Merna oprema instalirana u kolima

Primanje i slanje dodatnih paketa podataka tokom obavljanja govornih poziva je dodato mernom scenariju, kako bi se oponašao prosečni korisnik mobilne mreže, za koga je tipično odvijanje sesije prenosa podataka u pozadini, tokom trajanja poziva. Za svaki poziv, kvalitet govornog signala meren je pomoću POLQA P.863 algoritma (MOS – Mean Opinion Score).

Testiranje servisa prenosa podataka obavljeno je pomoću Sony Xperia XZ mobilnih telefona i korišćenjem namenskog servera smeštenog na operatorski neutralnoj lokaciji u kompaniji SoX (Serbian open eXchange) u Beogradu, kako bi se obezbedili identični uslovi za prenos podataka ka svim mobilnim mrežama. Ovakvim testovima procenjuje se raspoloživost mreže, stabilnost, tipične performanse i granične mogućnosti servisa. Benchmarking je obuhvatio testiranje najčešće korišćenih servisa prenosa podataka i to:

  • HTTP Prenos podataka – Download (brzina prenosa podataka veličine 3 MB preko HTTP protokola od mernog servera do mobilnog telefona). Ovakav test dizajniran je za merenje odziva mreže i simuliranje korisnika koji sa mreže prima podatke male veličine, poput slike, mp3 fajla ili email-a.
  • HTTP Prenos podataka – Upload (brzina prenosa podataka veličine 1 MB preko HTTP protokola od mobilnog telefona ka mernom serveru). Ovakav test je kreiran za merenje odziva mreže i simuliranje korisnika koji šalje na mrežu taj fajl male veličine, poput slike, mp3 fajlova ili e-maila.
  • FDTT HTTP Test kapaciteta – Download (brzina prenosa podataka veličine 400 MB putem HTTP protokola od mernog servera do mobilnog telefona tokom fiksnog vremenskog intervala od 10 sekundi). Ovaj test je dizajniran za testiranje kapaciteta mreže koja treba da obezbedi najveću kontinuiranu brzinu prenosa podataka, što je važno za korisnike koji preuzimaju velike fajlove sa mreže – tipično za korisnike koji za pristup internetu koriste mobilnu mrežu sa svojih PC/laptop uređaja.
  • FDTT HTTP Test kapaciteta – Upload (brzina prenosa podataka veličine 400 MB putem HTTP protokola od mobilnog telefona do mernog servera tokom fiksnog vremenskog intervala od 10 sekundi). Ovaj test je dizajniran za testiranje kapaciteta mreže koja treba da obezbedi najveću kontinuiranu brzinu prenosa podataka, što je važno za korisnike koji šalju velike fajlove na mrežu – tipično za korisnike koji za pristup internetu koriste mobilnu mrežu sa svojih PC/laptop uređaja.
  • HTTP Browsing – Statička stranica (testiranje brzine učitavanja i otvaranja referentne ETSI Kepler web stranice na mobilnom telefonu).
  • HTTP BrowsingLive stranice (testiranje brzine učitavanja i otvaranja live web stranica na mobilnom telefonu).
  • YouTube (testiranje kvaliteta live video stream-a).
  • Ping (merenje kašnjenja između slanja i prijema paketa u mreži).

Kako bi se oponašao prosečan korisnik mobilnog interneta u Srbiji, na osnovu popularnosti među korisnicima, izabrane su sledeće internet stranice za testiranje:

https://www.google.rs
https://www.facebook.com
https://www.kupujemprodajem.com
https://www.instagram.com

Kvalitet YouTube video stream-a izmeren je korišćenjem J.343.1 algoritma (VMOS – Video Mean Opinion Score).

Za testiranje radio parametara mobilnih mreža korišćen je skener (PCtel MX). Za obradu podataka i kreiranje izveštaja korišćen je SwissQual NQDI softverski paket. Dodatno, za analizu i skladištenje podataka tokom obrade korišćeni su sistemski resursi (Data warehouse) kompanije Systemics-PAB.

Merenja na hot-spot lokacijama i železničkim trasama

Kampanja je obuhvatala walktest merenja na četiri hot-spot lokacije u Beogradu i railway merenja na dve nacionalne železničke trase.

Hot-spot lokacije:
  • Tržni centar “Delta City”
  • Aerodrom “Nikola Tesla”
  • Tržni centar “Ušće”
  • Tržni centar “Stadion”
Železničke trase:
  • Beograd - Prijepolje - Beograd
  • Beograd - Subotica - Beograd

Hot-spot lokacije u Beogradu korišćene za merenja prikazane su na Slici 3.

Sl. 3 Hot-spot lokacije u Beogradu
Sl. 3 Hot-spot lokacije u Beogradu

Railway rute korišćene za merenja prikazane su na Slici 4.

??. 4 Railway ????
Sl. 4 Railway rute

Merenja na Hot-spot lokacijama obavljena su u walktest režimu, što znači da je merna oprema instalirana u rancu koji nosi inženjer koji vrši merenja. Merenja u vozovima obavljena su pomoću ranca smeštenog u jednom od vagona, pored prozora sa terminalima usmerenim u pravcu kretanja voza.

Merna oprema prikuplja podatke o mreži sprovodeći testove prenosa govora ili podataka, koristeći skener za prikupljanje radio parametara. Sve tri mobilne mreže testirane su u istom trenutku, na istim rutama, korišćenjem istih mernih terminala kao kod drive testova – pametnih telefona Sony Xperia XZ za testiranje govorne usluge i usluge prenosa podataka. Sony Xperia XZ je mobilni uređaj kategorije 9 (Cat. 9), što znači da podržava 4G (LTE) brzine prenosa podataka do 450 Mb/s za prijem podataka, odnosno 50 Mb/s za slanje podataka. Svi pametni telefoni korišćeni za merenje su radili u režimu automatskog odabiranja tehnologije. Kako bi se omogućilo sveobuhvatno testiranje mreža i korišćenje raspoloživih servisa sa maksimalnim mogućnostima koje mreža pruža, za testiranje svih mobilnih mreža su se koristile SIM kartice sa komercijalnim tarifnim paketima koji pružaju maksimalne mogućnosti krajnjim korisnicima (najveći broj minuta, najveća količina podataka).

Mobilni tarifni paketi koji su se koristili za testiranje mobilnih mreža (walk i railway test) na hot-spot lokacijama i železničkim trasama prikazani su u Tabeli 2.

Operator Tarifni paket za testiranje govorne usluge Tarifni paket za testiranje usluge prenosa podataka
Telekom Srbija SOKO SOKO
Telenor PREMIUM PREMIUM
Vip mobile NEO10 Vip Online 49

Tabela 2. Mobilni tarifni paketi – Walk i railway test

Merni sistem se sastojao od ranca (SwissQual Freerider III) opremljenog mernim terminalima koji su omogućavali testiranje svih mrežnih tehnologija sa velikom tačnošću. Za potrebe testiranja govornog servisa, Sony Xperia XZ telefoni su neprekidno pozivali jedan drugog unutar iste mreže. Testiranja su se obavljala u M2M (Mobile to Mobile) scenariju između terminala smeštenih u rancu. Usled ograničenja u broju terminala koji se mogu smestiti u ranac, svaka hot-spot lokacija je merena dva puta i to pokrivajući istu rutu, najpre testirajući govorni servis, a potom servis prenosa podataka. Za merenja na hot-spot lokacijama i na železničkim trasama koristio se isti merni scenario za testiranje servisa prenosa govora i prenosa podataka kao za drive test merenja.

Za testiranje radio parametara mobilnih mreža korišćen je skener (Rohde&Schwarz TSME). Za obradu podataka i kreiranje izveštaja korišćen je SwissQual NQDI softverski paket. Dodatno, za analizu i skladištenje podataka tokom obrade korišćeni su sistemski resursi (Data warehouse) kompanije Systemics-PAB.

Merna oprema korišćena za walktest i railway merenja prikazana je na Slici 5.

Sl. 5 Merna oprema korišćena za walktest i railway merenja

Rezultati sprovedenih walktest merenja na hot-spot lokacijama i railway merenja na zelezničkim trasama nisu uzeti u razmatranje prilikom određivanja konačnog rezultata bodovanja izmerenih KPI vrednosti. S obzirom na obim benchmarking kampanje, broj prikupljenih mernih odbiraka pomoću obavljenih testova na hot-spot lokacijama i železničkim trasama nije statistički reprezentativan da bi se ti rezultati uzeli u obzir prilikom izračunavanja konačnog skora.