Mobile networks benchmark Merenje i metodologija

Merenja su sprovedena na način koji je statistički validan, ponovljiv, tehnički konzistentan i koji obezbeđuje uporedivost parametara kvaliteta (KPI – Key performance Indicator, ključni indikator performansi) usluga u mobilnim mrežama. Svi mereni KPI definisani su u skladu sa ETSI standardima i ITU preporukama.

Drive test

Kampanjom je pokriveno 50 gradova (3 više u odnosu na kampanju iz 2018.) i 10.000 km puteva u Srbiji. Merenja su obuhvatala tri kategorije: Velike gradove, Male gradove i Puteve. Uzimajući u obzir broj mernih odbiraka prikupljenih tokom drive test merenja (preko 6.000 testova govorne usluge i 3.500 sesija za svaku od usluga prenosa podataka obavljeno je u mreži svakog od operatora), smatra se da je standardna greška manja od 3% i da je nivo pouzdanosti veći od 95% za dobijene rezultate merenja.

 
Veliki gradovi:
  • Beograd
  • Čačak
  • Kragujevac
  • Niš
  • Novi Sad
  • Pančevo
  • Subotica
  • Zrenjanin
Mali gradovi:
  • Aleksinac
  • Apatin
  • Aranđelovac
  • Bačka Palanka
  • Bačka Topola
  • Bor
  • Bujanovac
  • Gornji Milanovac
  • Inđija
  • Jagodina
  • Kikinda
  • Kraljevo
  • Kruševac
  • Kula*
  • Lazarevac
  • Leskovac
  • Loznica
  • Negotin
  • Novi Pazar
  • Obrenovac
  • Paraćin
 
  • Pirot
  • Požarevac
  • Preševo
  • Priboj
  • Prijepolje*
  • Prokuplje
  • Ruma
  • Šabac
  • Sjenica
  • Smederevo
  • Smederevska Palanka
  • Sombor
  • Sremska Mitrovica
  • Stara Pazova*
  • Temerin
  • Užice
  • Valjevo
  • Vranje
  • Vrnjačka Banja
  • Vršac
  • Zaječar

* Gradovi dodati u Benchmarking kampanji 2019. godine

 

Drive test rute korišćene za merenja prikazane su na Slici 1.


Sl. 1 Drive test rute

Merenja su obavljena u drive test formi, što znači da je merna oprema bila instalirana u vozilima koja se kreću unapred definisanim rutama. Merna oprema prikuplja podatke o mreži sprovodeći testove prenosa govora i podataka, koristeći skener za prikupljanje radio parametara. Sve tri mobilne mreže testirane su u istom trenutku, na istim rutama, korišćenjem istih mernih terminala – pametnih telefona Samsung Galaxy S10 za testiranje govorne usluge i Samsung Galaxy S8 za testiranje usluge prenosa podataka. Samsung Galaxy S10 bio je opremljen firmware-om operatora za podršku svih najnovijih mrežnih funkcija (uključujući ostvarivanje VoLTE poziva, odnosno govornih poziva korišćenjem LTE tehnologije). Samsung Galaxy S8 je mobilni uređaj kategorije 16 (Cat. 16), što znači da podržava 4G (LTE) brzine prenosa podataka do 1000 Mb/s za prijem podataka, odnosno 50 Mb/s za slanje podataka. Svi pametni telefoni korišćeni za merenje su radili u režimu automatskog odabiranja tehnologije. Kako bi se omogućilo sveobuhvatno testiranje mreža i korišćenje raspoloživih servisa sa maksimalnim mogućnostima koje mreža pruža, za testiranje svih mobilnih mreža su se koristile SIM kartice sa komercijalnim tarifnim paketima koji pružaju maksimalne mogućnosti krajnjim korisnicima (najveći broj minuta, najveća količina podataka).

Mobilni tarifni paketi koji su se koristili za testiranje mobilnih mreža (drive test) prikazani su u Tabeli 1.

Operator Tarifni paket za testiranje govorne usluge Tarifni paket za testiranje usluge prenosa podataka
Telekom Srbija SOKO SOKO
Telenor Biznis Total 100 Biznis Total 100
Vip mobile NEO30 Vip Online 49

Tabela 1. Mobilni tarifni paketi – Drive test

Merni sistem se sastojao od dva merna vozila opremljena identičnim mernim uređajima (SwissQual Diversity Benchmarker II), koji su omogućavali testiranje svih tehnologija i usluga istovremeno, sa velikom tačnošću. Za potrebe testiranja govorne usluge, Samsung Galaxy S10 telefoni su neprekidno pozivali jedan drugog unutar iste mreže. U velikim gradovima, testiranja su se obavljala tako što su se pomenuti telefoni nalazili u različitim vozilima, dok su u malim gradovima i na putevima telefoni bili u istom vozilu. Ovakav specifičan pristup za velike gradove omogućio je efikasno prikupljanje relevantnih podataka, bez prevelikog opterećivanja mreže u zonama gde se inače očekuje velika količina saobraćaja u mobilnoj mreži. Ovim testovima procenjuje se dostupnost govornog servisa, održivost veze i kvalitet govornog signala. Za potrebe benchmarking-a korišćeni su pozivi u trajanju od 85 sekundi.

 

Merna oprema instalirana u kolima prikazana je na Slici 2.

Sl. 2 Merna oprema instalirana u kolima

Primanje i slanje dodatnih paketa podataka tokom obavljanja govornih poziva je dodato mernom scenariju, kako bi se oponašao prosečni korisnik mobilne mreže, za koga je tipično odvijanje sesije prenosa podataka u pozadini, tokom trajanja poziva. Za svaki poziv, kvalitet govornog signala meren je pomoću POLQA P.863 algoritma (MOS – Mean Opinion Score).

Testiranje usluga prenosa podataka obavljeno je pomoću Samsung Galaxy S8 mobilnih telefona i korišćenjem namenskog servera smeštenog na operatorski neutralnoj lokaciji u kompaniji SoX (Serbian open eXchange) u Beogradu, kako bi se obezbedili identični uslovi za prenos podataka ka svim mobilnim mrežama. Ovakvim testovima procenjuje se raspoloživost mreže, stabilnost, tipične performanse i granične mogućnosti usluga. Benchmarking je obuhvatio testiranje najčešće korišćenih usluga prenosa podataka i to:

  • HTTP Prenos podataka – Download (brzina prenosa podataka veličine 3 MB preko HTTP protokola od mernog servera do mobilnog telefona). Ovakav test dizajniran je za merenje odziva mreže i simuliranje korisnika koji sa mreže prima podatke male veličine, poput slike, mp3 fajla ili email-a.
  • HTTP Prenos podataka – Upload (brzina prenosa podataka veličine 1 MB preko HTTP protokola od mobilnog telefona ka mernom serveru). Ovakav test je kreiran za merenje odziva mreže i simuliranje korisnika koji šalje na mrežu taj fajl male veličine, poput slike, mp3 fajlova ili e-maila.
  • FDTT HTTP Test kapaciteta – Download (brzina prenosa podataka veličine 400 MB putem HTTP protokola od mernog servera do mobilnog telefona tokom fiksnog vremenskog intervala od 10 sekundi). Ovaj test je dizajniran za testiranje kapaciteta mreže koja treba da obezbedi najveću kontinuiranu brzinu prenosa podataka, što je važno za korisnike koji preuzimaju velike fajlove sa mreže – tipično za korisnike koji za pristup internetu koriste mobilnu mrežu sa svojih PC/laptop uređaja.
  • FDTT HTTP Test kapaciteta – Upload (brzina prenosa podataka veličine 400 MB putem HTTP protokola od mobilnog telefona do mernog servera tokom fiksnog vremenskog intervala od 10 sekundi). Ovaj test je dizajniran za testiranje kapaciteta mreže koja treba da obezbedi najveću kontinuiranu brzinu prenosa podataka, što je važno za korisnike koji šalju velike fajlove na mrežu – tipično za korisnike koji za pristup internetu koriste mobilnu mrežu sa svojih PC/laptop uređaja.
  • HTTP Browsing – Statička stranica (testiranje brzine učitavanja i otvaranja referentne ETSI Kepler web stranice na mobilnom telefonu).
  • HTTP BrowsingLive stranice (testiranje brzine učitavanja i otvaranja live web stranica na mobilnom telefonu).
  • YouTube (testiranje kvaliteta live video stream-a).
  • Ping (merenje kašnjenja između slanja i prijema paketa u mreži).

Kako bi se oponašao prosečan korisnik mobilnog interneta u Srbiji, na osnovu popularnosti među korisnicima, izabrane su sledeće internet stranice za testiranje:

https://www.twitter.com
https://www.facebook.com
https://www.kupujemprodajem.com
https://www.kupindo.com

Kvalitet YouTube video stream-a izmeren je korišćenjem J.343.1 algoritma (VMOS – Video Mean Opinion Score).

Za testiranje radio parametara mobilnih mreža korišćen je skener (Rohde&Schwarz TSME). Za obradu podataka i kreiranje izveštaja korišćen je SwissQual NQDI softverski paket. Dodatno, za analizu i skladištenje podataka tokom obrade korišćeni su sistemski resursi (Data warehouse) kompanije Systemics-PAB.

Merenja na hot-spot lokacijama

Kampanja je obuhvatala walktest merenja na četiri hot-spot lokacije u Beogradu i jednu u Novom Sadu.

Beograd:
  • Tržni centar “Delta City”
  • Aerodrom “Nikola Tesla”
  • Tržni centar “Ušće”
  • Tržni centar “Stadion”
Novi Sad:
  • Tržni centar “Promenada”

Hot-spot lokacije u Beogradu korišćene za merenja prikazane su na Slici 3.

Sl. 3 Hot-spot lokacije u Beogradu

Sl. 3 Hot-spot lokacije u Beogradu

Railway rute korišćene za merenja prikazane su na Slici 4.

4 Railway
Sl. 4 Hot-spot lokacijа u Novom Sadu

Merenja na hot-spot lokacijama obavljena su u walktest režimu, što znači da je merna oprema instalirana u rancu koji nosi inženjer koji vrši merenja.

Merna oprema prikuplja podatke o mreži sprovodeći testove prenosa govora ili podataka, koristeći skener za prikupljanje radio parametara. Sve tri mobilne mreže testirane su u istom trenutku, na istim rutama, korišćenjem istih mernih terminala kao kod drive testova –telefona Samsung Galaxy S10 za testiranje govorne usluge i Samsung Galaxy S8 za testiranje usluge prenosa podataka. Samsung Galaxy S10 bio je opremljen firmware-om operatora za podršku svih najnovijih mrežnih funkcija (uključujući ostvarivanje VoLTE poziva, odnosno govornih poziva korišćenjem LTE mreže). Samsung Galaxy S8 je mobilni uređaj kategorije 16 (Cat. 16), što znači da podržava 4G (LTE) brzine prenosa podataka do 1000 Mb/s za prijem podataka, odnosno 50 Mb/s za slanje podataka. Svi mobilni telefoni korišćeni za merenje su radili u režimu automatskog odabiranja tehnologije. Kako bi se omogućilo sveobuhvatno testiranje mreža i korišćenje raspoloživih servisa sa maksimalnim mogućnostima koje mreža pruža, za testiranje svih mobilnih mreža su se koristile SIM kartice sa komercijalnim tarifnim paketima koji pružaju maksimalne mogućnosti krajnjim korisnicima (najveći broj minuta, najveća količina podataka).

Mobilni tarifni paketi koji su se koristili za testiranje mobilnih mreža (walk test) na hot-spot lokacijama prikazani su u Tabeli 2.

Operator Tarifni paket za testiranje govorne usluge Tarifni paket za testiranje usluge prenosa podataka
Telekom Srbija SOKO SOKO
Telenor Biznis Total 100 Biznis Total 100
Vip mobile NEO30 Vip Online 49

Tabela 2. Mobilni tarifni paketi – Walk test

Merni sistem se sastojao od ranca (SwissQual Freerider III) opremljenog mernim terminalima koji su omogućavali testiranje svih mrežnih tehnologija sa velikom tačnošću. Za potrebe testiranja govorne usluge, Samsung Galaxy S10 telefoni su neprekidno pozivali jedan drugog unutar iste mreže. Testiranja su se obavljala u M2M (Mobile to Mobile) scenariju između terminala smeštenih u rancu. Samsung Galaxy S8 je korišćen za testiranje usluga prenosa podataka. Za merenja na hot-spot lokacijama koristio se isti merni scenario za testiranje usluga prenosa govora i prenosa podataka kao za drive test merenja.

Za testiranje radio parametara mobilnih mreža korišćen je skener (Rohde&Schwarz TSME). Za obradu podataka i kreiranje izveštaja korišćen je SwissQual NQDI softverski paket. Dodatno, za analizu i skladištenje podataka tokom obrade korišćeni su sistemski resursi (Data warehouse) kompanije Systemics-PAB.

Merna oprema korišćena za walktest merenja prikazana je na Slici 5.

Sl. 5 Merna oprema korišćena za walktest merenja

Rezultati sprovedenih walktest merenja na hot-spot lokacijama nisu uzeti u razmatranje prilikom određivanja konačnog rezultata bodovanja izmerenih KPI vrednosti. Uzimajući u obzir obim benchmarking kampanje, broj prikupljenih mernih odbiraka tokom testova na hot-spot lokacijama nije statistički reprezentativan da bi se ti rezultati uzeli u obzir prilikom izračunavanja konačnog skora.