Metodologija projekta

Drive test

Kampanjom je pokriveno 50 gradova i 10.000 km puteva u Srbiji. Merenja su obuhvatala tri kategorije: Velike gradove, Male gradove i Puteve. Uzimajući u obzir broj mernih odbiraka prikupljenih tokom drive test merenja (preko 7.000 testova govorne usluge i 7.000 sesija za svaku od usluga prenosa podataka obavljeno je u mreži svakog od operatora), smatra se da je standardna greška manja od 3% i da je nivo pouzdanosti veći od 95% za dobijene rezultate merenja.

Drive test rute korišćene za merenja prikazane su na Slici 1.

Sl. 1 Drive test rute

Merenja su obavljena u drive test formi, što znači da je merna oprema bila instalirana u vozilima koja se kreću unapred definisanim rutama. Merna oprema prikuplja podatke o mreži sprovodeći testove prenosa govora i podataka, koristeći skener za prikupljanje radio parametara. Sve tri mobilne mreže testirane su u istom trenutku, na istim rutama, korišćenjem istih mernih terminala – pametnih telefona Samsung Galaxy S10 za testiranje govorne usluge i Samsung Galaxy S9 za testiranje usluge prenosa podataka. Samsung Galaxy S10 bio je opremljen firmware-om operatora za podršku svih najnovijih mrežnih funkcija (uključujući ostvarivanje VoLTE poziva, odnosno govornih poziva korišćenjem LTE tehnologije). Samsung Galaxy S9 je mobilni uređaj kategorije 18 (Cat. 18), što znači da podržava 4G (LTE) brzine prenosa podataka do 1200 Mb/s za prijem podataka, odnosno 210 Mb/s za slanje podataka. Svi pametni telefoni korišćeni za merenje su radili u režimu automatskog odabiranja tehnologije. Kako bi se omogućilo sveobuhvatno testiranje mreža i korišćenje raspoloživih servisa sa maksimalnim mogućnostima koje mreža pruža, za testiranje svih mobilnih mreža su se koristile SIM kartice sa komercijalnim tarifnim paketima koji pružaju maksimalne mogućnosti krajnjim korisnicima (najveći broj minuta, najveća količina podataka).

Mobilni tarifni paketi koji su se koristili za testiranje mobilnih mreža (drive test) prikazani su u Tabeli 1.

Tabela 1. Mobilni tarifni paketi – Drive test

Merni sistem se sastojao od dva merna vozila opremljena identičnim mernim uređajima (SwissQual Diversity Benchmarker II), koji su omogućavali testiranje svih tehnologija i usluga istovremeno, sa velikom tačnošću. Za potrebe testiranja govorne usluge, Samsung Galaxy S10 telefoni su neprekidno pozivali jedan drugog unutar iste mreže. U velikim gradovima, testiranja su se obavljala tako što su se pomenuti telefoni nalazili u različitim vozilima, dok su u malim gradovima i na putevima telefoni bili u istom vozilu. Ovakav specifičan pristup za velike gradove omogućio je efikasno prikupljanje relevantnih podataka, bez prevelikog opterećivanja mreže u zonama gde se inače očekuje velika količina saobraćaja u mobilnoj mreži. Ovim testovima procenjuje se dostupnost govornog servisa, održivost veze i kvalitet govornog signala. Za potrebe benchmarking-a korišćeni su pozivi u trajanju od 85 sekundi.

Merna oprema instalirana u kolima prikazana je na Slici 2.

Sl. 2 Merna oprema instalirana u kolima

Primanje i slanje dodatnih paketa podataka tokom obavljanja govornih poziva je dodato mernom scenariju, kako bi se oponašao prosečni korisnik mobilne mreže, za koga je tipično odvijanje sesije prenosa podataka u pozadini, tokom trajanja poziva. Za svaki poziv, kvalitet govornog signala meren je pomoću POLQA P.863 algoritma (MOS – Mean Opinion Score).

Testiranje usluga prenosa podataka obavljeno je pomoću Samsung Galaxy S9 mobilnih telefona i korišćenjem namenskog servera smeštenog na operatorski neutralnoj lokaciji u kompaniji SoX (Serbian open eXchange) u Beogradu, kako bi se obezbedili identični uslovi za prenos podataka ka svim mobilnim mrežama. Ovakvim testovima procenjuje se raspoloživost mreže, stabilnost, tipične performanse i granične mogućnosti usluga. Benchmarking je obuhvatio testiranje najčešće korišćenih usluga prenosa podataka i to:

• Prenos malog fajla – Download (brzina prenosa podataka veličine 3 MB preko HTTP protokola od mernog servera do mobilnog telefona). Ovakav test dizajniran je za merenje odziva mreže i simuliranje korisnika koji sa mreže prima podatke male veličine, poput slike, mp3 fajla ili email-a.
• Prenos malog fajla – Upload (brzina prenosa podataka veličine 1 MB preko HTTP protokola od mobilnog telefona ka mernom serveru). Ovakav test je kreiran za merenje odziva mreže i simuliranje korisnika koji šalje na mrežu taj fajl male veličine, poput slike, mp3 fajlova ili e-maila.
• Prenos velikog fajla – Download (brzina prenosa podataka veličine 400 MB putem HTTP protokola od mernog servera do mobilnog telefona tokom fiksnog vremenskog intervala od 10 sekundi). Ovaj test je dizajniran za testiranje kapaciteta mreže koja treba da obezbedi najveću kontinuiranu brzinu prenosa podataka, što je važno za korisnike koji preuzimaju velike fajlove sa mreže – tipično za korisnike koji za pristup internetu koriste mobilnu mrežu sa svojih PC/laptop uređaja.
• Prenos velikog fajla – Upload (brzina prenosa podataka veličine 400 MB putem HTTP protokola od mobilnog telefona do mernog servera tokom fiksnog vremenskog intervala od 10 sekundi). Ovaj test je dizajniran za testiranje kapaciteta mreže koja treba da obezbedi najveću kontinuiranu brzinu prenosa podataka, što je važno za korisnike koji šalju velike fajlove na mrežu – tipično za korisnike koji za pristup internetu koriste mobilnu mrežu sa svojih PC/laptop uređaja.
• Web browsing – Refrentna stranica (testiranje brzine učitavanja i otvaranja referentne ETSI Kepler web stranice na mobilnom telefonu).
• Web browsing – Live stranica (testiranje brzine učitavanja i otvaranja live web stranica na mobilnom telefonu).
• YouTube (testiranje kvaliteta live video stream-a).
• Ping (merenje kašnjenja između slanja i prijema paketa u mreži).

Kako bi se oponašao prosečan korisnik mobilnog interneta u Srbiji, na osnovu popularnosti među korisnicima, izabrane su sledeće internet stranice za testiranje:

https://www.twitter.com
https://www.facebook.com
https://www.kupindo.com
https://oglasi.rs/

Kvalitet YouTube video stream-a izmeren je korišćenjem J.343.1 algoritma (VMOS – Video Mean Opinion Score).

Za testiranje radio parametara mobilnih mreža korišćen je skener (Rohde&Schwarz TSME). Za obradu podataka i kreiranje izveštaja korišćen je SwissQual NQDI softverski paket. Dodatno, za analizu i skladištenje podataka tokom obrade korišćeni su sistemski resursi (Data warehouse) kompanije Systemics-PAB.

Walk test

Kampanja je obuhvatala walk test merenja na četiri lokacije u Beogradu.

Merenja na ovim lokacijama obavljena su u walk test režimu, što znači da je merna oprema instalirana u rancu koji nosi inženjer koji vrši merenja.

Merna oprema prikuplja podatke o mreži sprovodeći testove prenosa govora ili podataka, koristeći skener za prikupljanje radio parametara. Sve tri mobilne mreže testirane su u istom trenutku, na istim rutama, korišćenjem istih mernih terminala kao kod drive testova –telefona Samsung Galaxy S10 za testiranje govorne usluge i Samsung Galaxy S9 za testiranje usluge prenosa podataka. Samsung Galaxy S10 bio je opremljen firmware-om operatora za podršku svih najnovijih mrežnih funkcija (uključujući ostvarivanje VoLTE poziva, odnosno govornih poziva korišćenjem LTE mreže). Samsung Galaxy S9 je mobilni uređaj kategorije 18 (Cat. 18), što znači da podržava 4G (LTE) brzine prenosa podataka do 1200 Mb/s za prijem podataka, odnosno 210 Mb/s za slanje podataka. Svi mobilni telefoni korišćeni za merenje su radili u režimu automatskog odabiranja tehnologije. Kako bi se omogućilo sveobuhvatno testiranje mreža i korišćenje raspoloživih servisa sa maksimalnim mogućnostima koje mreža pruža, za testiranje svih mobilnih mreža su se koristile SIM kartice sa komercijalnim tarifnim paketima koji pružaju maksimalne mogućnosti krajnjim korisnicima (najveći broj minuta, najveća količina podataka).

Mobilni tarifni paketi koji su se koristili za testiranje mobilnih mreža na walk test lokacijama prikazani su u Tabeli 2.

Tabela 2. Mobilni tarifni paketi – Walk test

Merni sistem se sastojao od ranca (SwissQual Freerider III) opremljenog mernim terminalima koji su omogućavali testiranje svih mrežnih tehnologija sa velikom tačnošću. Za potrebe testiranja govorne usluge, Samsung Galaxy S10 telefoni su neprekidno pozivali jedan drugog unutar iste mreže. Testiranja su se obavljala u M2M (Mobile to Mobile) scenariju između terminala smeštenih u rancu. Samsung Galaxy S9 je korišćen za testiranje usluga prenosa podataka. Za merenja na walk test lokacijama koristio se isti merni scenario za testiranje usluga prenosa govora i prenosa podataka kao za drive test merenja.

Za testiranje radio parametara mobilnih mreža korišćen je skener (Rohde&Schwarz TSME). Za obradu podataka i kreiranje izveštaja korišćen je SwissQual NQDI softverski paket. Dodatno, za analizu i skladištenje podataka tokom obrade korišćeni su sistemski resursi (Data warehouse) kompanije Systemics-PAB.

Merna oprema korišćena za walk test merenja prikazana je na Slici 3.

Sl. 3 Merna oprema korišćena za walk test merenja

Rezultati sprovedenih walk test merenja nisu uzeti u razmatranje prilikom određivanja konačnog rezultata bodovanja izmerenih KPI vrednosti. Uzimajući u obzir obim benchmarking kampanje, broj prikupljenih mernih odbiraka tokom testova na walk test lokacijama nije statistički reprezentativan da bi se ti rezultati uzeli u obzir prilikom izračunavanja konačnog skora.

Metodologija bodovanja

Metodologija bodovanja razvijena je za potrebe rangiranja mobilnih operatora, a nakon benchmarking merenja, kojima se procenjuje percepcija korisnika o kvalitetu korišćenih usluga u mobilnoj mreži: prenosa govora, podataka i video servisa.

Glavne izazove prilikom razvijanja metodologije predstavlja selekcija parametara kvaliteta (KPI – Key Performance Indicator) koji će verno odražavati korisničko iskustvo, kao i razvoj algoritma sa jedinstvenom metrikom kvaliteta – skorom (score), za svakog operatora. Prema metodologiji koju koristi Systemics-PAB, skor reflektuje korisničko iskustvo i probleme u mreži koji dovode do nezadovljstva korisnika.

Skoring metodologija koristi najmanje dve metrike za ocenu svake usluge koja se testira.

Raspoloživost usluge se procenjuje kroz procenat uspešno realizovanih poziva ili sesija prenosa podataka (CSR – Call Success Rate za uslugu prenosa govora, SSR – Session Success Rate za usluge prenosa podataka). Parametri CSR/SSR su indikatori koji se testiraju za sve tipove usluga i definišu se kao odnos uspešnih testova (uspešna uspostava i ispravna terminacija) i svih generisanih testova. Izračunavaju se prema sledećoj formuli:

Druga metrika se odnosi na kvalitet same usluge i zavisi od tipa testa koji se sprovodi. Govorna usluga ocenjuje se kroz kvalitet govornog signala, a usluga prenosa podataka kroz brzinu prenosa podataka, vreme trajanja sesije ili kvalitet video stream-a za testiranje YouTube videa. Za usluge kod kojih je bitno da postoji konzistentan kvalitet usluge, raspoloživost usluge se dodatno ocenjuje merenjem broja odbiraka koji imaju loš kvalitet (govorni odbirci sa vrednostima MOS<2,3 za testiranje govorne usluge, brzina prenosa podataka ispod minimalno očekivanje vrednosti u slučaju testiranja usluga prenosa podataka). Ovim se generalno procenjuje kako mreža održava konzistentnost kvaliteta (distribucija kvaliteta usluge trebalo bi da se kreće oko prosečne vrednosti). 

MOS (Mean Opinion Score) služi za merenje kvaliteta govornih signala. Njime se meri subjektivni osećaj koji slušalac ima o kvalitetu govornog signala. Vrednosti se kreću na skali od 1 do 5, gde 5 predstavlja najbolju vrednost.

Za svaki od parametara kvaliteta (KPI) definisan je prag - minimalno potrebna vrednost da bi se osvojili bodovi. Prag je definisan na osnovu stepena tehnološkog razvoja (minimalno potrebna brzina prenosa podataka za implementaciju 3G/4G tehnologije), kvaliteta usluge (MOS pragovi ispod kojih se signal tretira kao loš), dostupnosti usluge i sl. 

Parametri kvaliteta (KPI) takođe imaju maksimalnu vrednost koja se koristi za bodovanje, što se interpretira kao granica iznad koje korisnici ne razaznaju razliku u kvalitetu usluge, te nema razlike u korisničkoj percepciji. Operatori ne dobijaju dodatne poene ako prekorače definisane maksimalne vrednosti. 

Za svaki KPI se koristi linearna funkcija za izračunavanje osvojenih poena (unutar min – max opsega). Ako je veća KPI vrednost bolja (npr. kvalitet govora ili brzina prenosa podataka), onda se proporcionalno izračunava broj osvojenih poena, a ako je manja vrednost bolja (npr. vreme uspostave poziva), broj osvojenih poena se izračunava obrnuto proporcionalno. 

Na osnovu podataka prikupljenih tokom benchmarking testiranja vrši se rangiranje mobilnih operatora za usluge prenosa govora i podataka. 

Za izračunavanje konačnog rezultata, težinski faktor za govornu uslugu iznosi 40%, a za usluge prenosa podataka 60%.

Prvi korak u izračunavanju konačnog rezultata je izračunavanje rezultata po različitim kategorijama:

• Veliki gradovi
• Mali gradovi
• Putevi

Za ove kategorije izračunavanje se vrši odvojeno, korišćenjem definisanih težinskih faktora i pragova za različite tipove usluga. U ukupnom skoru, sve kategorije su obuhvaćene prema unapred definisanim težinskim faktorima za različite kategorije, i to: Veliki gradovi - 40%, Mali gradovi - 30% i Putevi - 30%. 

Ukupan skor, isto kao i poeni za pojedinačne kategorije, izražava se u procentima i definiše se kao nivo postignutog kvaliteta u odnosu na maksimalno mogući kvalitet. Samim tim, uzimaju se vrednosti od 0 do 100. Dijagram izračunavanja konačnog skora dat je na Slici 1.

Sl. 1 Izračunavanje konačnog rezultata (skora)