Datu priekšapstrāde
Studiju kursa īstenotājs
Rīga, Anniņmuižas bulvāris 26a, 1. stāvs, 147.a un b kabinets, fizika@rsu.lv, +371 67061539
Par studiju kursu
Mērķis
Datu priekšapstrādes studiju kursa mērķis ir nodrošināt studentus ar būtiskām prasmēm, sagatavot neapstrādātus datus analīzei. Galvenie mērķi ietver: Izpratne par datu pirmapstrādi: izprast datu pirmapstrādes nozīmi un pamatus datu analīzes darba plūsmā. Datu tīrīšana: apgūt metodes, kā apstrādāt trūkstošās vērtības, noņemt dublikātus un labot kļūdas, lai nodrošinātu datu precizitāti un konsekvenci. Datu transformācija: pārveidot datus piemērotos formātos analīzei, tostarp normalizēšanu, mērogošanu un kategorisko mainīgo kodēšanu. Iezīmju inženierija: izveidot jaunas funkcijas no esošajiem datiem, lai uzlabotu modeļa veiktspēju. Nederīgu datu apstrāde: noteikt un pārvaldīt nederīgus datus, lai novērstu novirzes analīzes gaitā. Datu integrācija un samazināšana: apvienot datus no dažādiem avotiem un samazāt izmērus efektīvai analīzei. Praktiskā pieredze: iegūt praktisku pieredzi ar reālās pasaules datu kopām, izmantojot nozares standarta rīkus un programmatūru. Paraugprakse un rīki: apgūt paraugpraksi un iepazīties ar rīkiem un bibliotēkām, piemēram, Python's Pandas, R un SQL. Sagatavošanās uzlabotai analīzei: nodrošināt gatavību veikt papildu datu analīzes uzdevumus, piemēram, mašīnmācīšanos un statistisko analīzi. Ētiskie apsvērumi: pārrunāt ētiskos aspektus, tostarp datu privātumu un drošību pirmapstrādes laikā. Kursa beigās studējošie spēs pārliecinoši sagatavot neapstrādātus datus dažādām analītiskām lietojumprogrammām, nodrošinot, ka tie ir tīri, labi strukturēti un gatavi lietošanai.
Priekšzināšanas
Zināšanas informātikā vidusskolas līmenī.
Studiju rezultāti
Zināšanas
1.Pēc studiju kursa "Datu priekšapstrāde" apguves studenti iegūs padziļinātas zināšanas par datu priekšapstrādes metodēm un tehnikām dažādos datu formātos un nesējos, izpratīs datu kvalitātes nozīmi un to ietekmi uz datu analīzi.
Prasmes
1.Studiju kursa laikā studējošie attīstīs praktiskas prasmes datu importēšanā, tīrīšanā, transformācijā un iezīmju ekstrakcijā no dažādiem datu avotiem un formātiem. Spēs veikt trūkstošo vērtību apstrādi, anomāliju noteikšanu un risināt datu nesabalansētības problēmas.
Kompetences
1.Pabeidzot studiju kursu, studējosie būs kompetenti veikt pilnu datu priekšapstrādes ciklu dažādos projektos, efektīvi risinot reālās pasaules problēmas, spēs pielāgoties dažādiem datu tipiem un apstrādes izaicinājumiem, izstrādāt automatizētus risinājumus un sagatavot datus tālākai analīzei un modelēšanai. Studējošie būs gatavi strādāt datu zinātnes un analītikas jomās, pielietojot iegūtās zināšanas un prasmes profesionālajā vidē.
Vērtēšana
Patstāvīgais darbs
|
Virsraksts
|
% no gala vērtējuma
|
Vērtējums
|
|---|---|---|
|
1.
Patstāvīgais darbs |
30,00% no gala vērtējuma
|
Ieskaite
|
|
Studējošie patstāvīgi izpilda praktiskos uzdevumus un iesniedz praktisko darbu atskaites e-studiju vidē. |
||
Pārbaudījums
|
Virsraksts
|
% no gala vērtējuma
|
Vērtējums
|
|---|---|---|
|
1.
Pārbaudījums |
70,00% no gala vērtējuma
|
10 balles
|
|
Izstrādāt projektu, kurā studējošie veic datu kopas datu priekšapstrādi. Projekta prezentēšana un rezultātu izvērtēšana. |
||
Studiju kursa tēmu plāns
-
Lekcija
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
2
|
Tēmas
|
Datu zinātnes pamatnosacījumi (L1). PACE stratēģija. Datu sagatavošana analīzei. Priekšapstrādes nozīme datu analīzē un mašīnmācīšanās procesos. No neapstrādātiem datiem līdz gataviem datiem: galvenie soļi un metodes. Datu tipi un formatēšana.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Datu priekšapstrādes pamati (P1). No izejas datiem līdz sagatavotiem datiem. Sākotnējā datu izpēte un analīze. Pazīmju izvērtēšana un sākotnējās problēmas.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Aprakstošā statistika kā kvalitātes kontrole (P2). Aprakstošās statistikas pamatjēdzieni un rādītāji. Datu aprakstīšanas un apkopošanas principi. Centrālās tendences un izkliedes rādītāju aprēķināšana un interpretācija. Datu sadalījuma, anomāliju un noviržu identificēšana. Aprakstošās statistikas izmantošana datu kvalitātes novērtēšanā un kontrolē.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Datu tipu konvertācija un kategoriju harmonizēšana (P4). Vienotu datu tipu un mērvienību nodrošināšana datu kopā. Datu normalizācijas un mērogošanas metodes. Kategorisko datu standartizēšana un harmonizēšana starp dažādiem datu avotiem. Kategoriju kodēšanas pieejas un to pielietojums statistiskajā analīzē un mašīnmācīšanās modeļos. Datu salīdzināmības, konsekvences un analīzes kvalitātes nodrošināšanas principi.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Jaunu grupu veidošana, filtrēšana un darbs ar datuma laukiem (P5). Jaunu mainīgo un riska grupu veidošana, izmantojot loģiskos nosacījumus un atvasinātos rādītājus. Datu filtrēšanas un atlases principi, izmantojot vienkāršos un paplašinātos filtrus. AND/OR loģikas pielietošana medicīnisku kritēriju definēšanā.
Apraksts
Darbs ar datuma laukiem un datumu formātu harmonizēšana. Vecuma, laika intervālu, sezonu un citu atvasinātu mainīgo aprēķināšana no datuma datiem. Datuma lauku kvalitātes pārbaude un praktiska izmantošana pacientu grupēšanā un datu analīzē. |
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Outliers un kļūdainu vērtību filtrēšana, datu kopu apvienošana (P6). Izlecošo vērtību (outliers) un kļūdainu datu identificēšanas principi. Loģisko robežvērtību, statistisko kritēriju (Z-score, IQR) un klīniskā konteksta izmantošana datu kvalitātes novērtēšanā. Neatbilstošu un ekstrēmu vērtību filtrēšana, klasificēšana un dokumentēšana.
Apraksts
Datu kopu apvienošanas pamatprincipi, kopīgo identifikatoru izmantošana un datu konsistences nodrošināšana. Dažādu datu apvienošanas veidu (join) pielietošana, dublikātu kontrole un apvienoto datu kvalitātes pārbaude. |
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Trūkstoši dati, dublikāti un konsistence (P3). Datu sakārtošanas prasmes. Datu pārveidošana un manipulēšana. Datu filtrēšana, atlase un grupēšana. Datu trūkumu identificēšana un aizpildīšana (imputācija). Dubultošanos un neatbilstošu vērtību novēršana. Datu kvalitātes nodrošināšanas metodes.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Datu samazināšana un balansēšana (P7). Augstas dimensionalitātes datu raksturojums un dimensiju samazināšanas metodes. Iezīmju atlases (Feature Selection) un iezīmju izvilkšanas (Feature Extraction) pieejas, to pielietojums statistiskajā analīzē un mašīnmācīšanā. Datu sadalīšanas principi reprezentatīvu izlašu veidošanai un modeļu apmācībai.
Apraksts
Datu balansēšanas nepieciešamība nelīdzsvarotu klašu gadījumā. Balansēšanas metodes, to priekšrocības un ierobežojumi medicīnas datu analīzē un prognozējošo modeļu izstrādē. |
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Apkopojums un nākamie soļi (P8). Datu priekšapstrādes procesa galveno posmu atkārtojums un sistematizēšana. Datu kvalitātes principu, biežāk sastopamo problēmu un to risināšanas pieeju apkopošana. Nozares datu iegūšanas resursi un publiski pieejamās datubāzes. Ievads statistikas programmatūrā, datu vizualizācijā un programmēšanas rīkos (Google Colab) datu apstrādei.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Praktiskā datu priekšapstrāde (P9). Pielietojumi reālajā dzīvē. Datu tīrīšana un transformācija reālos projektos. Datu sagatavošana gala rezultātu iegūšanai.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Sensitīvu datu apstrāde (P10). Sensitīvu datu veidi, to identificēšana un klasifikācija medicīnas un pētniecības datos. Personas datu aizsardzības principi, VDAR (GDPR) prasības un ētiskie aspekti darbā ar sensitīvu informāciju. Drošas datu glabāšanas, piekļuves kontroles un šifrēšanas pamatprincipi. Pseidonimizācijas un anonimizācijas metodes, to pielietojums un ierobežojumi. Sensitīvu datu aizsardzības risinājumi datu apstrādes, analīzes un koplietošanas procesos.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Projekts (P11). Datu kopas datu priekšapstrāde. Datu tīrīšana, transformācija un sagatavošana datu analīzei. Projekta prezentēšana, rezultātu izvērtēšana un iegūto prasmju pielietošana.
|
-
Nodarbība/Seminārs
|
Modalitāte
|
Norises vieta
|
Kontaktstundas
|
|---|---|---|
|
Klātiene
|
Auditorija
|
3
|
Tēmas
|
Projekts (P12). Datu kopas datu priekšapstrāde. Datu tīrīšana, transformācija un sagatavošana datu analīzei. Projekta prezentēšana, rezultātu izvērtēšana un iegūto prasmju pielietošana.
|
Bibliogrāfija
Obligātā literatūra
Hands-On Data Preprocessing in Python. EBSCOhost Ebook Academic Collection, 2022.Piemērots angļu valodas plūsmai