Мәліметтерді зерттеу - Data exploration

Мәліметтерді зерттеу бастапқыға ұқсас тәсіл деректерді талдау, осылайша а деректер талдаушысы деректерді басқарудың дәстүрлі жүйелері арқылы емес, деректер базасында не бар екенін және деректердің сипаттамаларын түсіну үшін визуалды зерттеуді қолданады.[1] Бұл сипаттамаларға мәліметтердің мөлшері немесе мөлшері, мәліметтердің толықтығы, мәліметтердің дұрыстығы, деректер элементтері немесе файлдар / кестелер арасындағы ықтимал байланыстар кіруі мүмкін.

Деректерді зерттеу, әдетте, автоматтандырылған және қолмен жүргізілетін жұмыстардың жиынтығы арқылы жүзеге асырылады.[1][2][3] Автоматтандырылған іс-шаралар қамтуы мүмкін деректерді профильдеу немесе деректерді визуалдау немесе кестелік есептер талдаушыға мәліметтерге алғашқы көзқарас пен негізгі сипаттамалар туралы түсінік беру.[1]

Одан кейін көбінесе қолмен беріледі бұрғылау немесе автоматтандырылған әрекеттер арқылы анықталған ауытқуларды немесе заңдылықтарды анықтау үшін деректерді сүзу. Деректерді зерттеу қолмен сценарийлерді және деректерге сұраныстарды қажет етуі мүмкін (мысалы, сияқты тілдерді қолдану) SQL немесе R ) немесе пайдалану электрондық кестелер немесе көруге арналған ұқсас құралдар шикі деректер.[4]

Бұл іс-әрекеттердің барлығы ақыл-ой моделін құруға және талдаушының ойындағы мәліметтерді түсінуге және базисті анықтауға бағытталған метадеректер (статистика, құрылым, қатынастар) әрі қарай талдауда қолдануға болатын мәліметтер жиынтығы үшін.[1]

Деректер туралы алғашқы түсінік пайда болғаннан кейін, деректердің жарамсыз бөліктерін алып тастау арқылы деректерді кесуге немесе жетілдіруге болады (деректерді тазарту ), нашар пішімделген элементтерді түзету және деректер жиынтығы бойынша өзара байланысты анықтау.[2] Бұл процесс анықтаушы деп те аталады деректер сапасы.[4]

Деректерді зерттеу деректерге жасырылуы мүмкін ықтимал қатынастарды немесе түсініктерді анықтау үшін уақытша сұрау мен деректерді визуалдауға сілтеме жасай алады.[1]

Дәстүр бойынша, бұл статистика мамандары үшін басты назар аударатын бағыт болды Джон Туки осы саладағы басты евангелист болу.[5] Бүгінгі күні деректерді зерттеу кең таралған және деректер талдаушыларының назары болып табылады және деректер ғалымдары; соңғысы - бұл кәсіпорындар мен ірі ұйымдардағы салыстырмалы түрде жаңа рөл.

Интерактивті деректерді зерттеу

Деректерді зерттеудің бұл бағыты саласындағы қызығушылықтың аймағына айналды машиналық оқыту. Бұл салыстырмалы түрде жаңа өріс және әлі де дамып келеді.[4] Машиналық оқыту алгоритмі оның негізгі деңгейі ретінде мәліметтер жиынтығын беруге болады және гипотезаның мәліметтер жиынтығы негізінде шындыққа сәйкестігін анықтауға болады. Жалпы машиналық оқыту алгоритмдері мәліметтердегі нақты заңдылықтарды анықтауға бағытталуы мүмкін.[2] Көптеген әдеттегі үлгілерге жатады регрессия және жіктеу немесе кластерлеу, бірақ машинада оқыту арқылы деректерге қолдануға болатын көптеген заңдылықтар мен алгоритмдер бар.

Машиналық оқытуды қолдану арқылы қолмен тексеру, сынақ және қателіктер немесе барлаудың дәстүрлі әдістері арқылы деректерден қиын немесе мүмкін емес болатын заңдылықтарды немесе қатынастарды табуға болады.[6]

Бағдарламалық жасақтама

  • Трифакта - деректерді дайындау және талдау платформасы
  • Паксата - өзіне-өзі қызмет көрсететін деректерді дайындауға арналған бағдарламалық қамтамасыздандыру
  • Альтерикс - деректерді араластыру және деректерді талдаудың кеңейтілген бағдарламасы
  • Microsoft Power BI - интерактивті визуализация және деректерді талдау құралы
  • OpenRefine - деректерді тазартуға және деректерді түрлендіруге арналған ашық бастапқы коды бар жұмыс үстелі қосымшасы
  • Кестелік бағдарламалық жасақтама - деректерді визуализациялаудың интерактивті бағдарламасы

Сондай-ақ қараңыз

Әдебиеттер тізімі

  1. ^ а б c г. e FOSTER Ашық ғылым, Деректерді зерттеу әдістеріне шолу: Stratos Idreos, Olga Papaemmonouil, Surajit Chaudhuri.
  2. ^ а б c Stanford.edu, 2011 Wrangler: деректерді түрлендіру сценарийлерінің интерактивті визуалды спецификациясы, Kandel, Paepcke, Hellerstein Heer.
  3. ^ Арнаб Нанди; Джагадиш. Жетекшілік ететін өзара әрекеттесу: сұрау-нәтиже парадигмасын қайта қарау (PDF). Өте үлкен деректер базасы бойынша халықаралық конференция (VLDB) 2011 ж.
  4. ^ а б c Stanford.edu, IEEE Visual Analytics Science & Technology (VAST), қазан, 2012 Кәсіпорын деректерін талдау және визуалдау: сұхбаттасу., Шон Кандел, Андреас Паепке, Джозеф Хеллерштейн, Джеффри Хир Прок.
  5. ^ Деректерді талдау, Пирсон. ISBN  978-0201076165
  6. ^ Мәліметтерді зерттеу үшін машиналық оқыту