MapR FS - MapR FS

MapR FS ерекшеліктері
ӘзірлеушілерMapR
Толық атыMapR FS
Таныстырылды2011 ж Linux
Құрылымдар
Каталог мазмұныB ағашы
Файлды бөлуКөп деңгейлі B ағашы
Шектер
Макс. көлем мөлшерішектеусіз
Макс. файл өлшемі16 EiB
Макс. файлдар санышектеусіз
Ерекшеліктер
Файлдық жүйеге арналған рұқсаттарСтандартты Unix, Access Control өрнектері
Мөлдір қысуИә
Мөлдір шифрлауИә
Басқа
Қолдау көрсетіледі операциялық жүйелерLinux

The MapR файлдық жүйесі (MapR FS) Бұл кластерлік файлдық жүйе ол үлкен масштабты және жоғары өнімді қолдануды қолдайды.[1] MapR FS әртүрлі интерфейстерді қолдайды, соның ішінде NFS және FUSE интерфейсі арқылы файлдарды оқуға / жазуға дәстүрлі қол жетімділік, сонымен қатар көптеген жүйелер пайдаланатын HDFS интерфейсі арқылы. Apache Hadoop және Apache Spark.[2][3] Файлға бағытталған қол жетімділіктен басқа MapR FS кесте мен хабарлама ағындарына Apache HBase және Апачи Кафка API интерфейстері, сондай-ақ құжаттар базасының интерфейсі арқылы.

Алғаш рет 2010 жылы шығарылды,[4] MapR FS қазір әдетте кестелік және хабарламалық интерфейстерді қосқанда MapR Converged Data Platform деп аталады. Деректерді сақтаудың барлық осы формаларын енгізу үшін бірдей негізгі технология қолданылады, ал барлық интерфейстер, сайып келгенде, бірдей серверлік процестермен қолдау табады. Жалпы мәліметтер платформасының әртүрлі мүмкіндіктерін ажырату үшін MapR FS термині файлға бағытталған интерфейстерге, MapR DB немесе MapR JSON DB кестелік интерфейстерге, ал MapR Streams хабарлама ағындарын сипаттау үшін қолданылады. мүмкіндіктері.

MapR FS - бұл жүйенің кез келген клиентіне қол жетімді әмбебап ат кеңістігін қолданатын кестелер сияқты файлдарға және басқа объектілерге / файлдарға біркелкі қол жеткізуді қамтамасыз ететін кластерлік файл жүйесі. Қатынауды басқару файлдар, кестелер және ағындар үшін де ұсынылған қатынасты басқару өрнектері, неғұрлым кеңейтілген (және шектеулі) кеңейту болып табылады қол жетімділікті басқару тізімі рұқсаттарға рұқсат етілген пайдаланушылар немесе топтар тізімі ғана емес, сонымен қатар пайдаланушы идентификаторы мен топтарының логикалық тіркесімдеріне рұқсат беру үшін рұқсат беру.

Тарих

MapR FS 2009 жылдан бастап әзірленді MapR Мүмкіндіктерін кеңейтуге арналған технологияларApache Hadoop неғұрлым тиімді және тұрақты платформа ұсыну арқылы. MapR FS дизайнына әртүрлі басқа жүйелер әсер етеді Эндрю файлдық жүйесі (AFS). AFS-тегі көлемдер ұғымы қолданушылар тұрғысынан қатты ұқсастыққа ие, дегенмен MapR FS-де іске асыру мүлдем өзгеше. AFS пен MapR FS арасындағы бір үлкен айырмашылық - бұл соңғысы күшті консистенция моделін қолданады, ал AFS тек әлсіз консистенцияны қамтамасыз етеді.

Hadoop бағдарламаларын қолдаудың бастапқы мақсаттарына жету үшін MapR FS HDFS функциясын қолдана отырып, HDFS функциясының шақыруларын ішкі API-ге аудару арқылы қолданады қашықтағы процедураны шақыру (RPC) механизмі. HDFS-дің бір рет жазылатын қалыпты моделі MapR FS-де HDFS API қолданған кезде де толық өзгертілетін файлдық жүйемен ауыстырылады. Filemutation қолдау мүмкіндігі NFS операцияларын ішкіMapR RPC қоңырауларына аударатын NFS серверін жүзеге асыруға мүмкіндік береді. Ұқсас механизмдер а Пайдаланушылар кеңістігіндегі файлдар жүйесі (FUSE) интерфейсі және шамамен эмуляциясы Apache HBase API.

Сәулет

MapR FS ішіндегі файлдар файл мазмұнын екіге бөлу арқылы жүзеге асырылады кесектер, әдетте әрқайсысының өлшемі 256 МБ, бірақ өлшемі әр файлға тән. Әрбір бөлікке жазыладыконтейнерлер кластердегі репликация элементі болып табылады. Контейнерлер көбейтіледі және реплика сызықтық тәсілмен жүзеге асырылады, мұнда әрбір реплика келесі реплика бойынша кезектегі операцияларды жазады немесе басты реплика операцияны барлық басқа репликаларға бір уақытта жазатын жұлдыз тәрізді. Барлық көшірмелер аяқталғаннан кейін жазбалар негізгі көшірмемен танылады. Ішкі контейнерлер жүзеге асырылады B ағаштары олар бірнеше деңгейлерде қолданылады, мысалы, файл ішіндегі файлдың орнын ауыстыруды картаға немесе файл ішіндегі офсетті дұрыс 8kBblock-ге салыстыру үшін.

Бұл В-ағаштар каталогтарды енгізу үшін де қолданылады. Бала файлын немесе каталог кестесін табу үшін каталогтағы әр файлдың немесе каталог атауының ұзақ хэші қолданылады.

Көлем - бұл көптеген жолдармен каталогқа ұқсас мәліметтер құрылымы, тек қосымша қол жетімділікті басқару мен басқаруға мүмкіндік береді. Көлемдердің белгілі бір қабілеттілігі - бұл кластерде көлем болуы мүмкін кодекстерді өнімділікті басқаруға, әсіресе әр түрлі жұмыс жүктемелерін орындайтын, көп даулы жүйелерде шектеуге болады.

Меншікті технология MapR FS-де контейнерлерде транзакцияларды жүзеге асыру және апаттың тұрақты қалпына келуіне қол жеткізу үшін қолданылады.

Файлдық жүйенің басқа ерекшеліктеріне кіреді[5]

  • Барлық контейнерлердің орналасуын және олардың реплика тізбегіне орналасуын қоса, бөлінген кластерлік метадеректер.
  • Таратылған метадеректер, соның ішінде каталогтар ағашы. Барлық каталогтар толығымен көшіріледі және бірде-бір түйін кластерге арналған барлық мета-деректерді қамтымайды.
  • Өте үлкен каталогтардың көмегімен жоғары өнімділікке жету үшін В-ағаштарын тиімді пайдалану.
  • Бөлімдерге төзімділік. Кластерді консистенциясын жоғалтпастан бөлуге болады, дегенмен қол жетімділігі бұзылуы мүмкін. Бірнеше кластерлер бойынша шектеулі консистенцияны репликалауға көлем айналары және кестелер мен ағындардың нақты уақыттағы көшірмелері арқылы қолдау көрсетіледі.
  • Тұрақты көп ағынды жаңарту. Файлдар бір уақытта басқарудың көптеген тізбектерімен жаһандық құлыптау құрылымдарын қажет етпестен жаңартылуы немесе оқылуы мүмкін.
  • Жаңарту және файлдық жүйеге онлайн қызмет көрсету. Барлық дерлік техникалық қызмет көрсетуді, соның ішінде негізгі нұсқаларын жаңартуды кластер толық жылдамдықта жұмыс істеп тұрған кезде орындауға болады.

Сондай-ақ қараңыз

Әдебиеттер тізімі

  1. ^ Бреннан, Боб. «Flash Memory Summit». youtube. Samsung. Алынған 21 маусым, 2016.
  2. ^ Даннинг, Тед; Фридман, Эллен (қаңтар 2015). «3 тарау: Apache Hadoop үшін MapR таралуын түсіну». Нақты әлем Hadoop (Бірінші басылым). Себастополь, Калифорния: O'Reilly Media, Inc. 23-28 бет. ISBN  978-1-491-92395-5. Алынған 21 маусым, 2016.
  3. ^ Перес, Николас. «MapR өнімділікті қалай жақсартады және дизайнды жеңілдетеді». Орташа. Орташа. Алынған 21 маусым, 2016.
  4. ^ «MapR 1.0 шығарылымы туралы ескертпелер». MapR құжаттамасы. MapR. Алынған 21 маусым, 2016.
  5. ^ Шривас, MC. «MapR файлдық жүйесі». Hadoop Summit 2011. Hortonworks. Алынған 21 маусым, 2016.

Сыртқы сілтемелер