DeepPeep - DeepPeep

DeepPeep болды іздеу жүйесі бағытталған тексеріп шығу және индекс жалпыға қол жетімді Интернеттегі барлық мәліметтер базасы.[1][2] Қолданыстағы веб-парақтарды және олардың сілтемелерін қарап шығатын дәстүрлі іздеу жүйелерінен айырмашылығы, DeepPeep деп аталатындарға қол жеткізуге мүмкіндік берді Терең веб, Дүниежүзілік Интернет желісінің мазмұны мәліметтер базасына мысалы түрінде терілген сұраулар арқылы ғана қол жетімді.[3] Жоба басталды Юта университеті және бақыланды Джулиана Фрейр, университеттің WebDB есептеу мектебінің доценті.[4][5] Мақсат WWW мазмұнының 90% -ын қол жетімді ету еді, дейді Фрейр.[6][7] Жоба бета-іздеу машинасын іске қосты және Юта Университетінің демеушісі болды және $ 243,000 грантын иеленді Ұлттық ғылыми қор.[8] Бұл бүкіл әлемде қызығушылық тудырды.[9][10][11][12][13]

Бұл қалай жұмыс істейді

Ұқсас Google, Yahoo және басқа іздеу жүйелері, DeepPeep пайдаланушыларға кілт сөзін теруге мүмкіндік береді және кілт сөзіне қатысты сілтемелер мен мәліметтер базасының тізімін қайтарады.

Алайда, DeepPeep пен басқа іздеу жүйелерін бөліп тұрған нәрсе - бұл DeepPeep пайдаланушыларға оңай қол жетімділікті қамтамасыз ету үшін веб-пішіндерді табу, талдау және жүйелеу үшін ACHE тексергішін, 'Иерархиялық форманы анықтау', 'Контекстен хабардар форманы кластерлеу' және 'LabelEx' пайдаланады.[14]

ACHE шынжыр табанды

ACHE Crawler сілтемелерді жинау үшін пайдаланылады және сілтемелерді жинау жылдамдығын арттыратын оқыту стратегиясын қолданады, өйткені бұл тексерушілер іздеуді жалғастырады. ACHE Crawler-ді басқа тексерушілерден ерекшелігі - басқа тексерушілердің белгілі бір қасиеттері немесе кілт сөздері бар веб-парақтарды жинайтын бағытталған тексерушілер болып табылады. Ache Crawlers орнына доменнің маңызды емес беттерін сұрыптауға мүмкіндік беретін парақ жіктеуішін, сонымен қатар сілтемені тақырыпқа ең жоғары сәйкестігі бойынша бағалайтын сілтеме жіктеуішін қосады. Нәтижесінде ACHE Crawler алдымен маңыздылығы жоғары веб-сілтемелерді жүктейді және маңызды емес деректерді жүктемей ресурстарды үнемдейді.[15]

Иерархиялық форманы идентификациялау

Сәйкес емес сілтемелер мен іздеу нәтижелерін одан әрі жою үшін DeepPeep веб-сайттың құрылымы мен мазмұнына негізделген сілтемелер мен іздеу нәтижелерін жіктейтін HIerarchical Form Identification (HIFI) шеңберін қолданады.[14] Ұйымдастыру үшін тек веб-форма жапсырмаларына тәуелді классификацияның басқа түрлерінен айырмашылығы, HIFI жіктеу үшін веб-форманың құрылымы мен мазмұнын пайдаланады. Осы екі жіктеуішті қолдана отырып, HIFI веб-формаларды мақсатты кілт сөзіне сәйкестігін анықтайтын иерархиялық тәртіпте веб-формаларды ұйымдастырады.[16]

Мәтінмәндік кластерлеу

Егер қызығушылық домені болмаса немесе көрсетілген доменде бірнеше анықтама түрлері болса, DeepPeep веб-пішінді бөліп, оларды ұқсас домендерге кластерлеуі керек. Іздеу жүйесі веб-форманы гипер сілтемелер жиынтығына модельдеу және оның контекстін салыстыру арқылы бір домендегі ұқсас сілтемелерді топтастыру үшін контекстті білетін кластерлеуді қолданады. Күрделі белгілерді шығаруды және веб-формаларды қолмен алдын-ала өңдеуді қажет ететін басқа әдістерден айырмашылығы, контекстке байланысты кластерлеу автоматты түрде жүзеге асырылады және мазмұнға бай және бірнеше атрибуттары бар веб-формаларды өңдеу үшін мета-деректерді пайдаланады.[14]

LabelEx

DeepPeep бұдан әрі деп аталатын ақпаратты шығарады Мета-деректер LabelEx көмегімен сілтемелер мен мәліметтер базаларын жақсартуға, метамәліметтерді автоматты түрде ыдыратуға және шығаруға арналған тәсіл. Мета-деректер - бұл басқа домендер туралы ақпарат беретін веб-сілтемелердің деректері. LabelEx элемент-жапсырма картографиясын анықтайды және қолмен арнайы экстракция ережелерін қолданатын әдеттегі тәсілдерден айырмашылығы мета-деректерді дәлдікпен шығару үшін картаны қолданады.[14]

Рейтинг

Іздеу нәтижелері пайдаланушы өзінің кілт сөзін енгізгеннен кейін пайда болған кезде, DeepPeep сілтемелерді үш ерекшелікке негіздейді: терминдік мазмұн, саны кері сілтемелер. және пейджеранк. Біріншіден, мазмұн термині веб-сілтеме мазмұнымен және оның өзектілігімен анықталады. Кері сілтемелер - бұл пайдаланушыны басқа веб-сайтқа бағыттайтын сілтемелер немесе сілтемелер. Пейджеранктер - бұл іздеу жүйесінің нәтижелеріндегі веб-сайттардың рейтингі және оның маңыздылығын анықтау үшін веб-сайтқа сілтемелердің саны мен сапасын есептеу арқылы жұмыс істейді. Пейджеранк және сілтеме туралы ақпарат сыртқы көздерден алынады, мысалы Google, Yahoo, және Bing.[14]

Бета іске қосу

DeepPeep Beta іске қосылды және тек жеті доменді қамтыды: авто, авиабилеттер, биология, кітап, қонақ үй, жұмыс және жалдау. Осы жеті домен бойынша DeepPeep 13000 веб-формаға қол жеткізуге мүмкіндік берді.[17] Deeppeep.org веб-сайтына кіруге болады, бірақ бета-нұсқасы жойылғаннан кейін веб-сайт белсенді болмады.

Әдебиеттер тізімі

  1. ^ Райт, Алекс (2009-02-22). «Google түсіне алмайтын» терең вебті «зерттеу». The New York Times. Алынған 2009-02-23.
  2. ^ Франке, Сюзанна (2009-02-24). «DeepPeep: Forscher Datenbanken im Web zugänglich machen» [DeepPeep: Зерттеушілер жасырын мәліметтер базасын интернетте қол жетімді еткісі келеді]. Комп. Ztg. Алынған 2009-02-25 - lanline.de арқылы.
  3. ^ Уорвик, Мартин (2009-02-25). «DeepPeep жасырын вебке жарық береді». TelecomTV. Алынған 2009-02-25.[тұрақты өлі сілтеме ]
  4. ^ Савант, Нимиш (2010-03-09). «Терең торды тексеріп шығу». LiveMint. Жалбыз. Алынған 2010-12-13.
  5. ^ «Басты бет». WebDB. Юта Университетінің есептеу мектебі. 2008-10-04. Архивтелген түпнұсқа 2009-02-27. Алынған 2009-02-23.
  6. ^ Пихлер, Томас (2009-02-23). «Tiefen des Internets-тегі мұндай ерлер: Эрфоршен фон Датенбанкен және басқа Виктор Шритт» [Іздеу фразалары Интернеттің тереңдігіне енеді: Маңызды қадам ретінде мәліметтер базасын зерттеу] (неміс тілінде). Баспасөз. Алынған 2009-02-23.
  7. ^ «Suchansätze dringen in die Tiefen des Internets» [Іздеу фразалары Интернеттің тереңіне енеді]. nachrichten.ch (неміс тілінде). 2009-02-24. Архивтелген түпнұсқа 2011-07-07. Алынған 2010-12-13.
  8. ^ «Сыйлық № 0713637: III-COR: Жасырын веб-дереккөздерді табу және ұйымдастыру». NSF марапаттарын іздеу. Ұлттық ғылыми қор. Алынған 2009-02-23.
  9. ^ «Esplorando il DeepWeb, мен Google-дың келмейтіндігіне байланысты көгершін» [DeepWeb-ті зерттеу, Google-дің келмейтін жерінің тереңдігі]. Liberta di Stampa Dir'to all'Informazione (Бұл Нью-Йорк Таймстың Алекс Райттың «Google түсіне алмайтын» терең торды зерттеу «мақаласының итальян тіліне аудармасы) (итальян тілінде). Италия. 2009-04-05. Алынған 2009-03-05.
  10. ^ Шандор, Берта (2009-02-24). «DeepPeep-ті интернетке қосу қажет» [DeepPeep тереңдігін зерттейтін интернет]. сг.ху (венгр тілінде). SG (Венгрия). Алынған 2009-03-05.
  11. ^ «Niet alles Google-мен кездесті» [Google-мен бәрін табу мүмкін емес] (голланд тілінде). Голландиялық ковбойлар. 2009-03-04. Алынған 2009-03-05.
  12. ^ «探索 谷 歌 尚未 把持 的 '深层 网络'" [Google-де әлі үстемдік етпеген 'терең желіні' зерттеңіз] (Бұл Нью-Йорк Таймстің «Алекс Райттың» Google түсіне алмайтын «терең торды зерттеу» мақаласының қытайша аудармасы) (қытай тілінде). 2006-03-03. Архивтелген түпнұсқа 2011-07-07. Алынған 2009-03-05.
  13. ^ «Sfida al deep web: la Kosmix prova a svelare le pagine nascoste di internet» [Терең торға шақыру: Kosmix интернеттің жасырын беттерін ашуға тырысады]. Messagg. 2009-02-23. Архивтелген түпнұсқа 2012-08-04. Алынған 2010-12-13.
  14. ^ а б c г. e Барбоса, Лучано; Нгуен, Хоа; Нгуен, Тхань; Пиннаманени, Рамеш; Фрайр, Джулиана (2010-01-01). «Веб-форма репозитарийлерін құру және зерттеу». Деректерді басқару бойынша 2010 ACM SIGMOD Халықаралық конференциясының материалдары. SIGMOD '10. Нью-Йорк, Нью-Йорк, АҚШ: ACM: 1175–1178. дои:10.1145/1807167.1807311. ISBN  9781450300322.
  15. ^ «ViDA-NYU / ache». GitHub. Алынған 2016-11-06.
  16. ^ Дуйгулу, Пинар (1999-12-22). «Сәйкестендіру және іздеу үшін формалық құжаттарды иерархиялық ұсыну». SPIE туралы материалдар. 3967 (1). дои:10.1117/12.373486. ISSN  0277-786X.
  17. ^ Бекетт, Энди (2009-11-25). «Интернеттің қараңғы жағы». The Guardian. ISSN  0261-3077. Алынған 2016-11-06.

Сыртқы сілтемелер

  • DeepPeep.org сайты, 2016 жылдың қарашасында өлі күйінде табылған, сайт қатысты Register.com. Соңғы «Мұрағатталған көшірме». 2012-05-09 ж. Түпнұсқасынан мұрағатталған. Алынған 2009-02-23.CS1 maint: тақырып ретінде мұрағатталған көшірме (сілтеме) CS1 maint: BOT: түпнұсқа-url күйі белгісіз (сілтеме).