首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
V2EX  ›  问与答

搜索引擎超过 10 页以后的数据,有必要索引吗?

  •  
  •   okwork · 115 天前 via Android · 3144 次点击
    这是一个创建于 115 天前的主题,其中的信息可能已经有所发展或是发生改变。
    1 很少有用户翻到 10 页以后
    2 数据准确性几乎没有可参考价值
    3 广告位也卖不出去

    只保留 10 页以内的数据,远比保存几百、几千页数据存储和索引的效率都高很多。10 页以后的数据价值可能只有 10 页内的 1%都不到吧,有必要索引吗?
    36 回复  |  直到 2019-07-22 08:53:32 +08:00
        1
    opengps   115 天前 via Android   ♥ 1
    必要性还是有的,很多行业资料少的可怜,需要翻遍所有结果,更换各种关键字。
    搜索引擎的收录量也是用户选择的参考
        2
    hoyixi   115 天前
    全国 10 亿人,只准 1000w 人上学,标准那啥定, 你愿意吗?
        3
    nethard   115 天前 via iPhone
    用户搜索的时候又不是只输入一个关键字,多个关键字用空格分开的时候,即使单个关键字索引很靠后的站点也能排在前面。
        4
    wangxiaoaer   115 天前 via Android   ♥ 15
    大哥,你是来搞笑的吗?

    搜索引擎建索引的时候怎么知道某条记录的页数?

    所谓的页数只有在给定关键字的时候才有意义啊
        5
    delectate   115 天前
    对于百度来说,第一页也没有任何参考价值哦。这边建议您用 bing 或者 google 呢。
        6
    okwork   115 天前 via Android
    @wangxiaoaer 建立索引是反向的,呈现结果当然能按权重控制输出页数。
        7
    zhidian   115 天前 via Android
    我啥都不懂,但似乎应该是索引了它才被放到第十页的
        8
    binux   115 天前   ♥ 1
    @okwork 权重是和关键词相关的,不知道关键词,你怎么能知道权重的?
        9
    lylsh1993   115 天前 via iPhone
    对特定网站搜索可能会翻很多页
        10
    okwork   115 天前 via Android
    @binux Pagerank,超链分析,域名 URL 权重,内容查重,文本分析等,这些都可以判断权重。
        11
    binux   115 天前 via Android   ♥ 1
    @okwork #10 但是展示的时候权重最大的是相关性啊!!!
        12
    okwork   115 天前 via Android
    @binux 李鬼可以把 SEO 相关性做到最高。
        13
    binux   115 天前
    @okwork 那和你‘搜索引擎超过 10 页以后的数据’有什么关系吗?
        14
    wangxiaoaer   115 天前   ♥ 3
    @okwork #6 建立索引是反向的,呈现结果当然能按权重控制输出页数。


    ------------------

    现在的搜索结果本身就是按照权重排序输出的,但这个权重是动态的,你所谓的“ Pagerank,超链分析,域名 URL 权重,内容查重,文本分析”这些是相对静态的。

    10 页以后可以不展示,但这是搜索阶段的控制,索引建立跟这个是两个独立的阶段。

    举个例子,搜索关键词 A 的时候某个 11 页的内容,你认为不应该建立索引,但是搜索关键词 B 的时候,这条内容本应该出现在 10 页以内,结果因为没索引所以搜索不到,你觉得合理吗?

    -----------------

    另外看了你的回复,建议你提高些逻辑思维能力。
        15
    okwork   115 天前 via Android
    @wangxiaoaer 搜索引擎是个复杂的工程,意见相左没关系,就事论事的交流。


    教别人做人之前,请先秀一下你的智商。
        16
    wangxiaoaer   115 天前 via Android
    @okwork 我没教你做人,我只是让你自己把逻辑练一练。

    你自己看看 10 11 12 楼的回复,心疼 binux
        17
    iyaozhen   115 天前 via Android
    @wangxiaoaer 心疼

    我就问楼主,一个网页 1,在 a 关键词拍第一页,在 b 关键词拍第十一页,你怎么判断?遍历所有关键词?
        18
    summerwar   115 天前
    你不能因为吃到第十个馒头饱了,就说前面的九个都白吃了。你的这个问题跟这个道理差不多
        19
    vindurriel   115 天前 via iPhone   ♥ 1
    您的建议在一种情况下是可行的 那就是关键词可穷举 不过这样的系统一般不叫搜索引擎 叫排行榜 data cube 等等
        20
    LongLights   115 天前 via Android   ♥ 1
    数据先被索引才被排序的。。。你从排序结果推索引与否,那你做的东西就不是现在说的搜索引擎了,是目录搜索
        21
    LongLights   115 天前 via Android
    @wangxiaoaer 顺便心疼老哥
        22
    trcnkq   115 天前   ♥ 1
    喜欢看这种抬杠抬一半自己想明白了却找不到台阶下的
        23
    misaka19000   115 天前 via Android
    楼上干嘛呢都,索引的时候只有权重信息,搜索的时候才有页数的概念
        24
    rexyan   115 天前
    一般不用 from,size 进行分页吧,只是默认结果是 10 页而已。多用 score 查询。还有就是多用 filter 之类的带缓存的过滤器。
        25
    jfdnet   115 天前
    搜索自然会索引所有的资料。分页只是页面的一种组织形式,你也可以滚动啊。
        26
    mumbler   115 天前
    索引肯定要全部,否则怎么知道哪些结果该排前面,但只显示前多少页,减少反向索引缓存数据量
        27
    goodan   115 天前 via Android
    @trcnkq 描述精准哈哈哈
        28
    loading   115 天前 via Android
    请各位点“忽略主题”
        29
    akira   115 天前
    如果互联网是禁止不变的,永远没有新增内容,没有变化
        30
    huyi23   115 天前
    lz 别跟一群键盘侠 bb
    阿里云的 open search 就不支持 5000 以外的数据
        31
    pandachow   114 天前
    心疼两位,lz 真的应该好好锻炼一下逻辑。。。
        32
    Milomide   114 天前
    可以有但没必要。。
        33
    dezhou   114 天前 via Android
    前提是是否有人看第十一页,有就会缓存
        34
    FrankFang128   114 天前
    显然,对于 Google 来说,显示后面页数并没有什么成本,因为你只有遍历所有页面之后,才能知道前十页的结果是什么。而且前十页的结果也是动态变化的。所以 Google 总归是要存更多结果的。
        35
    encro   114 天前
    搜索引擎大概分为几个部分:
    蜘蛛:爬取内容
    仓库:存储原始数据(磁盘)
    索引:将数据以特定的结构保存进行存储,以便于检索(内存)
    检索:根据各项权重对数据进行取出和排序


    你问的是索引,就是将文章按照关键词保存在内存,当然是除了一些辅助词之外,其他的词都有建立索引的。
    如果你问检索,也基本是一样的,只有检索完所有索引和附加字段,才知道哪些是关联性最高的,可以排在前面。
        36
    petelin   114 天前 via iPhone
    索引自然需要 展示 10 页是代码上选择问题 你还可以每天索引一遍全部的 然后想个办法每个关键词都取前 10 页的数量 剩下的 document 都删掉

    这个成本也不比全量保存好
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2691 人在线   最高记录 5043   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 23ms · UTC 13:01 · PVG 21:01 · LAX 05:01 · JFK 08:01
    ♥ Do have faith in what you're doing.