会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 小红书将业界最大数据湖迁至阿里云!

小红书将业界最大数据湖迁至阿里云

时间:2024-12-26 15:12:36 来源:得道多助网 作者:综合 阅读:181次

记者获悉,小红经过一年奋战,书将数据小红书已把业界体量最大的业界数据湖0故障迁上阿里云。据统计,最大至该项目共有1500人参与,湖迁迁移数据500PB。小红

作为中国头部互联网公司之一,书将数据小红书月活已过3亿,业界其数据湖存储了过去11年的最大至所有原始数据,包括结构化、湖迁半结构化和非结构化数据。小红近年来,书将数据随着业务的业界高速增长,小红书在线处理数据的最大至需求不断增加,同时离线处理所积累的湖迁历史问题,也会在未来的切换中带来更多成本与风险。

小红书将业界最大数据湖迁至阿里云

为此,2023年11月,小红书发起迁云项目——计划一年内,把小红书的数据湖搬上阿里云。

迁移至阿里云上后,数据湖可通过多个OSS Bucket支持纳入统一资源池,实现多个Bucket共享资源池内的OSS吞吐及QPS能力。这样的流控能力在面向小红书复杂业务场景,可灵活调配资源,高效利用吞吐性能,降低不同业务租户间的互相影响。阿里云原生HDFS+DLA元数据可实现无缝对接Hadoop EMR体系,支持元数据线性扩展能力,轻松应对小红书数百PB数据下的元数据线性增长。

较于过往业界体量最大的案例,小红书的本次迁移的数据体量更大。

*注:任务=数据处理过程

(图片来自小红书官方公众号)

据介绍,小红书的迁云项目经历了三个阶段。第一步,项目组首先解决标准问题,然后根据标准进行治理;第二步,完成治理后,项目在2024年5月正式进入双跑阶段。把数据拷贝到阿里云上,两边同时跑数,验证正确性与及时性;第三步,2024年8月,项目结束双跑,进入割接阶段。阿里云团队全程在现场保障,顺利完成了割接。

2024年11月,小红书迁云项目正式宣告结束。在0故障的情况下,迁移数据500PB,任务11万,参与人数1500人,涉及部门40多个。项目涉及产品之多和数据体量之大均创下业界记录。

(责任编辑:热点)

相关内容
  • 😤曼晚:拉什福德对曼联没通知他,就把他放到转会市场感到不满
  • [流言板]克里斯蒂:沟通和努力是湖人过去两场提升防守的关键
  • 梁朝伟参演《死亡搁浅2》?小岛晒出和伟仔合影
  • 劳塔罗社媒晒金足奖:很高兴能够获奖,感谢那些一路陪伴我的人
  • 《漫威争锋》角色模型比《守望先锋》精致 绅士作品出得快
  • 石头扫地机P20 Pro获评京东2024新品金奖!行业首创0缠清扫系统
  • [流言板]填满数据!约基奇半场9中4,得到8分8篮板9助攻2抢断1盖帽
  • 如果可以从纳什身上偷走一项他的天赋,你想拿走什么?
推荐内容
  • [流言板]兴趣广!杰伦Ins晒场外照,签名鞋和哈利波特国际象棋组入镜
  • 劳塔罗社媒晒金足奖:很高兴能够获奖,感谢那些一路陪伴我的人
  • [流言板]阿德巴约的生涯抢断数累计542个,超过哈达威来到队史第六位
  • 山东泰山全体将士在联赛最后一个主场,为“你”而战!
  • [流言板]挑战巨星!埃文
  • 一货车鸡凌晨4点集体打鸣 高速服务区的车不到10分钟全部跑完