火山引擎ByteHouse助力大地量子精准、高效预测天气
2023-08-10 16:09:06    中关村在线

伴随着气象技术的发展以及城市气象设施的完善,气象监测服务能力在不断提高,实现短期甚至中长期的气象预测成为可能。

短期、长期的天气形势预测,不仅能帮助相关行业、有关部门针对性地进行极端天气防范准备,降低气象灾害带来的影响;还可以提升对风力、水力等可再生能源的利用效率,实现可持续发展,推动环境保护。

而大地量子正是这样一家深耕气象领域的公司。作为定位为AI大模型与数字孪生的公司,大地量子通过对PB级卫星遥感数据、气象数据的AI开发,打造业界领先的天气预测、清洁能源功率预测、绿电交易预测、碳汇碳排等技术产品,并利用自有的AI与超算优势,完成下一代气象预报系统。


(资料图)

预测一个地理位置的气象情况,实际是根据周围的观测站点的大量信息,做重合面积的地理信息查询,包括经纬度、温度、湿度等具体数值。除此之外,大自然中变幻莫测的风、雨、云、电,也会为数据的计算能力和实时查询也带来了巨大的难点。具体可以包括以下三点:

第一,地理信息数据处理能力,业务需要丰富的geo函数,用于整合海量的历史气象数据,对目标点位/区域实现天气预测;第二,高时效性查询需求,风场、云层预测等模型需要实时查询能力,快速做到结果反馈;第三,由于查询的接口众多,高并发扩展也是交互式业务不可或缺的能力之一。

如何解决这些痛点?大地量子选择了与火山引擎云原生数据仓库ByteHouse进行合作。

随着字节跳动业务的快速发展,产生了海量的产品使用数据分析需求。这类场景数据指标计算相对复杂、数据总量大且查询模式多变,要求底层数据计算引擎具备高可用性,以及具备应对超大数据规模下交互式实时响应的能力。ByteHouse的极致性能和强大计算能力,正是源于内部场景的多年积累和检验。

在字节跳动内部实践场景和海量数据打磨下的技术能力也复制在大地量子上,并进行了进一步升级。

据介绍,ByteHouse起初是基于开源ClickHouse引擎进行技术架构重构和优化。但相比起原生的ClickHouse,火山引擎ByteHouse基于独家自研的高可用引擎及查询优化器,可以为企业提供快速、稳定、安全的查询服务和数据写入性能。

从技术层面看,ByteHouse 提供了 PB 级数据秒级响应,通过增强的自研引擎,确保95%以上的查询均可在秒级返回,同时通过自研的HAEngine和元数据持久化等优化,ByteHouse提供了新的生产级高可用方案,能够保障其在大数据量场景下依然不会影响到查询分析体验。

大地量子通过将现场采集及大模型生成的气象数据导入到ByteHouse中,通过ByteHouse的多边形计算、方差、平均值等计算函数能力,支撑GEO查询和空间计算,满足其对预测系统以及交互式查询需求。另外,针对大地量子不同阶段数据波动情况,ByteHouse也提出了定制化解决方案。例如,在业务数据低谷期,ByteHouse提供集群节点进行自助升级能力,在保持产品功能更新的同时,能更灵活帮助大地量子控制产品版本,降低运维负担。

在降本增效层面,大地量子也利用ByteHouse进行了极致优化。ByteHouse 能支持用户自定义冷存储的比例,该能力帮助大地量子将查询频次较少的历史数据进行冷存,起到降低存储成本的作用,最终实现查询效率和成本之间的平衡。

目前,在业务实践中,平均查询任务时长始终保持在50毫秒以内,同时可以做到400QPS的峰值并发,火山引擎ByteHouse的高效率表现为大地量子提供了最有力的用数支持。

未来,大地量子将把部分功能作为API接口对外开放,ByteHouse的高查询性能足以满足预测系统及后续交互式查询需求,进一步为大地量子提供了查询并发的保障,为业务扩展提供基础。除此之外,由于ByteHouse 支持无损和自助水平扩容,随着数据量持续增加,大地量子也计划通过 ByteHouse 集群的水平扩容来动态调整和支持计算、存储能力,为高性能查询提供更强保障。

除了在气象领域落地,火山引擎ByteHouse还与中国地震台网中心、海王集团、莉莉丝游戏、极客邦科技等诸多行业企业达成了深度合作,凭借新一代的云原生架构,高效方便的运维模式,以及高性能更灵活的实时查询能力,为企业抓稳数字化机遇建立了夯实的地基,推动企业的数智化转型升级。(作者:李维)

关键词:

下一篇: 最后一页
上一篇: 半导体周动态

火山引擎ByteHouse助力大地量子精准、高效预测天气

半导体周动态

中国公民赴日团队游恢复,日元贬值下“爆买”现象还会出现吗?

安徽阜阳250MW风电项目完成首台风机吊装

荆楚理工学院怎么样 好不 荆楚理工学院怎么样

中南大学湘雅三医院:正在核查网上举报信件内容

科大讯飞推出新款智能电纸书X3 Pro,售价4799元

“河南一号”卫星发射满一年,咱河南自己的“星”成效满满

上海推进社区就业服务站点建设

牡丹江:防汛应急响应提高到三级

正大国际期货:外盘期货在国内是合法合规的吗?

cs新箱子2023_csgo开箱多少钱一个

中科蓝讯:8月9日融资买入123万元,融资融券余额5142.55万元

雷军再现“价格屠夫”,12GB 256GB低至1490元,5000mAh 光学防抖

三旧旗舰降价,不必买贵!

第9章 心意满满的按摩梳

遮天:青帝心脏与叶凡的奇妙缘分,帮助与回报的传奇故事!

理想汽车营收创新高 二季度营收同比增长228.1%

孔明锁怎么拼(孔明锁)

凝聚力量共推高质量发展 龙岗区党外知识分子联谊会园区分会集中授牌

天广实拟定向发行209.5558万股拟募集金额约1.5亿元

低估值+行业反转信号显现,信义光能(00968)周期拐点将至?

全球财经连线|7月份CPI同比下降0.3%,通缩风险是否可控?

佐力药业上半年营收超10亿元 乌灵系列贡献六成以上

太原小店,再获百强!

十二星座的代表女明星,谁才是你的女神?

集中供冷真的来了?

日本桌游《女仆黑手党k》评测

梦白之世(furry+vore)

妻子起诉户主分家析产,两个宅基地一审法院判决一个宅基地与妻子无关

2023年上半年全球高炉生铁产量6.588亿吨 同比增长0.9%

苏轼到底是不是大长脸?

上海:通过赋予科研人员职务科技成果所有权或长期使用权 进一步打通科研人员创办企业的通道

全国果树品种登记技术培训班在河南郑州举办

三变科技8月9日盘中跌幅达5%

皮肤衰老中的抗糖化是什么意思?该如何去应对呢?