位于海南省陵水黎族自治县的清水湾，是一个拥有碧海蓝天与温暖阳光的热带海湾。早春三月，海岸线旁的沙滩上满是享受假期生活的游客。在不远处的海域，重量与1000辆小汽车相当、单个罐体直径与“天和号”空间站核心舱相当的几个“大家伙”正隐于波涛之下，安静地工作着。自去年3月底在陵水正式投入运营以来，全球首/个商用海底数据中心已平稳运行近一年，为人工智能、大数据等互联网企业提供数据存储和计算服务。“把数据存进海底”，这一天马行空的想象变成现实，互联网和数据行业与海洋科技打通，形成了全新的交叉业态。数据中心为何由陆向海？错综复杂的海洋环境能否保障数据安全和稳定？“陆数海算”将如何助力我国算力迈上新台阶？一起走近海南陵水商用海底数据中心。海底数据舱正在进行车间建造集成将海洋能源转化为海洋算力在几乎不消耗淡...阅读全文
之前文章提到过Kafka的broker端有ISR机制，它可以看成多个副本的集合，里面有leader副本和多个follower副本，数量是我们可以配置的，只有ISR中的副本才有可能成为leader副本。 我们可以通过一些参数的配置，例如ack的配置、生产者重试、isr最小数量，消费者改为手动提交等方式来尽可能的保障Kafka的消息可靠性。 Kafka在保证数据的可靠性上使用的是‘数据冗余’的方式，即将一个分区下的数据保存到多个副本中，起到备份数据的作用。这样如果leader挂了，会重新选举follower作为leader继续工作，那么Kafka中leader副本是如何将数据同步到follower副本中的呢？今天想通过这篇文章总结记录下。 1.副本中的高水位（High Watermark） 什么...阅读全文
本文分享自天翼云开发者社区《快照技术对比学习》，作者:z****n1.快照的分类根据 SNIA 的定义, 快照有全量快照 (full snapshot) 和增量快照 (incremental snapshot) 两种类型。2.全量快照克隆(Clone)：与备份操作类似，克隆技术是一种数据复制和恢复的方法，用于创建源数据的完全副本。将源数据的所有信息和状态以二进制形式进行备份，并在需要时将其恢复到相同或另一个系统中。克隆对象可以是存储卷、文件系统或者LUN，优势在于它提供了完全一致和独立的复制，不受源系统的影响。缺点就是在创建时要完整的复制一份数据，需要占用和源数据空间一样大的存储空间，资源成本高，消耗时间长。镜像分离(Split Mirror)：镜像分离也属于全量快照，先创建源卷的一个镜像卷...阅读全文
近日，天翼云联合权威科技媒体InfoQ举办了以“新存储，更轻量”为主题的线上技术分享会。天翼云存储产品线总监武志民讲解了HBlock的创新设计和技术。高性能·高可用·高可靠自研创新解决存储技术难题天翼云自主研发的业内首款存储资源盘活系统HBlock能够与底层基础设施完全解耦，同服务器上现网业务并存，将x86、ARM、龙芯等异构通用服务器中的存储资源统一管理，通过标准的iSCSI协议提供分布式块存储服务。在性能方面，HBlock单卷IOPS可达15万次、读写延迟小于200微秒，这要归功于自研的分布式多控架构和智能调度算法，以及多模式写缓存与读缓存的设计。写缓存方面，HBlock具有三种模式，可以根据不同场景的读写需求动态调整。读缓存方面，HBlock采用按需更新、分段加锁、高效淘汰算法和智能预...阅读全文
数字化转型已成为企业生存和发展的“必修课”。作为国民经济的“压舱石”“顶梁柱”，国资央企正加快“上云用数赋智”步伐，引领新一轮的科技革命。中国电信天翼云携手中国信科集团，打造“拎包入住”式国云安全邮箱SaaS应用，为国资央企数字化转型树立典型标杆。今天我们一起走进中国信科，探访我国通信行业领航者的数字化转型“成绩单”。SaaS应用模式为央企数字化转型提速中国信科集团是我国信息通信领域的高科技中央企业。由国务院国资委直属，承担着锻造国家战略科技力量，打造信息通信大国重器的责任使命。近年来，中国信科践行深度用云，不断提升各个业务系统的数字化水平。积极响应国资委关于推进SaaS应用试点工作的号召，率先使用央企云计算、SaaS商用服务，争做国资央企转型升级的“排头兵”。在数字化转型过程中，SaaS...阅读全文
本文分享自天翼云开发者社区《天翼云发布边缘安全加速平台AccessOne，四大产品能力助力企业安全高速发展》，作者：天翼云社区官方账号2023年5月30日全国科技工作者日，以“连接世界从边缘开始”为主题的天翼云边缘安全加速平台发布会在线上顺利举办。会上，天翼云重磅发布边缘安全加速平台AccessOne（后称AccessOne），并深入介绍了产品四大能力，以及在教育行业的实践成果，为企业提供性能、安全、算力等满足不同场景需求的智能边缘网络。应对多重网络应用挑战，一体化服务成优先选择数字化转型进程中，新型产业在改善人们生活质量的同时，也对网络应用服务提出挑战。天翼云智能边缘事业部副总经理鄢智勇指出，首先，越来越多的数据和应用需在离数据源更近的位置进行实时处理和分析，满足对低延迟和高带宽的需求。其...阅读全文
近年来，随着各行业数智转型逐步深入以及人工智能大模型的蓬勃发展，气象分析、大模型训练、自动驾驶、石油勘探、EDA仿真、基因分析等高性能计算（HPC）场景和智算场景（AI）不仅对算力需求激增，也产生了图片、视频等大规模非结构性数据，企业在实践中面临着数据量大、存储性能不足等问题，导致训练阻塞、算力利用率低甚至训练中断现象频繁发生。在此背景下，企业需要不断创新和优化存储系统技术架构，以便实现更加高效、可靠和灵活的存储解决方案。作为云服务国家队，天翼云坚持科技创新，不断加快推进数据存储基础设施建设，创新推出并行文件服务HPFS（CT-HPFS，High Performance File Storage），助力企业构建高性能存储底座。天翼云HPFS支持全NVMe闪存和InfiniBand高速网络，并...阅读全文
本文分享自天翼云开发者社区《TiDB体系架构》，作者:x****n如图所示，TiDB体系中三大组成部分：PD、TiDB Server、TiKV1.PD：负责产生全局的TSO时间、控制Region在TIkv中的分布、产生全局事务ID、还有其他ID。2.TiDB：没有数据落地，接收客户端sql语句，对sql语句进行解析和编译，最终形成执行计划。DDL语句和基于MVCC的老版本数据的回收，也是TiDB Server操作。3.TiKV：数据以键值队存储在TiKV中，主要负责数据持久化、MVCC、Coprocessor、事务以及自身副本的高可用和强一致性（由Muti-raft实现）。4.TiFlash：列式存储引擎，主要由扩展的raft共识算法与Tikv进行数据同步，实现负载均衡、强一致读取和实时更...阅读全文
数字时代，数据成为重要的生产要素。随着企业数据量的爆发式增长，管理和维护庞大的数据集合变得愈发复杂。数据库中存储了企业的核心数据资产，一款安全高效的数据库管理工具必不可少。天翼云数据管理服务（AOne-DMS），不仅能让你的数据库管理工作变得轻松简单，还能保障数据安全无忧！ 数据安全 核心坚守安全，一直是数据库管理的重中之重，尤其是在面临管理多云异网数据库时，启用公网访问不仅增加了流量成本，还可能带来安全隐患。天翼云AOne-DMS支持多云异网数据安全管理，可提供“网络+数据”双效安全防护，管理经过AOne网络连接的数据库，并通过精细化的权限管理、操作风险管控、审批流及数据库审计等手段，保障用户数据安全无忧。全局管理 简化操作多云异网数据库面临的不仅仅是安全问题，日常数据库管理的复杂...阅读全文
引言 在实际业务开发中，随着业务的变化，数据的复杂性和多样性不断增加。传统的关系型数据库模型在这种情况下会显得受限，因为它们需要预先定义严格的数据模式，并且通常只能存储具有相同结构的数据。而面对非结构化或半结构化数据的存储和处理需求，选择使用非关系型数据库或者创建子表存储这些变化的结构可能会变得复杂。在这种情况下，我们可以利用MySQL的JSON字段类型来解决这个问题。JSON字段提供了灵活的数据存储方式，能够轻松应对数据结构的变化和动态性，从而更好地满足业务需求。 MySQL5.7.8版本引入了JSON数据类型，允许在数据库表中存储和操作符合JSON格式的数据。这种原生支持JSON（JavaScript对象表示法）的数据类型遵循RFC 7159标准，提供了有效存储复杂、半结构化数据的方式。...阅读全文
本文分享自天翼云开发者社区《Redis缓存异常及解决方案》，作者：l****n本文向读者解释了Redis使用过程中，数据不一致、缓存雪崩、缓存击穿和缓存穿透等问题的定义，并给出对应的解决方案。1、数据不一致 一致指的是：缓存中有数据，那么，缓存的数据值需要和数据库中的值相同；缓存中本身没有数据，那么，数据库中的值必须是最新值。不一致如何发生：对于读写缓存来说，写缓存时同步写数据库，需要使用事务保证缓存和数据库的更新具有原子性。弱一致性情况下，可以使用异步写回。对于只读缓存，删改数据需要既更新数据库，又删除缓存。如果不使用事务，就会出现数据不一致。比如先更新数据库，再删除缓存。更新成功，删除缓存失败，则缓存中为旧值。如果先删除缓存再更新数据库，则缓存删除成功，数据库更新失败，再访问数据库，数据...阅读全文
本文分享自天翼云开发者社区《CRISP-DM的应用与理解》，作者：吴****嫄CRISP-DM是一个数据挖掘项目规划的开放标准流程框架模型，主要分为业务理解、数据理解、数据准备、建模、评估、部署六个阶段。业务理解从业务的角度理解项目的目标和需求，将业务的目的转换为一个数据挖掘的问题，制定一个初步的实现计划计划。商业理解是明确要达到的业务目标，并将其转化为数据挖掘主题。要从商业角度对业务部门的需求进行理解，并把业务需求的理解转化为数据挖掘的定义，拟定达成业务目标的初步方案。具包括商业背景分析、商业成功标准的确定、形势评估、获得企业资源清单、获得企业的要求和想、评估成本和收益、评估风险和意外、初步理解行业术语，并确定数据挖掘的目标和制定数挖掘计划。在整个CRISP-DM的过程当中，围绕数据为核心...阅读全文
DataLeap 字节跳动数据流的业务背景 数据流处理的主要是埋点日志。埋点，也叫Event Tracking，是数据和业务之间的桥梁，是数据分析、推荐、运营的基石. 用户在使用App、小程序、Web等各种线上应用时产生的行为，主要通过埋点的形式进行采集上报，按不同的来源分为客户端埋点、Web端埋点、服务端埋点。 不同来源的埋点都通过数据流的日志采集服务接收到MQ，然后经过一系列的Flink实时ETL对埋点进行数据标准化、数据清洗、实时风控反作弊等处理，最终分发到下游，主要的下游包括ABTest、推荐、行为分析系统、实时数仓、离线数仓。 所以，如果用一句话来概括数据流主要业务，其实就是埋点的收集、清洗、分发。 目前在字节跳动，清洗和分发环节是基于Flink搭建的。 01 - 数据流业务规模 ...阅读全文
背景介绍饿了么监控系统 EMonitor ：是一款服务于饿了么所有技术部门的一站式监控系统，覆盖了系统监控、容器监控、网络监控、中间件监控、业务监控、接入层监控以及前端监控的数据存储与查询。每日处理总数据量近 PB ，每日写入指标数据量百T，每日指标查询量几千万，配置图表个数上万，看板个数上千。CAT：是基于 Java 开发的实时应用监控平台，为美团点评提供了全面的实时监控告警服务。本文通过对比分析下两者所做的事情为契机讨论监控系统或许该有的面貌，以及浅谈下监控系统发展的各个阶段。CAT 做的事情（开源版）首先要强调的是这里我们只能拿到 GitHub 上开源版 CAT 的最新版 3.0.0 ，所以是基于此进行对比。接下来说说 CAT 做了哪些事情？抽象出监控模型抽象出 Transaction...阅读全文
NestJS从拔高到精通，大型复杂业务架构落地实践-mk大型复杂业务架构的落地实践在当今快速发展的信息技术领域，企业面临的业务环境日益复杂多变。为了适应市场变化，提升竞争力，企业需要构建高效、灵活且可扩展的业务架构。本文将探讨大型复杂业务架构的落地实践，从需求分析到架构设计，再到实施与运维，提供一系列的方法论和最佳实践。一、需求分析需求分析是构建任何系统的第一步，对于大型复杂业务架构而言尤为重要。这一步骤不仅需要明确业务目标，还需深入了解业务流程、用户需求以及技术限制等。建议采用以下方法进行需求收集和分析：用户访谈：直接与业务部门的关键人员沟通，了解他们的期望和痛点。竞品分析：研究竞争对手的产品或服务，识别行业趋势和技术标准。数据分析：利用现有的数据资源（如销售记录、用户反馈）来支持决策...阅读全文
【完结21章附电子书】2024全新GO工程师面试总攻略，助力快速斩获offer GO工程师面试总攻略主要包括以下几个方面：基础知识复习、进阶知识掌握、项目经验准备、面试技巧提升、实战演练以及持续学习与社区参与。 一、基础知识复习 Go语言基础：理解Go语言的基本语法，如变量声明、控制结构、函数等。 类型系统：熟悉基本数据类型、复合类型以及类型转换。 并发模型：深入理解goroutine和channel的工作原理及其在并发编程中的应用。 内存管理：了解垃圾回收机制及如何避免内存泄漏。 标准库：熟悉常用的包如fmt、io/ioutil、net/http等，并能灵活运用。 二、进阶知识掌握 错误处理：掌握使用error类型进行错误处理的方法，了解如何优雅地处理程序中的异常情况。 测试：学会编写单...阅读全文
本文分享自天翼云开发者社区《小谈容灾备份》，作者：胡****静一.容灾分类从其对系统的保护程度来分,可以将容灾系统分为：数据容灾和应用容灾 1.数据容灾数据容灾，指建立一个异地的数据系统，该系统是本地关键应用数据的一个可用复制。在本地数据及整个应用系统出现灾难时，系统至少在异地保存有一份可用的关键业务的数据。该数据可以是与本地生产数据的完全实时复制，也可以比本地数据略微落后，但一定是可用的。采用的主要技术是数据备份和数据复制技术。数据容灾技术，又称为异地数据复制技术，按照其实现的技术方式来说，主要可以分为同步传输方式和异步传输方式(各厂商在技术用语上可能有所不同)，另外，也有如“半同步”这样的方式。半同步传输方式基本与同步传输方式相同，只是在Read占I/O比重比较大时，相对同步传输方式，可...阅读全文
真实高质量低代码商业项目，前端/后端/运维/管理系统(完结)获课：aixuetang.xyz/5050/低代码平台在商业项目中的应用能够极大地提高开发效率，减少技术门槛，帮助团队快速交付应用。对于前端、后端、运维以及管理系统的设计，可以通过低代码平台实现以下几个方面：1.前端部分：低代码平台为前端开发提供了可视化的界面设计工具，开发者可以通过拖拽组件来快速构建用户界面。常见的低代码平台（如OutSystems、Mendix、Appian等）为前端开发提供以下支持：拖拽式界面设计：无需编写大量HTML、CSS和JavaScript代码，通过可视化工具拖动组件并配置属性来构建用户界面。响应式设计：很多低代码平台内建支持响应式布局，能确保应用在不同设备上的良好展示。集成第三方库与组件：可以集成第...阅读全文
DBA数据库工程师（已完结）获课：www.999it.top/13241/优秀的数据库管理员（DBA，Database Administrator）在信息技术领域中扮演着至关重要的角色，尤其是在数据成为企业核心资产的今天。一个出色的DBA不仅需要掌握深厚的技术技能，还需要具备良好的沟通能力和业务理解力，以确保数据库系统的稳定、安全和高效运行。以下是优秀DBA的社会地位的一些体现：1.技术权威专业知识：作为数据库专家，DBA拥有对特定数据库管理系统（如Oracle, MySQL, PostgreSQL等）及其相关工具和技术的深入理解。问题解决者：当系统出现问题时，DBA往往是第一个被求助的人，因为他们有能力快速诊断并解决问题。2.业务伙伴战略决策支持：随着数据分析的重要性日益增加，DBA与业...阅读全文
React面试宝典 React 是靠数据驱动视图改变的一种框架，它的核心驱动方法就是用其提供的 setState 方法设置 state 中的数据从而驱动存放在内存中的虚拟 DOM 树的更新。 更新方法就是通过 React 的 Diff 算法比较旧虚拟 DOM 树和新虚拟 DOM 树之间的 Change ，然后批处理这些改变。 React 性能优化的手段 React 中进行性能优化的手段可以从多个维度进行分类，以下是一些关键类别及其对应的优化策略： 1. 组件优化 使用PureComponent或React.memo：对于仅根据props和state改变才重新渲染的组件，使用React.PureComponent或者对其包装一层React.memo，它们都能通过浅比较props来避免不必要的重...阅读全文
本文分享自天翼云开发者社区《云灾备：云时代的数据安全》，作者：l****n灾备（DR），在信息化的IT系统中，指的是容灾与备份结合，利用IT技术对企业数据、业务高可用进行保护，确保系统遭受灾难时数据安全、业务快速恢复。其作为“网络安全的最后一公里”，是网络安全保障体系的重要组成部分，也是网络与系统基础设施持续有效运行的基本保障。对于各行各业而言，数据是最核心、最重要的财富。但是火灾、地震、黑客攻击、人为失误等时刻威胁数据和信息系统的稳定运行。一、容灾的分类从其对系统的保护程度来分，可以将容灾系统分为：数据容灾和应用容灾，数据容灾就是指建立一个异地的数据系统，该系统是本地关键应用数据的一个实时复制。应用容灾是在数据容灾的基础上，在异地建立一套完整的与本地生产系统相当的备份应用系统（可以是互为备...阅读全文
DBA数据库工程师 获课地址：itazs.fun/13241/ 获取ZY↑↑方打开链接↑↑ DBA（数据库管理员）和数据库工程师是两个密切相关但有所区别的职业。以下是对这两个角色的探讨： DBA（数据库管理员） DBA主要负责管理和维护数据库管理系统（DBMS），属于运维工程师的一个分支。他们的工作职责包括但不限于： 数据库设计：确定数据库的需求、建立数据库模型、定义表结构、数据字典设计以及性能优化。 安装和升级：安装和升级数据库服务器，以及应用程序工具。 存储管理：熟悉数据库系统的存储结构，预测未来的存储需求，制订数据库的存储方案。 安全性和权限管理：控制和监控用户对数据库的存取访问，制定合理的用户权限和角色管理策略，以确保数据库的安全性。 备份和恢复：负责定义和实施适当的数据库备份和恢复...阅读全文
xia仔ke：xingkeit.top/9520/ 引言 在当今快速发展的信息技术时代，企业和组织面临着日益复杂的系统架构和多样化的应用需求。为了提升业务灵活性、减少开发周期以及提高系统的可维护性，许多企业选择了集成各种新技术和工具，其中ICE（Interface, Component, and Event）技术正是实现这一目标的重要方法。本文将探讨学习ICE技术的必要性，包括其在系统集成中的优势、对提升开发效率的贡献、促进业务创新的作用以及适应未来技术趋势的意义。 1. ICE技术概述 ICE技术是一种关注系统组件之间交互的架构设计方法，主要包括接口（Interface）、组件（Component）和事件（Event）三大要素。通过定义清晰的接口，模块化的组件和基于事件的通信机制，ICE技...阅读全文
近日，由天翼云数据库团队、中国电信云计算研究院和深圳北理莫斯科大学合作完成的《Taste: Towards Practical Deep Learning-based Approaches for Semantic Type Detection in the Cloud》（构建云上基于深度学习的大规模语义类型识别系统）论文被28th International Conference on Extending Database Technology（EDBT）长文收录。EDBT是数据库领域的知名国际会议，也是中国计算机学会CCF推荐的重点学术会议，已连续举办27届。此次天翼云数据库产品线所著论文被EDBT收录，代表着天翼云的科技创新能力再次获得数据库工业界和学术界的权威认可。该论文专注于数据...阅读全文
11月6日，国际数据公司（IDC）最新发布的《中国专属云服务市场（2024上半年）跟踪》报告显示，2024上半年，专属云服务市场同比增长13.4%。中国电信天翼云以21.4%的市场份额持续领跑专属云服务市场。伴随数智化转型不断深入，产业发展对数字基础设施的要求也不断提高，越来越多企业意识到多类异构私有云难以满足自身集约化管理、能力迭代、便捷运营等需求，开始转向既具备公有云能力，又兼具私有云数据本地化优势的专属云。此外，生成式AI的快速发展正促使云服务商将更多高阶服务下沉到属地专属云资源池，并加速向智算专属云换代升级，以满足客户对高性能、高安全性的AI计算需求。作为云服务国家队，天翼云始终坚持科技创新，以自主可控的全栈云服务产品体系，为千行百业向数字化、智能化转型赋能。天翼专属...阅读全文
6 大数据库，挖掘 7 种业务场景的存储更优解获课：keyouit.xyz/13882/获取ZY↑↑方打开链接↑↑在技术的广袤天地里，不存在一招鲜吃遍天的 “万能” 技术手段。就像在武侠世界中，没有哪一种武功能够应对所有的对手和情境。每一种技术都有其独特的优势和局限性，它们是为了解决特定的问题、满足特定的业务需求而诞生的。以数据库技术为例，关系型数据库如 MySQL、Oracle，凭借其强大的事务处理能力和结构化存储方式，在传统企业的核心业务系统中占据着重要地位，就如同江湖中的名门正派，根基深厚，招式严谨。然而，在面对互联网应用中大量的非结构化数据和高并发读写需求时，它们却显得力不从心。此时，非关系型数据库如 Redis、MongoDB 应运而生，Redis 以其快速的内存读写性能，成为缓存...阅读全文
SRE 极速入门，开辟你的职业蓝海/在当今数字化时代，企业的业务高度依赖于复杂的软件系统和基础设施。系统的可靠性直接影响着用户体验、业务收入以及企业声誉。 Site Reliability Engineering（SRE）作为一门新兴的学科应运而生，旨在通过软件工程的方法和实践来保障系统的可靠性和稳定性。本文将带领读者急速入门 SRE，了解其核心概念、关键原则和主要实践。二、SRE 是什么？SRE 是 Google 在 2003 年左右提出并发展起来的一种理念和实践体系。它融合了软件工程、系统工程和运维等多方面的知识与技能，致力于构建和维护可靠的大规模分布式系统。SRE 团队不仅仅关注系统的正常运行时间，更注重在可靠性、性能、效率以及创新之间寻找平衡。与传统运维（Operations）相...阅读全文
SpringBoot3.0 + RocketMq 构建企业级数据中台（完结）获课：97java.xyz/5063/获取ZY↑↑方打开链接↑↑SpringBoot3.0 + RocketMq 构建企业级数据中台与以往传统数据的优特点对比随着信息技术的飞速发展，企业对数据的管理和利用变得越来越重要。传统的数据管理方式在某些场景下已难以满足现代企业的需求，而基于SpringBoot3.0和RocketMq构建的企业级数据中台则为数据的整合、处理和服务提供了新的解决方案。本文将对SpringBoot3.0 + RocketMq构建的企业级数据中台与以往传统数据的优特点进行对比分析。一、SpringBoot3.0 + RocketMq构建的企业级数据中台的优点高效的数据处理能力高性能：SpringBo...阅读全文
前言 proxy_cache是nginx内置的一个缓存系统，可实现减小后端负载的作用。 常用参数说明 参数 说明 proxy_cache_path 缓存文件路径。level表示目录层级，1:2表示两个子目录。keys_zone指定缓存区名称和大小。inactive表示缓存有效期。max_size表示硬盘中缓存的大小。use_temp_path为off时表示缓存文件直接写到cache中而不使用temp_path，避免文件拷贝导致影响性能。 proxy_cache 启用缓存并指定缓存区域 proxy_cache_valid 根据状态码来定义缓存的有效期 proxy_cache_min_uses 被访问多少次后才缓存，默认为1 proxy_cache_methods 指定可以被缓存的请求方法，默认...阅读全文
Flink 从0到1实战实时风控系统(MK完结)获课：Flink 从0到1实战实时风控系统(MK完结)获取ZY↑↑方打开链接↑↑理解Flink4大基石之窗口机制Apache Flink 是一个分布式流处理框架，以其强大的窗口机制、状态管理、时间处理和高吞吐低延迟的特性著称。窗口（Window）是Flink中用于处理无限数据流的核心概念之一，它允许你对流中的数据进行分组并应用计算。以下是关于Flink窗口机制的详细解释：窗口类型Flink支持多种类型的窗口，主要包括以下几种：滚动窗口（Tumbling Windows）：数据被划分成固定大小的非重叠窗口。每个元素只属于一个窗口。例如：每5分钟统计一次点击量。滑动窗口（Sliding Windows）：类似于滚动窗口，但窗口之间有重叠部分。你可以...阅读全文
获课：jzit.top/1961在开发一个C/C++气象数据中心项目时，所需的资源和工具可以从多个方面进行考虑。以下是一些关键因素和资源：1.硬件要求服务器/计算机：项目的核心将运行在服务器或高性能计算机上，尤其是在处理大量气象数据时，需要具备较强的处理能力和存储能力。 多核处理器（例如，Intel Xeon，AMD EPYC） 大容量内存（16GB及以上，视数据量而定） 高速硬盘（例如，SSD用于更快速的数据存储和读取）存储设备：由于气象数据量大，可能需要使用大量存储设备。 本地磁盘或网络附加存储（NAS）系统 大数据存储解决方案（如Hadoop、Ceph等）2.软件工具操作系统： Linux (如Ubuntu, CentOS等)，因其开源且稳定，在C/C++开发中表现优异。 Window...阅读全文
### AI RAG（检索增强生成）技术详解 **AI RAG（Retrieval-Augmented Generation，检索增强生成）** 是一种结合信息检索与生成式模型的技术，旨在通过动态整合外部知识库提升人工智能系统的回答准确性、实时性和专业性。其核心逻辑是“先检索，后生成”，解决了传统生成模型依赖固定训练数据、易产生错误或过时内容（幻觉问题）的局限性。 --- #### 一、**核心原理与工作流程** 1. **检索阶段** • **目标**：从外部知识库（如数据库、文档、网页）中快速定位与用户问题相关的信息片段。 • **技术实现**： ◦ 通过向量化技术将文本转化为高维语义向量，利用相似度匹配（如余弦相似度）筛选最相关的数据。 ◦ 支持动态更新知识库（如最新政策、医学研究），...阅读全文
本文分享自天翼云开发者社区《NAT原理：概念、使用场景、转发流程及规则》，作者：x****n网络地址转换（NAT）是一种在计算机网络中将一个网络的IP地址转换为另一个网络的IP地址的技术。它通常用于将私有网络的IP地址映射到公共网络的IP地址，以便在Internet上进行通信。NAT技术解决了IPv4地址短缺的问题，同时也提高了网络的安全性。NAT的使用场景主要包括以下几种情况：1.公共IP地址不足：在Internet上分配公共IP地址是有限的，而且越来越昂贵。因此，许多组织和企业使用私有IP地址来管理他们的局域网。但是，当这些网络需要与Internet通信时，就需要使用NAT技术将私有IP地址映射到公共IP地址。2.安全性：NAT技术可以提高网络的安全性，因为它隐藏了私有网络背后的真实IP...阅读全文
C++数据开放平台实战，手把手教你做工业级项目「完结」来百度APP畅享高清图片获课：itazs.fun/5766/获取资源：上方URL获取资源C++ 数据类型介绍C++ 是一种静态类型的语言，这意味着变量在声明时必须指定类型。C++ 提供了多种内置数据类型，这些类型可以分为以下几类：基本数据类型、复合数据类型和派生数据类型。1. 基本数据类型基本数据类型是最常用的类型，它们直接对应于计算机的硬件支持。C++ 中的基本数据类型包括整型、浮点型、字符型和布尔型。1.1 整型（Integer Types）整型用于表示整数，包括有符号和无符号两种形式。常见的整型有：int：通常为32位，范围通常是 -2,147,483,648 到 2,147,483,647。short：通常为16位，范围通常是 ...阅读全文
路飞学城Python全栈开发（中级）Python全栈开发：从前端到后端的全面掌握Python是一种简洁、强大且易于学习的编程语言。凭借其清晰的语法和丰富的生态系统，Python已成为全栈开发中备受推崇的语言之一。全栈开发意味着开发者能够同时处理前端和后端的开发任务，而Python作为一门多功能的语言，不仅能够帮助开发高效的后端系统，还能够通过多种框架和工具支持前端开发。本文将介绍Python全栈开发的核心概念、所需技能以及如何使用Python构建前后端一体化的完整应用程序。一、什么是Python全栈开发？全栈开发是指开发者不仅能处理前端界面的设计和实现，还能涉及后端服务器、数据库管理和应用程序的整体架构。全栈开发人员需要具备前后端开发、调试、部署和维护的能力。在传统的开发中，前端和后端开发往...阅读全文
本文分享自天翼云开发者社区《说说天翼云大规模数据中心组网架构的优势》，作者：程****超天翼云大规模数据中心组网架构的优势：扁平化：现代大规模数据中心,以云计算为代表的流量模型，扁平化设计大大缩短服务器之间的通信路径，从而降低延迟，可以显著提高应用程序和服务性能。易扩展：如果 Spine 交换机的带宽不足，我们只需要增加 Spine 节点数，也可以提供路径上的负载均衡；如果接入连接不足，则只需增加 Leaf 节点数。在设计规模上可以达到几万台至十万台级别.低收敛比：容易实现 1:X 甚至是无阻塞的 1:1 的收敛比，而且通过增加 Spine 和 Leaf 设备间的链路带宽也可以降低链路收敛比，充分适应当前大规模集群的通信需求。更可靠: Spine和Leaf节点全连接,提供了更为可靠的组网连接...阅读全文
技术大牛成长课，从0到1带你手写一个数据库系统(超清完结)获课：技术大牛成长课，从0到1带你手写一个数据库系统(超清完结)获取ZY↑↑方打开链接↑↑手写数据库系统的必要性，及系统的整体介绍手写数据库系统的必要性手写数据库系统为数据库技术的优化和创新提供了可能。开发者可以尝试新的数据存储模型、索引结构或查询优化算法。例如，研究人员可以开发一种基于新型硬件（如非易失性内存）的存储引擎，以突破传统存储方式的性能瓶颈。在计算机科学教育领域，手写数据库系统是一个非常好的教学实践项目。它可以帮助学生巩固数据结构、算法和操作系统等多门课程的知识。学生通过自己实现数据库的存储引擎、查询处理器等组件，能够将理论知识与实际应用相结合，提高编程和系统设计能力。对于一些具有特殊业务要求的场景，现成的数据库系统可能...阅读全文
程序员基石必修课，计算机网络底层原理（高清完结）获课：程序员基石必修课，计算机网络底层原理（高清完结）获取ZY↑↑方打开链接↑↑掌握通过抓包解决问题的能力掌握通过抓包解决问题的能力，是网络工程师、Web前端开发人员以及网络安全专家等必备的技能之一。以下将详细介绍如何通过抓包来解决问题，并提升相关能力。一、抓包的基本概念抓包（Packet Capture）是指截获、记录和分析网络数据包的技术。通过抓包，可以深入了解网络流量，识别潜在问题，甚至发现安全隐患。二、抓包工具的选择在抓包过程中，选择合适的工具至关重要。以下是一些常用的抓包工具：Wireshark：一款功能强大的开源抓包工具，支持多种操作系统。它提供了丰富的分析功能，能够对捕获的数据包进行深度解析。tcpdump：一个命令行工具，适用...阅读全文
12月20日，由中国信息通信研究院举办的央国企上云高质量发展沙龙暨一云多算、大模型混合云成果发布会在北京成功召开。会上公布了央国企典型案例评选结果，天翼云科技有限公司央企行业中心与中国信息通信科技集团有限公司（简称“中国信科”）联合申报的《中国信科国云安全邮箱应用》项目入选2024央国企十佳上云典型案例，为产业提供了标杆示范与发展指引。  中国信科是我国信息通信领域的高科技中央企业，由国务院国资委直属，承担着锻造国家战略科技力量，打造信息通信大国重器的责任使命。近年来，中国信科深度用云，不断提升各个业务系统的数字化水平，通过...阅读全文
轻松入门大数据：玩转Flink，打造湖仓一体架构（完结无秘）获课：xuelingit点xyz/2159/获取ZY↑↑方打开链接↑↑玩转 Flink，打造湖仓一体架构在大数据时代，数据成为企业决策和创新的核心资产。如何高效地管理和利用这些数据，湖仓一体架构应运而生。Apache Flink 作为一款强大的开源流批一体化处理框架，在打造湖仓一体架构中发挥着关键作用。湖仓一体架构：融合的力量传统的数据架构中，数据仓库和数据湖各自为政。数据仓库以结构化数据为主，注重数据的一致性和准确性，主要用于支持企业的决策分析；而数据湖则以原始的、非结构化或半结构化数据存储为主，强调数据的灵活性和扩展性。但这种分离的架构在实际应用中面临诸多挑战，如数据处理流程复杂、数据一致性难以保证、数据价值难以充分挖掘等。湖...阅读全文
大数据工程师大数据工程师：数据海洋中的探索者与架构师在当今这个数据爆炸的时代，大数据工程师成为了企业和组织中不可或缺的角色。他们不仅是数据的探索者，更是数据架构的设计师，负责构建和维护能够处理海量数据的系统。本文将探讨大数据工程师的角色、技能要求以及他们在数据驱动决策中的重要性。一、大数据工程师的角色与职责数据架构设计大数据工程师负责设计和实现能够高效存储、处理和分析海量数据的系统架构。这包括选择合适的数据存储解决方案（如Hadoop、Spark）、设计数据管道和工作流，以及确保系统的可扩展性和可靠性。数据采集与处理他们需要从各种来源（如传感器、社交媒体、企业数据库）采集数据，并进行清洗、转换和整合，以确保数据的质量和一致性。这通常涉及使用ETL（Extract, Transform, Lo...阅读全文
本文分享自天翼云开发者社区《如何用sockpef测试实例之间的网络时延》，作者：j****n网络时延：指数据（报文/分组、比特流）从网络的一端发送到另一端所需的时间。也叫延迟或迟延。操作步骤：分别在测试机和辅助测试机上执行一下命令，安装sockperfyum install -y autoconf automake libtool gcc-c++cd /optwget ***/tags/3.8.tar.gz –no-check-certificate(官网地址，自行百度）tar -zxf 3.8.tar.gzcd sockperf-3.8/（./autogen.sh && ./configure && make && make install）./autogen.sh./configurem...阅读全文
获课：jzit.top/1459/微信小程序完整项目实战（前端 + 后端）微信小程序是一种轻量级的应用开发框架，用户无需下载安装即可使用。本文将介绍如何从零开始开发一个完整的微信小程序项目，涵盖前端和后端的开发流程，帮助你掌握微信小程序的开发技能。1.项目概述我们将开发一个简单的“任务管理”小程序，用户可以在小程序中创建、查看、更新和删除任务。项目分为前端和后端两部分：前端：使用微信小程序框架开发用户界面和交互逻辑。后端：使用Node.js和Express框架提供RESTful API，支持数据的增删改查。2.技术栈前端：微信小程序框架（WXML、WXSS、JavaScript）微信开发者工具后端：Node.jsExpress框架MongoDB（数据库）部署：云服务器（如阿里云...阅读全文
HBase 的 Row Key 路由策略 **并不一定是按照字母顺序（a-z）或简单地将数据平均分割到 Region**，而是基于行键的字典序排序和动态分区机制来实现的。 --- ### **1. HBase 的 Row Key 分区机制** HBase 的数据分区是基于 **行键的字典序（Lexicographical Order）** 的，而不是简单的按字母顺序或均匀分割。以下是关键点： #### **(1) 字典序排序** - 行键在 HBase 中是按字典序排序的。 - 字典序不仅适用于字母（a-z），还适用于数字、符号和其他字符。 - 例如： ```plaintext "001" < "010" < "100" < "aaa" < "aab" < "zzz" ``` #### **...阅读全文
SpringBoot+Vue3+MySQL集群 开发健康体检双系统（完结）获课：SpringBoot+Vue3+MySQL集群 开发健康体检双系统（完结）获取ZY↑↑方打开链接↑↑数据库集群：提升系统性能与可用性的关键技术在现代信息技术领域，数据库作为信息系统的核心组件，其性能和可用性至关重要。随着业务量的不断增长和数据量的急剧增加，传统的单机数据库已难以满足高性能、高可用性和高扩展性的需求。因此，数据库集群技术应运而生，成为众多企业的首选架构方案。本文将详细介绍数据库集群的概念、类型、特点以及应用优势。一、数据库集群的概念数据库集群，顾名思义，是利用至少两台或多台数据库服务器，通过网络相互连接，共同构成一个虚拟的单一数据库逻辑映像。这种架构方式使得集群能够像单数据库系统那样，向客户端提供透...阅读全文
极客时间 AIOps 训练营 毕业总结极获课：97java.xyz/13953/获取ZY↑↑方打开链接↑↑随着人工智能（AI）和机器学习（ML）技术的迅猛发展，AIOps（Artificial Intelligence for IT Operations）已经成为现代IT运营不可或缺的一部分。它通过自动化和智能化手段提升IT运维效率、减少故障时间和成本。本文将探讨在极客时间AIOps训练营中，如何实现智能制作，并提供一些实用的建议和最佳实践。智能制作的核心要素数据收集与管理多源数据整合：智能制作的基础是对各类数据的有效管理和利用。这包括日志文件、监控指标、事件记录等。建立一个高效的数据管道，确保数据能够实时或准实时地被收集、清洗和存储。数据质量保证：高质量的数据是成功的关键。应实施严格的数...阅读全文
本文分享自天翼云开发者社区《弹性存储关键技术介绍》，作者：1****m关键技术：（1）一致性HASH算法，保证数据分片尽量均衡在不同的故障域上，提升存储数据的安全可靠性。以数据唯一标识符、当前存储集群的拓扑结构以及数据备份策略作为一致性HASH算法的输入，可以随时随地通过计算获取数据所在的底层存储设备并直接通信获取或者写入数据，从而避免查表操作，实现去中心化和高度并发，将数据均衡的存储到各个存储节点，实现数据存储的负载均衡去中心化以及哈希的数据随机分布，使得弹性存储底座在理论上具备无限的可扩展性一致性HASH 算法支持数据的多种备份策略，支持可配置副本数，支持存储节点故障域定义与划分，从而使整个系统具备了高可靠性和高可用性。（2）增加盘级缓存，提升引擎读写性能。为每个存储节点配置两块SSD盘...阅读全文
实战Spark3 实时处理，掌握两套企业级处理方案（完结11章） sprark提供实时计算的模块:SparkStreaming、StructuredStreaming Spark Streaming是构建在Spark Core基础之上的流处理框架，是Spark非常重要的组成部分。Spark Streaming于2013年2月在Spark0.7.0版本中引入，发展至今已经成为了在企业中广泛使用的流处理平台。在2016年7月，Spark2.0版本中引入了Structured Streaming，并在Spark2.2版本中达到了生产级别，Structured Streaming是构建在Spark SQL之上的流处理引擎，用户可以使用DataSet/DataFreame API进行流处理，目前Str...阅读全文
大数据生态圈/Hadoop/Spark/Flink/数据仓库/实时分析/推荐系统获课：789it点top/2505/获取ZY↑↑方打开链接↑↑大数据生态圈：构建智能时代的基石在数字化浪潮汹涌的今天，大数据已成为推动各行各业变革的重要力量。大数据生态圈，作为这一变革的核心驱动力，汇聚了Hadoop、Spark、Flink、数据仓库、实时分析以及推荐系统等一系列关键技术，共同构建了一个高效、智能的数据处理与分析体系。本文将深入探讨这些技术如何协同工作，为企业带来前所未有的数据洞察力和业务价值。Hadoop：大数据处理的基石Hadoop，作为大数据领域的基石，为海量数据的存储和处理提供了强大的分布式基础架构。其核心组件HDFS（Hadoop Distributed File System）通过分布...阅读全文
Flink 从0到1实战实时风控系统获课：97java.xyz/2323/Flink风控系统：实时风险防控的利器随着大数据技术的飞速发展，尤其是流处理技术的不断成熟，实时风控系统已成为金融、电子商务等行业不可或缺的重要组成部分。Apache Flink，作为一款开源的分布式流处理框架，凭借其高吞吐、低延迟和灵活的处理能力，在实时风控系统中发挥着举足轻重的作用。一、Flink简介及其优势Flink最初由柏林工业大学的研究人员开发，旨在实现数据流上的有状态计算。自2014年成为Apache的顶级项目以来，Flink已逐渐发展成为处理无界和有界数据的强大工具。其分布式架构、高可用性、准确性、低延迟、高吞吐量以及灵活性等特点，使其成为实时风控系统的理想选择。分布式架构：Flink程序可以运行在分布式...阅读全文
