近日，国际数据公司IDC发布的《中国专属云服务市场（2023下半年）跟踪》报告显示，2023下半年，专属云服务整体市场规模同比增长18.0%。中国电信天翼云以21.8%的市场份额，蝉联中国专属云服务市场第一。天翼云连续五次登顶，以实力持续领跑中国专属云服务市场。IDC报告指出，2023下半年，中国专属云服务市场继续从“规模发展”向“规模+质量并行发展”进阶，企业对于专属云服务的能力要求随着用云深度的不断加深而不断提高。依托自主可控的全栈云服务产品体系，天翼云可为客户提供公有云、专属云、私有云、边缘云等多类型高品质云服务。天翼专属云能够为用户实现资源物理隔离、网络隔离、存储隔离，消除用户之间的资源相互影响和网络互访隐患，具有安全隔离、稳定可靠、灵活可控、易于管理等优势。在专属云内，用户可独享...阅读全文
本文分享自天翼云开发者社区《快照技术对比学习》，作者:z****n1.快照的分类根据 SNIA 的定义, 快照有全量快照 (full snapshot) 和增量快照 (incremental snapshot) 两种类型。2.全量快照克隆(Clone)：与备份操作类似，克隆技术是一种数据复制和恢复的方法，用于创建源数据的完全副本。将源数据的所有信息和状态以二进制形式进行备份，并在需要时将其恢复到相同或另一个系统中。克隆对象可以是存储卷、文件系统或者LUN，优势在于它提供了完全一致和独立的复制，不受源系统的影响。缺点就是在创建时要完整的复制一份数据，需要占用和源数据空间一样大的存储空间，资源成本高，消耗时间长。镜像分离(Split Mirror)：镜像分离也属于全量快照，先创建源卷的一个镜像卷...阅读全文
本文分享自天翼云开发者社区《天翼云发布边缘安全加速平台AccessOne，四大产品能力助力企业安全高速发展》，作者：天翼云社区官方账号2023年5月30日全国科技工作者日，以“连接世界从边缘开始”为主题的天翼云边缘安全加速平台发布会在线上顺利举办。会上，天翼云重磅发布边缘安全加速平台AccessOne（后称AccessOne），并深入介绍了产品四大能力，以及在教育行业的实践成果，为企业提供性能、安全、算力等满足不同场景需求的智能边缘网络。应对多重网络应用挑战，一体化服务成优先选择数字化转型进程中，新型产业在改善人们生活质量的同时，也对网络应用服务提出挑战。天翼云智能边缘事业部副总经理鄢智勇指出，首先，越来越多的数据和应用需在离数据源更近的位置进行实时处理和分析，满足对低延迟和高带宽的需求。其...阅读全文
数字化转型已成为企业生存和发展的“必修课”。作为国民经济的“压舱石”“顶梁柱”，国资央企正加快“上云用数赋智”步伐，引领新一轮的科技革命。中国电信天翼云携手中国信科集团，打造“拎包入住”式国云安全邮箱SaaS应用，为国资央企数字化转型树立典型标杆。今天我们一起走进中国信科，探访我国通信行业领航者的数字化转型“成绩单”。SaaS应用模式为央企数字化转型提速中国信科集团是我国信息通信领域的高科技中央企业。由国务院国资委直属，承担着锻造国家战略科技力量，打造信息通信大国重器的责任使命。近年来，中国信科践行深度用云，不断提升各个业务系统的数字化水平。积极响应国资委关于推进SaaS应用试点工作的号召，率先使用央企云计算、SaaS商用服务，争做国资央企转型升级的“排头兵”。在数字化转型过程中，SaaS...阅读全文
之前文章提到过Kafka的broker端有ISR机制，它可以看成多个副本的集合，里面有leader副本和多个follower副本，数量是我们可以配置的，只有ISR中的副本才有可能成为leader副本。 我们可以通过一些参数的配置，例如ack的配置、生产者重试、isr最小数量，消费者改为手动提交等方式来尽可能的保障Kafka的消息可靠性。 Kafka在保证数据的可靠性上使用的是‘数据冗余’的方式，即将一个分区下的数据保存到多个副本中，起到备份数据的作用。这样如果leader挂了，会重新选举follower作为leader继续工作，那么Kafka中leader副本是如何将数据同步到follower副本中的呢？今天想通过这篇文章总结记录下。 1.副本中的高水位（High Watermark） 什么...阅读全文
近日，天翼云联合权威科技媒体InfoQ举办了以“新存储，更轻量”为主题的线上技术分享会。天翼云存储产品线总监武志民讲解了HBlock的创新设计和技术。高性能·高可用·高可靠自研创新解决存储技术难题天翼云自主研发的业内首款存储资源盘活系统HBlock能够与底层基础设施完全解耦，同服务器上现网业务并存，将x86、ARM、龙芯等异构通用服务器中的存储资源统一管理，通过标准的iSCSI协议提供分布式块存储服务。在性能方面，HBlock单卷IOPS可达15万次、读写延迟小于200微秒，这要归功于自研的分布式多控架构和智能调度算法，以及多模式写缓存与读缓存的设计。写缓存方面，HBlock具有三种模式，可以根据不同场景的读写需求动态调整。读缓存方面，HBlock采用按需更新、分段加锁、高效淘汰算法和智能预...阅读全文
数字时代，数据成为重要的生产要素。随着企业数据量的爆发式增长，管理和维护庞大的数据集合变得愈发复杂。数据库中存储了企业的核心数据资产，一款安全高效的数据库管理工具必不可少。天翼云数据管理服务（AOne-DMS），不仅能让你的数据库管理工作变得轻松简单，还能保障数据安全无忧！ 数据安全 核心坚守安全，一直是数据库管理的重中之重，尤其是在面临管理多云异网数据库时，启用公网访问不仅增加了流量成本，还可能带来安全隐患。天翼云AOne-DMS支持多云异网数据安全管理，可提供“网络+数据”双效安全防护，管理经过AOne网络连接的数据库，并通过精细化的权限管理、操作风险管控、审批流及数据库审计等手段，保障用户数据安全无忧。全局管理 简化操作多云异网数据库面临的不仅仅是安全问题，日常数据库管理的复杂...阅读全文
本文分享自天翼云开发者社区《TiDB体系架构》，作者:x****n如图所示，TiDB体系中三大组成部分：PD、TiDB Server、TiKV1.PD：负责产生全局的TSO时间、控制Region在TIkv中的分布、产生全局事务ID、还有其他ID。2.TiDB：没有数据落地，接收客户端sql语句，对sql语句进行解析和编译，最终形成执行计划。DDL语句和基于MVCC的老版本数据的回收，也是TiDB Server操作。3.TiKV：数据以键值队存储在TiKV中，主要负责数据持久化、MVCC、Coprocessor、事务以及自身副本的高可用和强一致性（由Muti-raft实现）。4.TiFlash：列式存储引擎，主要由扩展的raft共识算法与Tikv进行数据同步，实现负载均衡、强一致读取和实时更...阅读全文
近年来，随着各行业数智转型逐步深入以及人工智能大模型的蓬勃发展，气象分析、大模型训练、自动驾驶、石油勘探、EDA仿真、基因分析等高性能计算（HPC）场景和智算场景（AI）不仅对算力需求激增，也产生了图片、视频等大规模非结构性数据，企业在实践中面临着数据量大、存储性能不足等问题，导致训练阻塞、算力利用率低甚至训练中断现象频繁发生。在此背景下，企业需要不断创新和优化存储系统技术架构，以便实现更加高效、可靠和灵活的存储解决方案。作为云服务国家队，天翼云坚持科技创新，不断加快推进数据存储基础设施建设，创新推出并行文件服务HPFS（CT-HPFS，High Performance File Storage），助力企业构建高性能存储底座。天翼云HPFS支持全NVMe闪存和InfiniBand高速网络，并...阅读全文
引言 在实际业务开发中，随着业务的变化，数据的复杂性和多样性不断增加。传统的关系型数据库模型在这种情况下会显得受限，因为它们需要预先定义严格的数据模式，并且通常只能存储具有相同结构的数据。而面对非结构化或半结构化数据的存储和处理需求，选择使用非关系型数据库或者创建子表存储这些变化的结构可能会变得复杂。在这种情况下，我们可以利用MySQL的JSON字段类型来解决这个问题。JSON字段提供了灵活的数据存储方式，能够轻松应对数据结构的变化和动态性，从而更好地满足业务需求。 MySQL5.7.8版本引入了JSON数据类型，允许在数据库表中存储和操作符合JSON格式的数据。这种原生支持JSON（JavaScript对象表示法）的数据类型遵循RFC 7159标准，提供了有效存储复杂、半结构化数据的方式。...阅读全文
本文分享自天翼云开发者社区《Redis缓存异常及解决方案》，作者：l****n本文向读者解释了Redis使用过程中，数据不一致、缓存雪崩、缓存击穿和缓存穿透等问题的定义，并给出对应的解决方案。1、数据不一致 一致指的是：缓存中有数据，那么，缓存的数据值需要和数据库中的值相同；缓存中本身没有数据，那么，数据库中的值必须是最新值。不一致如何发生：对于读写缓存来说，写缓存时同步写数据库，需要使用事务保证缓存和数据库的更新具有原子性。弱一致性情况下，可以使用异步写回。对于只读缓存，删改数据需要既更新数据库，又删除缓存。如果不使用事务，就会出现数据不一致。比如先更新数据库，再删除缓存。更新成功，删除缓存失败，则缓存中为旧值。如果先删除缓存再更新数据库，则缓存删除成功，数据库更新失败，再访问数据库，数据...阅读全文
背景介绍饿了么监控系统 EMonitor ：是一款服务于饿了么所有技术部门的一站式监控系统，覆盖了系统监控、容器监控、网络监控、中间件监控、业务监控、接入层监控以及前端监控的数据存储与查询。每日处理总数据量近 PB ，每日写入指标数据量百T，每日指标查询量几千万，配置图表个数上万，看板个数上千。CAT：是基于 Java 开发的实时应用监控平台，为美团点评提供了全面的实时监控告警服务。本文通过对比分析下两者所做的事情为契机讨论监控系统或许该有的面貌，以及浅谈下监控系统发展的各个阶段。CAT 做的事情（开源版）首先要强调的是这里我们只能拿到 GitHub 上开源版 CAT 的最新版 3.0.0 ，所以是基于此进行对比。接下来说说 CAT 做了哪些事情？抽象出监控模型抽象出 Transaction...阅读全文
本文分享自天翼云开发者社区《CRISP-DM的应用与理解》，作者：吴****嫄CRISP-DM是一个数据挖掘项目规划的开放标准流程框架模型，主要分为业务理解、数据理解、数据准备、建模、评估、部署六个阶段。业务理解从业务的角度理解项目的目标和需求，将业务的目的转换为一个数据挖掘的问题，制定一个初步的实现计划计划。商业理解是明确要达到的业务目标，并将其转化为数据挖掘主题。要从商业角度对业务部门的需求进行理解，并把业务需求的理解转化为数据挖掘的定义，拟定达成业务目标的初步方案。具包括商业背景分析、商业成功标准的确定、形势评估、获得企业资源清单、获得企业的要求和想、评估成本和收益、评估风险和意外、初步理解行业术语，并确定数据挖掘的目标和制定数挖掘计划。在整个CRISP-DM的过程当中，围绕数据为核心...阅读全文
DataLeap 字节跳动数据流的业务背景 数据流处理的主要是埋点日志。埋点，也叫Event Tracking，是数据和业务之间的桥梁，是数据分析、推荐、运营的基石. 用户在使用App、小程序、Web等各种线上应用时产生的行为，主要通过埋点的形式进行采集上报，按不同的来源分为客户端埋点、Web端埋点、服务端埋点。 不同来源的埋点都通过数据流的日志采集服务接收到MQ，然后经过一系列的Flink实时ETL对埋点进行数据标准化、数据清洗、实时风控反作弊等处理，最终分发到下游，主要的下游包括ABTest、推荐、行为分析系统、实时数仓、离线数仓。 所以，如果用一句话来概括数据流主要业务，其实就是埋点的收集、清洗、分发。 目前在字节跳动，清洗和分发环节是基于Flink搭建的。 01 - 数据流业务规模 ...阅读全文
本文分享自天翼云开发者社区《小谈容灾备份》，作者：胡****静一.容灾分类从其对系统的保护程度来分,可以将容灾系统分为：数据容灾和应用容灾 1.数据容灾数据容灾，指建立一个异地的数据系统，该系统是本地关键应用数据的一个可用复制。在本地数据及整个应用系统出现灾难时，系统至少在异地保存有一份可用的关键业务的数据。该数据可以是与本地生产数据的完全实时复制，也可以比本地数据略微落后，但一定是可用的。采用的主要技术是数据备份和数据复制技术。数据容灾技术，又称为异地数据复制技术，按照其实现的技术方式来说，主要可以分为同步传输方式和异步传输方式(各厂商在技术用语上可能有所不同)，另外，也有如“半同步”这样的方式。半同步传输方式基本与同步传输方式相同，只是在Read占I/O比重比较大时，相对同步传输方式，可...阅读全文
NestJS从拔高到精通，大型复杂业务架构落地实践-mk大型复杂业务架构的落地实践在当今快速发展的信息技术领域，企业面临的业务环境日益复杂多变。为了适应市场变化，提升竞争力，企业需要构建高效、灵活且可扩展的业务架构。本文将探讨大型复杂业务架构的落地实践，从需求分析到架构设计，再到实施与运维，提供一系列的方法论和最佳实践。一、需求分析需求分析是构建任何系统的第一步，对于大型复杂业务架构而言尤为重要。这一步骤不仅需要明确业务目标，还需深入了解业务流程、用户需求以及技术限制等。建议采用以下方法进行需求收集和分析：用户访谈：直接与业务部门的关键人员沟通，了解他们的期望和痛点。竞品分析：研究竞争对手的产品或服务，识别行业趋势和技术标准。数据分析：利用现有的数据资源（如销售记录、用户反馈）来支持决策...阅读全文
本文分享自天翼云开发者社区《云灾备：云时代的数据安全》，作者：l****n灾备（DR），在信息化的IT系统中，指的是容灾与备份结合，利用IT技术对企业数据、业务高可用进行保护，确保系统遭受灾难时数据安全、业务快速恢复。其作为“网络安全的最后一公里”，是网络安全保障体系的重要组成部分，也是网络与系统基础设施持续有效运行的基本保障。对于各行各业而言，数据是最核心、最重要的财富。但是火灾、地震、黑客攻击、人为失误等时刻威胁数据和信息系统的稳定运行。一、容灾的分类从其对系统的保护程度来分，可以将容灾系统分为：数据容灾和应用容灾，数据容灾就是指建立一个异地的数据系统，该系统是本地关键应用数据的一个实时复制。应用容灾是在数据容灾的基础上，在异地建立一套完整的与本地生产系统相当的备份应用系统（可以是互为备...阅读全文
React面试宝典 React 是靠数据驱动视图改变的一种框架，它的核心驱动方法就是用其提供的 setState 方法设置 state 中的数据从而驱动存放在内存中的虚拟 DOM 树的更新。 更新方法就是通过 React 的 Diff 算法比较旧虚拟 DOM 树和新虚拟 DOM 树之间的 Change ，然后批处理这些改变。 React 性能优化的手段 React 中进行性能优化的手段可以从多个维度进行分类，以下是一些关键类别及其对应的优化策略： 1. 组件优化 使用PureComponent或React.memo：对于仅根据props和state改变才重新渲染的组件，使用React.PureComponent或者对其包装一层React.memo，它们都能通过浅比较props来避免不必要的重...阅读全文
【完结21章附电子书】2024全新GO工程师面试总攻略，助力快速斩获offer GO工程师面试总攻略主要包括以下几个方面：基础知识复习、进阶知识掌握、项目经验准备、面试技巧提升、实战演练以及持续学习与社区参与。 一、基础知识复习 Go语言基础：理解Go语言的基本语法，如变量声明、控制结构、函数等。 类型系统：熟悉基本数据类型、复合类型以及类型转换。 并发模型：深入理解goroutine和channel的工作原理及其在并发编程中的应用。 内存管理：了解垃圾回收机制及如何避免内存泄漏。 标准库：熟悉常用的包如fmt、io/ioutil、net/http等，并能灵活运用。 二、进阶知识掌握 错误处理：掌握使用error类型进行错误处理的方法，了解如何优雅地处理程序中的异常情况。 测试：学会编写单...阅读全文
真实高质量低代码商业项目，前端/后端/运维/管理系统(完结)获课：aixuetang.xyz/5050/低代码平台在商业项目中的应用能够极大地提高开发效率，减少技术门槛，帮助团队快速交付应用。对于前端、后端、运维以及管理系统的设计，可以通过低代码平台实现以下几个方面：1.前端部分：低代码平台为前端开发提供了可视化的界面设计工具，开发者可以通过拖拽组件来快速构建用户界面。常见的低代码平台（如OutSystems、Mendix、Appian等）为前端开发提供以下支持：拖拽式界面设计：无需编写大量HTML、CSS和JavaScript代码，通过可视化工具拖动组件并配置属性来构建用户界面。响应式设计：很多低代码平台内建支持响应式布局，能确保应用在不同设备上的良好展示。集成第三方库与组件：可以集成第...阅读全文
DBA数据库工程师 获课地址：itazs.fun/13241/ 获取ZY↑↑方打开链接↑↑ DBA（数据库管理员）和数据库工程师是两个密切相关但有所区别的职业。以下是对这两个角色的探讨： DBA（数据库管理员） DBA主要负责管理和维护数据库管理系统（DBMS），属于运维工程师的一个分支。他们的工作职责包括但不限于： 数据库设计：确定数据库的需求、建立数据库模型、定义表结构、数据字典设计以及性能优化。 安装和升级：安装和升级数据库服务器，以及应用程序工具。 存储管理：熟悉数据库系统的存储结构，预测未来的存储需求，制订数据库的存储方案。 安全性和权限管理：控制和监控用户对数据库的存取访问，制定合理的用户权限和角色管理策略，以确保数据库的安全性。 备份和恢复：负责定义和实施适当的数据库备份和恢复...阅读全文
DBA数据库工程师（已完结）获课：www.999it.top/13241/优秀的数据库管理员（DBA，Database Administrator）在信息技术领域中扮演着至关重要的角色，尤其是在数据成为企业核心资产的今天。一个出色的DBA不仅需要掌握深厚的技术技能，还需要具备良好的沟通能力和业务理解力，以确保数据库系统的稳定、安全和高效运行。以下是优秀DBA的社会地位的一些体现：1.技术权威专业知识：作为数据库专家，DBA拥有对特定数据库管理系统（如Oracle, MySQL, PostgreSQL等）及其相关工具和技术的深入理解。问题解决者：当系统出现问题时，DBA往往是第一个被求助的人，因为他们有能力快速诊断并解决问题。2.业务伙伴战略决策支持：随着数据分析的重要性日益增加，DBA与业...阅读全文
近日，由天翼云数据库团队、中国电信云计算研究院和深圳北理莫斯科大学合作完成的《Taste: Towards Practical Deep Learning-based Approaches for Semantic Type Detection in the Cloud》（构建云上基于深度学习的大规模语义类型识别系统）论文被28th International Conference on Extending Database Technology（EDBT）长文收录。EDBT是数据库领域的知名国际会议，也是中国计算机学会CCF推荐的重点学术会议，已连续举办27届。此次天翼云数据库产品线所著论文被EDBT收录，代表着天翼云的科技创新能力再次获得数据库工业界和学术界的权威认可。该论文专注于数据...阅读全文
xia仔ke：xingkeit.top/9520/ 引言 在当今快速发展的信息技术时代，企业和组织面临着日益复杂的系统架构和多样化的应用需求。为了提升业务灵活性、减少开发周期以及提高系统的可维护性，许多企业选择了集成各种新技术和工具，其中ICE（Interface, Component, and Event）技术正是实现这一目标的重要方法。本文将探讨学习ICE技术的必要性，包括其在系统集成中的优势、对提升开发效率的贡献、促进业务创新的作用以及适应未来技术趋势的意义。 1. ICE技术概述 ICE技术是一种关注系统组件之间交互的架构设计方法，主要包括接口（Interface）、组件（Component）和事件（Event）三大要素。通过定义清晰的接口，模块化的组件和基于事件的通信机制，ICE技...阅读全文
6 大数据库，挖掘 7 种业务场景的存储更优解获课：keyouit.xyz/13882/获取ZY↑↑方打开链接↑↑在技术的广袤天地里，不存在一招鲜吃遍天的 “万能” 技术手段。就像在武侠世界中，没有哪一种武功能够应对所有的对手和情境。每一种技术都有其独特的优势和局限性，它们是为了解决特定的问题、满足特定的业务需求而诞生的。以数据库技术为例，关系型数据库如 MySQL、Oracle，凭借其强大的事务处理能力和结构化存储方式，在传统企业的核心业务系统中占据着重要地位，就如同江湖中的名门正派，根基深厚，招式严谨。然而，在面对互联网应用中大量的非结构化数据和高并发读写需求时，它们却显得力不从心。此时，非关系型数据库如 Redis、MongoDB 应运而生，Redis 以其快速的内存读写性能，成为缓存...阅读全文
C++数据开放平台实战，手把手教你做工业级项目「完结」来百度APP畅享高清图片获课：itazs.fun/5766/获取资源：上方URL获取资源C++ 数据类型介绍C++ 是一种静态类型的语言，这意味着变量在声明时必须指定类型。C++ 提供了多种内置数据类型，这些类型可以分为以下几类：基本数据类型、复合数据类型和派生数据类型。1. 基本数据类型基本数据类型是最常用的类型，它们直接对应于计算机的硬件支持。C++ 中的基本数据类型包括整型、浮点型、字符型和布尔型。1.1 整型（Integer Types）整型用于表示整数，包括有符号和无符号两种形式。常见的整型有：int：通常为32位，范围通常是 -2,147,483,648 到 2,147,483,647。short：通常为16位，范围通常是 ...阅读全文
SRE 极速入门，开辟你的职业蓝海/在当今数字化时代，企业的业务高度依赖于复杂的软件系统和基础设施。系统的可靠性直接影响着用户体验、业务收入以及企业声誉。 Site Reliability Engineering（SRE）作为一门新兴的学科应运而生，旨在通过软件工程的方法和实践来保障系统的可靠性和稳定性。本文将带领读者急速入门 SRE，了解其核心概念、关键原则和主要实践。二、SRE 是什么？SRE 是 Google 在 2003 年左右提出并发展起来的一种理念和实践体系。它融合了软件工程、系统工程和运维等多方面的知识与技能，致力于构建和维护可靠的大规模分布式系统。SRE 团队不仅仅关注系统的正常运行时间，更注重在可靠性、性能、效率以及创新之间寻找平衡。与传统运维（Operations）相...阅读全文
11月6日，国际数据公司（IDC）最新发布的《中国专属云服务市场（2024上半年）跟踪》报告显示，2024上半年，专属云服务市场同比增长13.4%。中国电信天翼云以21.4%的市场份额持续领跑专属云服务市场。伴随数智化转型不断深入，产业发展对数字基础设施的要求也不断提高，越来越多企业意识到多类异构私有云难以满足自身集约化管理、能力迭代、便捷运营等需求，开始转向既具备公有云能力，又兼具私有云数据本地化优势的专属云。此外，生成式AI的快速发展正促使云服务商将更多高阶服务下沉到属地专属云资源池，并加速向智算专属云换代升级，以满足客户对高性能、高安全性的AI计算需求。作为云服务国家队，天翼云始终坚持科技创新，以自主可控的全栈云服务产品体系，为千行百业向数字化、智能化转型赋能。天翼专属...阅读全文
前言 proxy_cache是nginx内置的一个缓存系统，可实现减小后端负载的作用。 常用参数说明 参数 说明 proxy_cache_path 缓存文件路径。level表示目录层级，1:2表示两个子目录。keys_zone指定缓存区名称和大小。inactive表示缓存有效期。max_size表示硬盘中缓存的大小。use_temp_path为off时表示缓存文件直接写到cache中而不使用temp_path，避免文件拷贝导致影响性能。 proxy_cache 启用缓存并指定缓存区域 proxy_cache_valid 根据状态码来定义缓存的有效期 proxy_cache_min_uses 被访问多少次后才缓存，默认为1 proxy_cache_methods 指定可以被缓存的请求方法，默认...阅读全文
本文分享自天翼云开发者社区《NAT原理：概念、使用场景、转发流程及规则》，作者：x****n网络地址转换（NAT）是一种在计算机网络中将一个网络的IP地址转换为另一个网络的IP地址的技术。它通常用于将私有网络的IP地址映射到公共网络的IP地址，以便在Internet上进行通信。NAT技术解决了IPv4地址短缺的问题，同时也提高了网络的安全性。NAT的使用场景主要包括以下几种情况：1.公共IP地址不足：在Internet上分配公共IP地址是有限的，而且越来越昂贵。因此，许多组织和企业使用私有IP地址来管理他们的局域网。但是，当这些网络需要与Internet通信时，就需要使用NAT技术将私有IP地址映射到公共IP地址。2.安全性：NAT技术可以提高网络的安全性，因为它隐藏了私有网络背后的真实IP...阅读全文
本文分享自天翼云开发者社区《说说天翼云大规模数据中心组网架构的优势》，作者：程****超天翼云大规模数据中心组网架构的优势：扁平化：现代大规模数据中心,以云计算为代表的流量模型，扁平化设计大大缩短服务器之间的通信路径，从而降低延迟，可以显著提高应用程序和服务性能。易扩展：如果 Spine 交换机的带宽不足，我们只需要增加 Spine 节点数，也可以提供路径上的负载均衡；如果接入连接不足，则只需增加 Leaf 节点数。在设计规模上可以达到几万台至十万台级别.低收敛比：容易实现 1:X 甚至是无阻塞的 1:1 的收敛比，而且通过增加 Spine 和 Leaf 设备间的链路带宽也可以降低链路收敛比，充分适应当前大规模集群的通信需求。更可靠: Spine和Leaf节点全连接,提供了更为可靠的组网连接...阅读全文
程序员基石必修课，计算机网络底层原理（高清完结）获课：程序员基石必修课，计算机网络底层原理（高清完结）获取ZY↑↑方打开链接↑↑掌握通过抓包解决问题的能力掌握通过抓包解决问题的能力，是网络工程师、Web前端开发人员以及网络安全专家等必备的技能之一。以下将详细介绍如何通过抓包来解决问题，并提升相关能力。一、抓包的基本概念抓包（Packet Capture）是指截获、记录和分析网络数据包的技术。通过抓包，可以深入了解网络流量，识别潜在问题，甚至发现安全隐患。二、抓包工具的选择在抓包过程中，选择合适的工具至关重要。以下是一些常用的抓包工具：Wireshark：一款功能强大的开源抓包工具，支持多种操作系统。它提供了丰富的分析功能，能够对捕获的数据包进行深度解析。tcpdump：一个命令行工具，适用...阅读全文
技术大牛成长课，从0到1带你手写一个数据库系统(超清完结)获课：技术大牛成长课，从0到1带你手写一个数据库系统(超清完结)获取ZY↑↑方打开链接↑↑手写数据库系统的必要性，及系统的整体介绍手写数据库系统的必要性手写数据库系统为数据库技术的优化和创新提供了可能。开发者可以尝试新的数据存储模型、索引结构或查询优化算法。例如，研究人员可以开发一种基于新型硬件（如非易失性内存）的存储引擎，以突破传统存储方式的性能瓶颈。在计算机科学教育领域，手写数据库系统是一个非常好的教学实践项目。它可以帮助学生巩固数据结构、算法和操作系统等多门课程的知识。学生通过自己实现数据库的存储引擎、查询处理器等组件，能够将理论知识与实际应用相结合，提高编程和系统设计能力。对于一些具有特殊业务要求的场景，现成的数据库系统可能...阅读全文
### AI RAG（检索增强生成）技术详解 **AI RAG（Retrieval-Augmented Generation，检索增强生成）** 是一种结合信息检索与生成式模型的技术，旨在通过动态整合外部知识库提升人工智能系统的回答准确性、实时性和专业性。其核心逻辑是“先检索，后生成”，解决了传统生成模型依赖固定训练数据、易产生错误或过时内容（幻觉问题）的局限性。 --- #### 一、**核心原理与工作流程** 1. **检索阶段** • **目标**：从外部知识库（如数据库、文档、网页）中快速定位与用户问题相关的信息片段。 • **技术实现**： ◦ 通过向量化技术将文本转化为高维语义向量，利用相似度匹配（如余弦相似度）筛选最相关的数据。 ◦ 支持动态更新知识库（如最新政策、医学研究），...阅读全文
本文分享自天翼云开发者社区《弹性存储关键技术介绍》，作者：1****m关键技术：（1）一致性HASH算法，保证数据分片尽量均衡在不同的故障域上，提升存储数据的安全可靠性。以数据唯一标识符、当前存储集群的拓扑结构以及数据备份策略作为一致性HASH算法的输入，可以随时随地通过计算获取数据所在的底层存储设备并直接通信获取或者写入数据，从而避免查表操作，实现去中心化和高度并发，将数据均衡的存储到各个存储节点，实现数据存储的负载均衡去中心化以及哈希的数据随机分布，使得弹性存储底座在理论上具备无限的可扩展性一致性HASH 算法支持数据的多种备份策略，支持可配置副本数，支持存储节点故障域定义与划分，从而使整个系统具备了高可靠性和高可用性。（2）增加盘级缓存，提升引擎读写性能。为每个存储节点配置两块SSD盘...阅读全文
实战Spark3 实时处理，掌握两套企业级处理方案（完结11章） sprark提供实时计算的模块:SparkStreaming、StructuredStreaming Spark Streaming是构建在Spark Core基础之上的流处理框架，是Spark非常重要的组成部分。Spark Streaming于2013年2月在Spark0.7.0版本中引入，发展至今已经成为了在企业中广泛使用的流处理平台。在2016年7月，Spark2.0版本中引入了Structured Streaming，并在Spark2.2版本中达到了生产级别，Structured Streaming是构建在Spark SQL之上的流处理引擎，用户可以使用DataSet/DataFreame API进行流处理，目前Str...阅读全文
大数据生态圈/Hadoop/Spark/Flink/数据仓库/实时分析/推荐系统获课：789it点top/2505/获取ZY↑↑方打开链接↑↑大数据生态圈：构建智能时代的基石在数字化浪潮汹涌的今天，大数据已成为推动各行各业变革的重要力量。大数据生态圈，作为这一变革的核心驱动力，汇聚了Hadoop、Spark、Flink、数据仓库、实时分析以及推荐系统等一系列关键技术，共同构建了一个高效、智能的数据处理与分析体系。本文将深入探讨这些技术如何协同工作，为企业带来前所未有的数据洞察力和业务价值。Hadoop：大数据处理的基石Hadoop，作为大数据领域的基石，为海量数据的存储和处理提供了强大的分布式基础架构。其核心组件HDFS（Hadoop Distributed File System）通过分布...阅读全文
HBase 的 Row Key 路由策略 **并不一定是按照字母顺序（a-z）或简单地将数据平均分割到 Region**，而是基于行键的字典序排序和动态分区机制来实现的。 --- ### **1. HBase 的 Row Key 分区机制** HBase 的数据分区是基于 **行键的字典序（Lexicographical Order）** 的，而不是简单的按字母顺序或均匀分割。以下是关键点： #### **(1) 字典序排序** - 行键在 HBase 中是按字典序排序的。 - 字典序不仅适用于字母（a-z），还适用于数字、符号和其他字符。 - 例如： ```plaintext "001" < "010" < "100" < "aaa" < "aab" < "zzz" ``` #### **...阅读全文
Flink 从0到1实战实时风控系统(MK完结)获课：Flink 从0到1实战实时风控系统(MK完结)获取ZY↑↑方打开链接↑↑理解Flink4大基石之窗口机制Apache Flink 是一个分布式流处理框架，以其强大的窗口机制、状态管理、时间处理和高吞吐低延迟的特性著称。窗口（Window）是Flink中用于处理无限数据流的核心概念之一，它允许你对流中的数据进行分组并应用计算。以下是关于Flink窗口机制的详细解释：窗口类型Flink支持多种类型的窗口，主要包括以下几种：滚动窗口（Tumbling Windows）：数据被划分成固定大小的非重叠窗口。每个元素只属于一个窗口。例如：每5分钟统计一次点击量。滑动窗口（Sliding Windows）：类似于滚动窗口，但窗口之间有重叠部分。你可以...阅读全文
SpringBoot3.0 + RocketMq 构建企业级数据中台（完结）获课：97java.xyz/5063/获取ZY↑↑方打开链接↑↑SpringBoot3.0 + RocketMq 构建企业级数据中台与以往传统数据的优特点对比随着信息技术的飞速发展，企业对数据的管理和利用变得越来越重要。传统的数据管理方式在某些场景下已难以满足现代企业的需求，而基于SpringBoot3.0和RocketMq构建的企业级数据中台则为数据的整合、处理和服务提供了新的解决方案。本文将对SpringBoot3.0 + RocketMq构建的企业级数据中台与以往传统数据的优特点进行对比分析。一、SpringBoot3.0 + RocketMq构建的企业级数据中台的优点高效的数据处理能力高性能：SpringBo...阅读全文
获课：jzit.top/1961在开发一个C/C++气象数据中心项目时，所需的资源和工具可以从多个方面进行考虑。以下是一些关键因素和资源：1.硬件要求服务器/计算机：项目的核心将运行在服务器或高性能计算机上，尤其是在处理大量气象数据时，需要具备较强的处理能力和存储能力。 多核处理器（例如，Intel Xeon，AMD EPYC） 大容量内存（16GB及以上，视数据量而定） 高速硬盘（例如，SSD用于更快速的数据存储和读取）存储设备：由于气象数据量大，可能需要使用大量存储设备。 本地磁盘或网络附加存储（NAS）系统 大数据存储解决方案（如Hadoop、Ceph等）2.软件工具操作系统： Linux (如Ubuntu, CentOS等)，因其开源且稳定，在C/C++开发中表现优异。 Window...阅读全文
数据分析50+高频场景实战 业绩提升立竿见影|已完结数据分析在50+高频场景中的实战应用：业绩提升立竿见影随着数字化转型的深入，数据分析已成为各行各业提升业绩的关键工具，尤其是在50+高频场景中，数据分析的价值更加凸显。这些场景往往涉及大量数据流转和快速决策，如何从中提炼出有价值的信息并迅速应用，成为了企业快速提升业绩的核心所在。1. 50+高频场景的特点50+高频场景通常出现在零售、电商、金融、医疗、互联网等行业。这些场景具有几个明显特点：数据量大、变化快：用户行为、交易记录、产品更新等数据量庞大且日常波动较大。决策时效性强：决策需要在极短的时间内完成，无法依赖长周期的分析。行为复杂多样：用户需求和行为呈现多元化趋势，需要精准分析每个细分群体的行为模式。2. 数据分析在50+高频场景中的应...阅读全文
SpringBoot2.X+Vue+UniAPP，全栈开发医疗小程序无秘分享获课：3w-bcwit和top/208/获取ZY↑↑方打开链接↑↑后端技术栈分析在SpringBoot2.X+Vue+UniAPP全栈开发医疗小程序的过程中，后端技术栈的选择与实施至关重要。以下是对这一组合中后端技术栈的详细分析：SpringBoot2.X后端技术栈1. 技术特性与优势自动配置与快速开发：SpringBoot2.X凭借其自动配置的特性，大大简化了Spring应用的初始化和开发过程，使得开发者能够更快速地构建出稳定、高效的后端服务。丰富的生态与工具支持：SpringBoot2.X拥有庞大的生态系统和丰富的工具支持，包括Spring Cloud、Spring Data等，为开发者提供了全方位的技术解决方...阅读全文
轻松入门大数据：玩转Flink，打造湖仓一体架构（完结无秘）获课：xuelingit点xyz/2159/获取ZY↑↑方打开链接↑↑玩转 Flink，打造湖仓一体架构在大数据时代，数据成为企业决策和创新的核心资产。如何高效地管理和利用这些数据，湖仓一体架构应运而生。Apache Flink 作为一款强大的开源流批一体化处理框架，在打造湖仓一体架构中发挥着关键作用。湖仓一体架构：融合的力量传统的数据架构中，数据仓库和数据湖各自为政。数据仓库以结构化数据为主，注重数据的一致性和准确性，主要用于支持企业的决策分析；而数据湖则以原始的、非结构化或半结构化数据存储为主，强调数据的灵活性和扩展性。但这种分离的架构在实际应用中面临诸多挑战，如数据处理流程复杂、数据一致性难以保证、数据价值难以充分挖掘等。湖...阅读全文
MySQL必会核心问题50讲 获课：itazs.fun/13237/ 获取ZY↑↑方打开链接↑↑ 《MySQL 必会核心问题 50 讲》中一些非常重要的内容： 一、基础概念部分 数据存储引擎 InnoDB 是 MySQL 默认的存储引擎。它支持事务，具有 ACID（原子性、一致性、隔离性、持久性）特性。例如，在一个银行转账系统中，从一个账户扣款并向另一个账户存款的操作必须是原子的，要么全部成功，要么全部失败，InnoDB 可以很好地保证这种事务的完整性。 MyISAM 不支持事务，但它的读写速度在某些简单场景下可能比 InnoDB 快。它适用于以读为主的场景，如一些数据仓库中的历史数据查询。MyISAM 存储引擎会将表存储为三个文件，分别是.frm（存储表结构）、.MYD（存储数据）和.MY...阅读全文
### 矩阵与距离算法详解：以余弦距离为中心 #### 一、**矩阵举例与余弦相似度/距离** 1. **矩阵示例** 假设用户-商品评分矩阵如下（用户对商品的评分范围为0-5分）： ``` | 用户 | 商品A | 商品B | 商品C | |------|-------|-------|-------| | 用户1 | 4 | 0 | 3 | | 用户2 | 5 | 2 | 1 | | 用户3 | 0 | 4 | 2 | ``` 用户1和用户2的评分向量分别为：\( \mathbf{u_1} = [4, 0, 3] \)，\( \mathbf{u_2} = [5, 2, 1] \)。 2. **余弦相似度原理** 余弦相似度衡量向量方向的一致性，忽略向量长度差异： \[ \cos(\the...阅读全文
本文分享自天翼云开发者社区《如何用sockpef测试实例之间的网络时延》，作者：j****n网络时延：指数据（报文/分组、比特流）从网络的一端发送到另一端所需的时间。也叫延迟或迟延。操作步骤：分别在测试机和辅助测试机上执行一下命令，安装sockperfyum install -y autoconf automake libtool gcc-c++cd /optwget ***/tags/3.8.tar.gz –no-check-certificate(官网地址，自行百度）tar -zxf 3.8.tar.gzcd sockperf-3.8/（./autogen.sh && ./configure && make && make install）./autogen.sh./configurem...阅读全文
2023升级版-Spark+ClickHouse实战企业级数据仓库，进军大厂必备获课地址：jzit.top/819/Spark+ClickHouse实战企业级数据仓库引用Apache Spark和ClickHouse是构建企业级数据仓库的强大工具。Spark用于大规模数据处理，而ClickHouse是一个列式数据库管理系统，适用于在线分析处理（OLAP）场景。以下是使用Spark和ClickHouse实战企业级数据仓库的步骤：1. 需求分析与设计需求收集：与业务团队沟通，了解数据仓库的需求，包括数据源、报表需求、查询性能等。数据模型设计：设计星型模式或雪花模式的模型，以适应ClickHouse的列式存储。2. 环境准备硬件资源：确保有足够的计算和存储资源来部署Spark集群和ClickHou...阅读全文
MQ大牛成长课–从0到1手写分布式消息队列中间件（完结）xia载ke：666it.top/5291/从0到1手写分布式消息队列中间件（MQ）是一个复杂且系统的过程，涉及多个方面，包括需求分析、设计架构、编码实现、测试优化以及部署运维等。以下将详细阐述这一过程及其结果。一、需求分析在构建分布式消息队列中间件之前，首先需要明确其基本功能需求：消息的发布与订阅：允许生产者发布消息到队列，消费者订阅并消费这些消息。消息的持久化：确保消息在系统故障时不会丢失，通过持久化存储实现。分布式部署：支持在多个节点上部署消息队列中间件，实现高可用性和负载均衡。消息的有序性和可靠性：保证消息按发布顺序被消费，同时确保消息在传输过程中的可靠性。二、设计架构基于需求分析，设计分布式消息队列中间件的架构如下：组件设计...阅读全文
12月20日，由中国信息通信研究院举办的央国企上云高质量发展沙龙暨一云多算、大模型混合云成果发布会在北京成功召开。会上公布了央国企典型案例评选结果，天翼云科技有限公司央企行业中心与中国信息通信科技集团有限公司（简称“中国信科”）联合申报的《中国信科国云安全邮箱应用》项目入选2024央国企十佳上云典型案例，为产业提供了标杆示范与发展指引。  中国信科是我国信息通信领域的高科技中央企业，由国务院国资委直属，承担着锻造国家战略科技力量，打造信息通信大国重器的责任使命。近年来，中国信科深度用云，不断提升各个业务系统的数字化水平，通过...阅读全文
