app软件下载网站源码,莱芜高端网站设计建设,工程建设标准强制性条文最新版本,北京网站提升排名云上对标架构及技术详解 我们对传统IDC应用架构进行分析之后#xff0c;我们发现之前的系统架构存在一些不合理的地方导致了很多的痛点#xff0c;为了解决这些痛点我们最终考虑上云。开始思考怎样利用云上产品来解决目前遇到的痛点。例如
为了解决我们自建IDC底层基础设施可…云上对标架构及技术详解 我们对传统IDC应用架构进行分析之后我们发现之前的系统架构存在一些不合理的地方导致了很多的痛点为了解决这些痛点我们最终考虑上云。开始思考怎样利用云上产品来解决目前遇到的痛点。例如
为了解决我们自建IDC底层基础设施可靠性差的问题我们改用云计算服务基础设施可靠性异地容灾数据备份数据安全等问题再也不用担心
为了解决存储性能瓶颈以及用户访问体验问题我们改用云上对象存储OSS服务CDN为了解决单台数据库性能扩展瓶颈我们改用云上的DRDS分布式关系数据库为了解决大规模的车机上报而导致数据写入延迟问题我们改用云上IOT套件HiTSDB为了解决日常以及节假日流量高峰的问题我们改用云上弹性伸缩服务按量付费以最低的成本完美解决日常及节假日流量高峰为了解决大数据存储瓶颈以及降低大数据开发分析工作难度我们改用云上MaxCompute HBase为了解决运维自动化问题以及提高运维工作效率我们改用云上codepipeine云监控日志服务容器服务为了解决安全防御瓶颈我们改用云上云盾DDOS高防IP web应用防火墙堡垒机为了解决负载均衡以及网络扩容瓶颈我们改用云上SLB为了降低上云迁移复杂性我们改用云上VPC虚拟专用网络IP地址可以和原来保持不变为了解决数据迁移的稳定性和便捷性我们采用阿里云数据迁移工具DTS
我们云上新的应用架构即会兼容部分老应用架构的特性同时会采用云上新技术和云上产品来解决我们曾经的痛点和瓶颈。并且云上新架构需要满足未来2-3年的业务发展规划能够支撑千万级用户规模的应用系统架构。下图为云上应用架构图。 1、云上对标架构介绍
1.1安全 安全这块以前IDC机房的时候防范能力比较弱。为了解决安全防御瓶颈我们改用云上云盾DDOS高防IP web应用防火墙堡垒机
可以通过配置DDoS高防IP将攻击流量引流到高防IP确保源站的稳定可靠。DDoS攻击防护峰值带宽 20 Gbps ~ 300 Gbps 。同时提供按天弹性付费方案按当天攻击规模灵活付费。 云盾Web应用防火墙可以防御SQL注入、XSS跨站脚本、常见Web服务器插件漏洞、木马上传、非授权核心资源访问等OWASP常见攻击并过滤海量恶意CC攻击避免网站资产数据泄露保障网站的安全与可用性。
关于DDOS高防IP和web应用防火墙产品介绍请详见文章附录第7.1第7.2小结。
另外选择用堡垒机来替换原来的开源堡垒机相比开源的产品阿里云堡垒机多了一些审计合规高效易用多协议支持追溯回放等功能。
1.2负载均衡集群 为了解决负载均衡以及网络扩容瓶颈我们改用云上SLB负载均衡。阿里云的SLB负责均衡提供四层TCP协议和UDP协议和七层HTTP和HTTPS协议的负载均衡服务。四层采用开源软件LVS实现负载均衡并根据云计算需求对其进行了个性化定制。七层采用Tengine实现负载均衡。Tengine是由淘宝网发起的Web服务器项目它在Nginx的基础上针对有大访问量的网站需求添加了很多高级功能。更多关于阿里云负载均衡介绍请详见文章附录第2.2小结。
负载均衡实例规格选型 根据当前业务量来看五百万用户最高峰期间并发最大连接为50万推荐使用 性能保障型规格5slb.s3.medium最大连接数50w每秒新建连接数5wQPS支持3w。完全满足当下的企业需求如果后续业务和用户规模继续增长仍然可以在线扩容到更高级别规格的SLB实例。如果未来达到千万级用户规模需要大于100万规格的实例可以联系阿里云客户经理开通。 1.3应用服务器集群: 应用服务器采用阿里云ECS云服务器来部署应用环境。之前提到运行环境主要为JAVA环境和PHP环境还有少部分Node.js环境。
Java环境采用Centos7 JDK1.7 Tomcat7PHP环境:采用Centos7 PHP5.6.11Node.js环境采用Centos7 Node8.9.3有2种方式快速构建应用运行环境
购买ECS服务器后安装操作系统然后手动部署应用环境最后将应用环境构建成新的系统镜像。购买ECS云服务器后直接选择云市场的已经封装好的应用环境镜像即可。产品选型 ECS产品根据业务场景和使用场景ECS实例可以分为多种规格族。同一业务场景下还可以选择新旧多种规格族。同一个规格族里根据CPU和内存的配置可以分为多种不同的规格。ECS实例规格定义了实例的CPU和内存的配置包括CPU型号、主频等这两个基本属性。根据此前车联网行业特性来看前端web应用推荐ecs.c5.xlarge4核8G规格实例而后端应用推荐ecs.g5.xlarge4核16G规格实例。 1.4分布式服务集群 分布式服务集群延用Dubbo ZooKeeper分布式服务框架。采用7台8核16G SSD磁盘200G ecs.c5.2xlarge规格ECS实例用于构建zookeeper集群。Zookeeper集群节点必须是奇数因为在zookeeper集群中只要有超过一半的机器是正常工作的那么整个集群对外就是可用的。
1.5缓存集群 缓存集群采用阿里云数据库Redis版传统自建Redis数据库通常存在集群节点扩容复杂管理维护难等问题。所以我们改用云上数据库 Redis 版来替代它具有性能卓越弹性扩容数据安全性高可用性高秒级监控简单易用等优势。云数据库Redis版支持按量付费和包年包月两种模式按量付费可转为包年包月模式反之则不可以。可根据自己的需求自主选择更多关于云数据库Redis介绍请详见文章附录第3.2小结。
1.6消息队列集群 消息队列采用阿里云的消息队列kafka服务因为之前开源的kafka消息队列也经常遇到各种问题也没有相应的能力去修复bug选择阿里云的消息队列服务之后就不用担心这些问题因为阿里云有一支专家团队在维护它的日常稳定运行如出现官方bug他们有能力第一时间修复bug。更多关于阿里云消息队列kafka介绍请详见文章附录第8.2小结。
1.7流计算集群 云上流计算采用阿里云的流计算服务相较于其他流计算产品阿里云流计算提供一些极具竞争力的产品优势用户可以充分利用阿里云流计算提供的产品优势方便快捷的解决自身业务实时化大数据分析的问题。产品优势例如强大的实时处理能力、托管的实时计算服务、良好的流式开发体验、低廉的人力和集群成本。更多关于阿里云流计算介绍请详见文章附录第6.1小结。 1.8数据存储集群 MySQL集群:采用的是阿里云数据库RDS之MySQL版 阿里云数据库 MySQL 版是基于 Alibaba 的 MySQL 源码分支经过双 11 高并发、大数据量的考验拥有优良的性能和吞吐量。除此之外阿里云数据库 MySQL 版还拥有经过优化的读写分离、数据压缩、智能调优等高级功能。当前 RDS for MySQL 支持 5.5、5.6 和 5.7 版本。请详见文章附录第3.1小结。 RDS与自建数据库对比优势 综合性能对比
成本对比
 HBase集群:采用的是阿里云数据库HBase版 传统架构中的MongoDBS用来存储车辆上报的原始数据的这些数据通常情况下写多读少原始数据的保存可以有利于特殊情况对问题的追溯。或者是数据丢失的情况下可以用原始数据来进行弥补。原来MongoDB集群在达到一定规模之后性能出现断崖下降因为对MongoDB掌握不够深没有正确使MongoDB导致。这里改用云上数据库HBase版来替换原来的MongoDB集群。HBase的高并发大数据量等特性非常适合海量数据存储业务大屏安全风控搜索等场景。
HBase主要优势有两点
扩展性要强HBase是专门的列式数据库具有高并发低时延的处理能力支持数据从200G~10PB都适合。数据存储在HDFS默认具备多副本可靠性和自动扩展能力。HBase是天生的hadoop生态系统中的组件选择HBase,就是选择整个Hadoop生态。云HBase自带的Phoneix组件支持SQL能力二级索引等非常适合IoT实时业务并且支持带少量更新的TP操作。HBase和MapReducespark天然的结合同一份数据支持实时业务的同时可以完成大数据的分析以及还有时序组件OpenTSDB等。
更多关于云数据库HBase介绍请详见文章附录第3.4小结。
为什么我们不自建HBase而选择云数据库HBase呢云HBase和自建 Elasticsearch集群采用阿里云的Elasticsearch 传统自建Elasticsearch集群存在性能不足集群节点扩容复杂管理维护难度大等问题因此我们改用云上Elasticsearch服务它具有丰富的预置插件IK Analyzer,pinyin Analyzer,smart Chinese Analysis Plugin,Mapper Attachments Type plugin等等还包括集成X-pack插件提供企业级权限管控实时监控等强大功能。它的特点和优势如下
分布式的实时文件存储每个字段都被索引并可被搜索分布式的实时分析搜索引擎商业版X-pack插件提供企业级权限管控、实时系统监控等强大服务可弹性扩展到上百台服务器规模处理PB级结构化或非结构化数据支持IK analyzer插件Elastic官方技术支持团队7*24小时技术支持1.9文件存储集群 文件存储采用阿里云对象存储OSS 原来自建的NFS文件系统在扩展和访问速度方面随着文件数量的增加响应也越来越慢这一块采用阿里云的OSSCDN解决方案应用也需要进行小小的改造。 文件系统迁移改造方案请看2.2章节。 阿里云对象存储服务Object Storage Service简称 OSS是阿里云提供的海量、安全、低成本、高可靠的云存储服务。它具有与平台无关的RESTful API接口能够提供99.999999999%11个9的数据可靠性和99.99%的服务可用性。可以使用阿里云提供的API/SDK接口或者OSS迁移工具轻松地将海量数据移入或移出阿里云OSS。数据存储到阿里云OSS以后推荐选择标准类型Standard的阿里云OSS服务作为移动应用、大型网站、图片分享或热点音视频的主要存储方式也可以选择成本更低、存储期限更长的低频访问类型Infrequent Access和归档类型Archive的阿里云OSS服务作为不经常访问数据的备份和归档。更多关于阿里云对象存储服务OSS介绍请详见文章附录第4小结。
1.10 大数据计算平台 大数据计算平台采用阿里云大数据计算服务
智能车联网平台每天会采集海量车行驶数据例如车辆发动机状态驾驶行为油耗公里数行驶轨迹等等我们需要对这些海量数据进行加工和分析。例如用户每天行驶里程统计油耗统计用户驾驶行为月报告等等。因初期数据量相对较小使用Kettle进行抽取数据等工作ETL的工作大部分在MySQL数据仓库中完成。多种数据源使用Presto集群作为查询中间键进行相应的数据分析。但随着业务的疯狂增长数据表单表达到数亿后磁盘容量达几百GB时数据要求的复杂度逐步提升使用MySQL作为基础数据仓库的基石已经不足以应付常出现查询响应时间等待过长甚至内存崩溃导致执行失败的情况极大的影响了工作效率。
所以云上我们改用阿里云MaxCompute大数据计算服务来构建我们公司大数据开发和分析平台。MaxCompute能够为我们提供了完善的数据导入方案以及多种经典的分布式计算模型能够更快速的解决海量数据计算问题有效帮助我们公司降低成本并保障数据安全。Dataworks则提供了一站式的数据同步数据开发数据管理和数据运维等功能。更多关于阿里云大数据计算服务介绍请详见文章附录第6.2小结。
1.11运维管控集群 之前的传统运维基本都是靠人肉运维脚本运维运维自动化程度很低导致故障频发故障定位难我们的运维同学大量时间花在了重复的升级发布工作上花在了填坑以及解决故障上长此以往运维同学自身发展受限信心受挫人员流失比例高的恶性循环的结果。我们迫切希望这种状况可以得到较好的解决。对比之前大量采用开源的监控工具相比大部分阿里云的产品本身就自带web控制台也有一些比较实用的运维管控产品例如云监控堡垒机数据管理数据迁移容器服务域名等等。以前的运维痛点可以通过阿里云的运维产品可以很好的得到解决。 日志管理采用阿里云日志服务解决日志收集日志分析日志搜索等问题。 阿里云日志服务是针对日志类数据的一站式服务在阿里巴巴集团经历大量大数据场景锤炼而成。无需开发就能快捷完成日志数据采集、消费、投递以及查询分析等功能提升运维、运营效率建立 DT 时代海量日志处理能力。具有全托管实时性强生态丰富完整API等特点。
更多关于阿里云日志服务介绍请详见文章附录第5.7小结。
弹性扩容采用阿里云弹性伸缩ESS低成本解决日常以及节假日流量高峰问题。 在车联网行业中有个比较明显的行业特性就是早晚高峰是平时流量的3倍甚至更高但是平常要应付这么高并发的流量意味着资源投入也要3倍以上。在传统IDC架构中我们通常是按照平常最高峰流量的1.2倍1.2倍是为应对特殊情况预留的buffer来准备相应的服务器资源在平时资源闲置比较明显资源利用率不到30%意味着平常可能100台应用服务器就足够了但是为了应对高峰流量不出问题我们需要准备360台服务器应对6个小时的高峰流量其余18小时可能只需要100台服务器。
为了确保系统稳定提升用户体验当时我们只能投入比平时多几倍的服务器资源。所以在云上我们采用阿里云弹性伸缩服务它是一种根据业务需求和策略自动调整其弹性计算资源的管理服务。在满足业务需求高峰增长时无缝地增加ECS实例并在业务需求下降时自动减少ECS实例以节约成本。更多关于阿里云弹性伸缩服务介绍请详见文章附录第1.2小结。
域名管理采用阿里云域名服务一站式解决域名购买管理备案等问题。 以前的老万网被阿里云收购之后变更为阿里云域名服务它集域名注册、交易、解析、监控和保护为一体的综合域名管理平台。更多关于域名服务介绍请详见文章附录第5.6小结。
持续集成传统应用升级发布主要靠的人肉升级或者脚本升级后来尝试过利用开源的Jenkinsdocker方式构建一个简单的应用发布系统我们希望到云上可以继续保持这种发布方式所以改用云上CodePipeline阿里云CodePipeline是一款提供持续集成/持续交付能力并完全兼容Jenkins的能力和使用习惯的SAAS化产品。
它无需运维开箱即用全量兼容Jenkins插件支持ECS容器服务持续部署快速上手。更多关于codepipeline介绍请详见文章附录第5.9小结。
容器管理采用阿里云容器服务一站式解决容器生命周期管理及集群管理问题。 阿里云容器服务提供高性能可伸缩的容器应用管理服务支持用 Docker 和 Kubernetes进行容器化应用的生命周期管理提供多种应用发布方式和持续交付能力并支持微服务架构。容器服务简化了容器管理集群的搭建工作整合了阿里云虚拟化、存储、网络和安全能力打造云端最佳容器运行环境。阿里云容器服务可以提供一站式容器生命周期管理以及集群管理。更多关于阿里云容器管理介绍请详见文章附录第5.5小结。
统一配置采用阿里云应用配置管理传统IDC架构中我们的应用因为微服务架构的需要全部采用了的统一配置管理将配置中心化管理保存在zookeeper当中通过一个web前端进行配置管理。应用通过本地客户端向服务端请求配置。这样做的好处是应用配置可以集中存放统一配置方便管理。但是我们的web配置管理中心提供的功能比较简单甚至不具备权限管理配置快照备份和恢复等功能。在云上我们改用阿里云的应用配置管理ACM产品。
云上应用配置管理是一款在分布式架构环境中对应用配置进行集中管理和推送的应用配置中心产品。基于该应用配置中心产品可以在微服务、DevOps、大数据等场景下极大地减轻配置管理的工作量增强配置管理的服务能力。阿里云ACM 是分布式系统的配置中心。通过提供配置变更、配置推送、历史版本管理、灰度发布、配置变更审计等配置管理工具ACM 帮助集中管理所有应用环境中的配置降低分布式系统中管理配置的成本并降低因错误的配置变更带来可用性下降甚至发生故障的风险。更多关于阿里云应用配置管理ACM介绍请详见文章附录以及官方网站。
监控系统采用阿里云监控服务传统IDC架构中我们的监控系统是自建的zabbix监控系统随着公司业务快速发展监控项也急剧增加由最初的500个监控项增加到3w个监控项监控系统数据库性能跟不上查询很慢告警延迟和误报的现象逐渐增多监控需求越来越多样化定制化。传统监控系统已经不能满足未来业务高速发展。 所以我们云上改用云监控云监控是一项针对阿里云资源和互联网应用进行监控的服务。
云监控服务可用于收集获取阿里云资源的监控指标探测互联网服务可用性以及针对指标设置警报。云监控对用户提供Dashboard、站点监控、云产品监控、自定义监控和报警服务。更多关于云监控介绍请详见文章附录第5.1小结。
数据可视化采用DataV 解决了运维大屏监控大屏没有UI设计问题 企业多多少少有些大屏在公司接待参观考察工作时展示企业形象企业运营以及系统运行情况等。为了提升企业形象有必要针对数据可视化部分进行美化。阿里云的DataV 可以帮助非专业的工程师通过图形化的界面轻松搭建具有专业水准的可视化应用让更多的人看到数据可视化的魅力。
DataV 提供了丰富的可视化模板极大程度满足会议展览、业务监控、风险预警、地理信息分析等多种业务的展示需求。更多关于阿里云DataV数据可视化介绍请详见文章附录第5.2小结。
数据库运维采用阿里云数据管理DMS解决数据库运维管理问题 阿里云数据管理支持MySQL、SQL Server、PostgreSQL、MongoDB、Redis等关系型数据库和NoSQL的数据库管理同时还支持Linux服务器管理。它是一种集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。更多关于阿里云数据管理DMS介绍请详见文章附录第5.8小结。
1.12 尝试新产品解决老问题问题1海量车机设备的接入导致网络延时高设备管理困难安全性差 解决方案阿里云物联网套件iot套件解决大规模车机管理数据上报问题。 物联网套件是阿里云专门为物联网领域的开发人员推出的一站式设备管理平台。性能强大的IoT Hub方便设备和云端稳定的进行双向通信全球多节点的部署让全球设备都可以低延时与云端通信多重的防护能力保障设备云端安全功能丰富的设备管理能力帮助用户方便进行远程维护设备稳定可靠的数据存储能力方便海量设备数据存储和实时访问。
物联网套件还提供规则引擎与阿里云众多云产品打通用户通过规则引擎只需在web上配置规则即可实现数据采集数据计算数据存储等全栈服务灵活快速的构建物联网应用。更多关于阿里云IOT套件介绍请详见文章附录。 问题2车联网大多应用场景对数据实时性要求非常高但是目前在数据采集过程中由于数据库写入性能不够经常出现大量数据写入延迟情况。
解决方案阿里云高性能时间序列数据库HiTSDB解决海量数据写入延迟问题。 为什么说时间序列数据库能解决呢 据有关机构测试发现一辆联网汽车每小时能收集25GB数据。常规数据库在设计之初并非处理这种规模的数据关系型数据库处理大数据集的效果非常糟糕NoSQL数据库可以很好地处理规模数据但是它比不上一个针对时间序列数据微调过的数据库。相比之下时间序列数据库可以基于关系型数据库或NoSQL数据库将时间视作一等公民通过提高效率来处理这种大规模数据并带来性能的提升包括更高的容纳率Ingest Rates、更快的大规模查询尽管有一些比其他数据库支持更多的查询以及更好的数据压缩。
阿里云高性能时间序列数据库 (High-Performance Time Series Database , 简称 HiTSDB) 是一种高性能低成本稳定可靠的在线时序数据库服务提供高效读写高压缩比存储、时序数据插值及聚合计算广泛应用于物联网IoT设备监控系统 企业能源管理系统EMS生产安全监控系统电力检测系统等行业场景。 HiTSDB 提供百万级时序数据秒级写入高压缩比低成本存储、预降采样、插值、多维聚合计算查询结果可视化功能解决由于设备采集点数量巨大数据采集频率高造成的存储成本高写入和查询分析效率低的问题。后续文章会详细介绍HiTSDB性能测试内容。更多关于HiTSDB介绍请详见文章附录第。
问题3车联网行业是典型的大数据行业有大量的大数据分析应用场景需求但是自建大数据平台成本高维护困难大数据人才不好招。 解决方案 MaxCompute Dataworks 云数据库HBase版 阿里云大数据计算服务MaxCompute原名 ODPS是一种快速、完全托管的 GB/TB/PB 级数据仓库解决方案。MaxCompute 提供了完善的数据导入方案以及多种经典的分布式计算模型能够更快速的解决海量数据计算问题有效降低企业成本并保障数据安全。 同时DataWorks 和 MaxCompute 关系紧密DataWorks 为 MaxCompute 提供了一站式的数据同步任务开发数据工作流开发数据管理和数据运维等功能帮助企业专注于数据价值的挖掘和探索。普通开发人员也可以胜任大数据开发任务。 云数据库 HBase 版ApsaraDB for HBase是基于 Hadoop 且100%兼容HBase协议的高性能、可弹性伸缩、面向列的分布式数据库轻松支持PB级大数据存储满足千万级QPS高吞吐随机读写场景。
阿里集团在10年开始研究HBase并使用在生产之中目前阿里集团有10000台左右的HBase机器数百个集群服务数百个业务。是一款久经沙场的大数据产品。
问题4单机MySQL数据库遇到IO性能瓶颈和容量扩容瓶颈如果业务和用户规模继续增长将面临单机数据库扩展困难。 解决方案阿里云分布式关系型数据库服务DRDS阿里云分布式关系型数据库服务专注于解决单机关系型数据库扩展性问题具备轻量无状态、灵活、稳定、高效等特性是阿里巴巴集团自主研发的中间件产品。DRDS 兼容 MySQL 协议和语法支持分库分表、平滑扩容、服务升降配、透明读写分离和分布式事务等特性具备分布式数据库全生命周期的运维管控能力。DRDS 主要应用场景在大规模在线数据操作上通过贴合业务的拆分方式将操作效率提升到极致有效满足用户在线业务对关系性数据库要求。DRDS提供了丰富的功能:
分库分表 支持 RDS/MySQL 的分库分表在创建分布式数据库后只需选择拆分键DRDS 就可以按照拆分键生成拆分规则实现数据水平拆分。
透明读写分离 通过使用 RDS 只读实例或者 MySQL 备机实现读写分离帮助应用解决事务、只读实例或者备机挂掉、指定主备访问等细节问题对应用无侵入在 DRDS 控制台即可完成读写分离相关操作。
数据存储平滑扩容 当出现数据存储容量和访问量瓶颈时DRDS 支持在线存储容量扩展扩容无需应用改造扩容进度支持可视化跟踪。
服务升降配 DRDS 实例可以通过改变资源数量实现服务能力的弹性扩展。
分布式运维指令集 DRDS 提供独有分布式数据库运维指令集如 SHOW SLOW、TRACE、SHOW NODE 等指令有助于快速发现和定位问题。
全局唯一数字序列 DRDS 支持分布式全局唯一且有序递增的数字序列。满足业务在使用分布式数据库下对主键或者唯一键以及特定场景的需求。
数据库账号权限体系 DRDS 支持类单机 MySQL 账号和权限体系确保不同角色使用的账号操作安全。
分布式事务 DRDS 支持分布式柔性事务保证分布式数据库数据一致性。
监控报警 DRDS 支持对核心资源指标和数据库实例指标的实时监控和报警如实例 CPU、网络 IO、活跃线程等帮助实时发现资源和性能瓶颈。 更多关于阿里云分布式关系数据库DRDS介绍请详见文章附录第3.5小结。2、数据迁移策略
2.1 数据库迁移策略 数据库迁移是整个上云过程中最重要的一环难度也最大因为我们在迁移的时候要尽可能的减少业务本身的影响最好是不停机不中断现有业务。需要制定非常详细的计划和迁移策略
迁移工具推荐阿里云数据传输服务DTS DTS 是阿里云提供的一种支持 RDBMS关系型数据库、NoSQL、OLAP 等多种数据源之间数据交互的数据流服务。它提供了数据迁移、实时数据订阅及数据实时同步等多种数据传输能力。通过数据传输可实现不停服数据迁移、数据异地灾备、异地多活(单元化)、跨境数据同步、实时数据仓库、查询报表分流、缓存更新、异步消息通知等多种业务应用场景助构建高安全、可扩展、高可用的数据架构。 DTS 支持多种数据源类型例如
关系型数据库Oracle、MySQL、SQLServer、PostgreSQL 、RDS For PAAS、DRDS、PetaData、OceanBase。
NoSQLMongoDB、Redis 。
OLAPODPS、ADS、流计算。 迁移时间推荐在业务流量最低峰时段例如每天0点至5点
迁移方法 一般情况我们的业务数据库都是有主备的那么选择从数据库作为源数据库对云上数据库进行同步这样做的目的是为了减少对主库的影响有条件的话选择单独的从数据库专门用作对云上数据库进行全量同步迁移。完了之后再切换到主数据库开启增量数据同步利用DTS可以轻松完成数据库的增量同步。这样就可以保证线下数据库和线上数据库的一致性了。
2.2 文件系统迁移策略 之前采用的是自建NFS文件系统用于存储图片和文件。随着文件越来越多图片访问速度越来越慢搬到云上之后可以利用阿里云的OSS和CDN服务构建如下的web端直传OSS存储方案架构如下 用户的请求逻辑 1) 用户向应用服务器取到上传policy和回调设置。 2) 应用服务器返回上传policy和回调。 3) 用户直接向OSS发送文件上传请求。 4) 等文件数据上传完OSS给用户Response前OSS会根据用户的回调设置请求用户的服务器。 5) 如果应用服务器返回成功那么就返回用户成功如果应用服务器返回失败那么OSS也返回给用户失败。这样确保了用户上传成功的照片应用服务器都已经收到通知了。 6) 应用服务器给OSS返回。 7) OSS将应用服务器返回的内容返回给用户。 利用阿里云OSS存储代替原来的自建NFS文件系统优势很明显 OSS服务 配合CDN 服务一起使用则可以加速文件存储和访问速度提升用户访问体验。
CDN的工作原理就是将源站的资源缓存到各地的边缘节点服务器CDN节点上用户请求访问和获取资源时就近调用CDN节点上缓存的资源。这种分布式数据传输方式使得用户请求的资源不需要都回源站获取从而避免网络拥塞、分担源站压力保证用户访问资源的速度和体验。 使用CDN后的http请求处理流程如下图 阿里云CDN在全球拥有1300 节点国内完整覆盖 34 个省级区域大量节点位于省会等一线城市。海外覆盖70 多个国家和地区。阿里云所有节点均接入 万兆 网卡具备 90 Tpbs 带宽能力储备。单节点存储容量达 40 TB-1.5 PB带宽负载达到 40 Gbps-200 Gbps。 原文链接 本文为云栖社区原创内容未经允许不得转载。
