1秒10亿数据!阿里云日志服务再次升级

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介:

日前,在“2017杭州·云栖大会”上阿里云宣布,日志服务与Splunk打通合作,同时面向亿级实时日志分析功能上线。兼容SQL92标准与JDBC协议,集中解决各类环境日志一站式需求,包括采集、存储、投递与查询分析等,将日志分析提升到全新高度,达到国内领先水平。

日常生活中人和物的活动会产生大量的数据,而日志是一种常用记录这类活动的载体。通过日志处理,分析可以帮助我们通过大数据找到背后的运作规律,做到业务的智能运维和运营。日志分析最终是拿到结果,但过程中往往需要通过软件(例如kafka、ELK、Flume)等组合搭建日志处理系统,这给使用日志分析工作带来很多问题和困扰。而阿里云日志服务是一种无托管的方案,无需用户关心琐碎的数据采集、扩容、维护、错误处理等工作,将精力集中投入在“分析”结果上。

在国外云厂商方案中,一般需要通过几个产品连接+组合才能搭建日志处理方案。就如要开一辆车,得购买几个组件,在一些连接点上还需要写一些处理程序才能运行起来,在使用过程中需要到不同产品中关注水位,以确保服务可用性。阿里云日志服务提供的是完整的解决方案,整体易用性更佳。

据了解,阿里云日志服务商业化一年内大约推出30+新功能,同时也将日志分析提升到新的高度,具备以下几个特点:

  1. 快:传统方案从数据产生到拿到结果往往最快需要接近分钟。今天日志服务下的LogAnalytics功能够在1秒内,完成数据采集 + 存储 + 10亿查询 + 1亿计算所有功能,这就意味着日志分析实时性达到前所未有速度。
  2. 强:传统方案一般只支持有限的查询+聚合分析。但LogAnaltyics完整支持SQL 92语法,可以像分析报表数据一样分析你的日志。
  3. 广:除了与Docker、Storm、Spark Streaming、Hadoop、Hive、Presto + 阿里云大数据对接外,还支持了Grafana等著名开源数据可视化插件,方便与上层业务系统集成。
  4. 省:费用接近自建10%,就是这么任性。具体情况可以参见自建费用对比,
    阿里云日志服务负责人介绍,目前主要有三个功能:LogHub,LogShipper,LogAnalytics。其中LogHub使用成本与其他方案相比,能节省60%以上时间和费用,极大节省了日志系统的投入。而目前阿里云提供的LogShipper功能也可以免费使用,能为用户提供海量、高并发、高性价比的日志处理系统。如果采集公网上用户一天10 GB压缩后的数据,如果通过自建方案需要16元/天,而使用LogHub 只需要2元,大约为前者10%,且不需要任何运维上的投入。LogAnalytics在同样规模,性能条件下,价格是自建方案10%。例如一天写入50GB数据(其中27GB 为实际的内容),保存90天,平均一个月的耗费对比如下图:image

同样性能,使用LogSearch/Analytics与ELK(SSD)费用比为 13.6%。

阿里云日志产品使用起来也非常简单,主要分为两个步骤:一是接入日志数据;二是在控制台配置并进行分析。之后无论是对接实时计算,还是数仓,或仪表盘还是报警都非常方便。
image

据了解,该产品适合对日志处理、分析有需求的用户场景。例如电子商务,媒体直播,游戏,广告,IoT和App开发用户。这些场景上都有大量用户、设备产生的数据需要进行实时分析。而使用阿里云日志产品,则能更快更省更好地处理分析。

想了解更多阿里云日志产品,欢迎点击www.aliyun.com/product/sls。

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
18天前
|
存储 调度 C++
16 倍性能提升,成本降低 98%! 解读 SLS 向量索引架构升级改造
大规模数据如何进行语义检索? 当前 SLS 已经支持一站式的语义检索功能,能够用于 RAG、Memory、语义聚类、多模态数据等各种场景的应用。本文分享了 SLS 在语义检索功能上,对模型推理和部署、构建流水线等流程的优化,最终带给用户更高性能和更低成本的针对大规模数据的语义索引功能。
133 10
|
29天前
|
监控 安全 程序员
Python日志模块配置:从print到logging的优雅升级指南
从 `print` 到 `logging` 是 Python 开发的必经之路。`print` 调试简单却难维护,日志混乱、无法分级、缺乏上下文;而 `logging` 支持级别控制、多输出、结构化记录,助力项目可维护性升级。本文详解痛点、优势、迁移方案与最佳实践,助你构建专业日志系统,让程序“有记忆”。
158 0
|
2月前
|
SQL 人工智能 监控
SLS Copilot 实践:基于 SLS 灵活构建 LLM 应用的数据基础设施
本文将分享我们在构建 SLS SQL Copilot 过程中的工程实践,展示如何基于阿里云 SLS 打造一套完整的 LLM 应用数据基础设施。
504 54
|
2月前
|
数据采集 运维 监控
不重启、不重写、不停机:SLS 软删除如何实现真正的“无感数据急救”?
SLS 全新推出的「软删除」功能,以接近索引查询的性能,解决了数据应急删除与脏数据治理的痛点。2 分钟掌握这一数据管理神器。
173 20
|
3月前
|
存储 缓存 Apache
StarRocks+Paimon 落地阿里日志采集:万亿级实时数据秒级查询
A+流量分析平台是阿里集团统一的全域流量数据分析平台,致力于通过埋点、采集、计算构建流量数据闭环,助力业务提升流量转化。面对万亿级日志数据带来的写入与查询挑战,平台采用Flink+Paimon+StarRocks技术方案,实现高吞吐写入与秒级查询,优化存储成本与扩展性,提升日志分析效率。
397 1
|
3月前
|
存储 关系型数据库 数据库
【赵渝强老师】PostgreSQL数据库的WAL日志与数据写入的过程
PostgreSQL中的WAL(预写日志)是保证数据完整性的关键技术。在数据修改前,系统会先将日志写入WAL,确保宕机时可通过日志恢复数据。它减少了磁盘I/O,提升了性能,并支持手动切换日志文件。WAL文件默认存储在pg_wal目录下,采用16进制命名规则。此外,PostgreSQL提供pg_waldump工具解析日志内容。
242 0
|
3月前
|
数据采集 运维 监控
|
6月前
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
711 54

相关产品

  • 日志服务