技术

agentic chat 图数据库的一些考量 LLM一些探索 Agent实践 LLM预训练 向量数据库的一些考量 fastapi+sqlalchemy进行项目开发 LLM微调实践 Python协程实现 Agent Functon Calling LLamaIndex入门 Multi-Agent探索 Python虚拟机 LLM工作流编排 Python实践 下一个平台Agent 激发LLM涌现——提示工程 LLM微调理论 大佬沉思 LLM外挂知识库 LLMOps 多模态LLM Python一些比较有意思的库 Transformers源码学习 LangChain源码学习 通用分布式计算引擎Ray Python并发 go依赖注入 go collection gc的基本原理 golang性能分析及优化 数据湖 高性能计算与存储 Linux2.1.13网络源代码学习 《大数据经典论文解读》 三驾马车学习 Spark 内存管理及调优 Yarn学习 从Spark部署模式开始讲源码分析 容器狂占内存资源怎么办？ 多角度理解一致性 golang io使用及优化模式 Flink学习 c++学习 学习ebpf go设计哲学 ceph学习 学习mesh kvm虚拟化 学习MQ go编译器以及defer实现 学习go 为什么要有堆栈 汇编语言 计算机组成原理 运行时和库 Prometheus client mysql 事务 mysql 事务的隔离级别 mysql 索引 坏味道 学习分布式 学习网络 学习Linux go堆内存分配 golang 系统调用与阻塞处理 Goroutine 调度过程 重新认识cpu mosn有的没的 负载均衡泛谈 单元测试的新解读 《Redis核心技术与实现》笔记 《Prometheus监控实战》笔记 Prometheus 告警学习 calico源码分析 对容器云平台的理解 Prometheus 源码分析 并发的成本 基础设施优化 hashicorp raft源码学习 docker 架构 mosn细节 与微服务框架整合 Java动态代理 编程范式 并发通信模型 《网络是怎样连接的》笔记 go channel codereview gc分析 jvm 线程实现 go打包机制 go interface及反射 如何学习Kubernetes 《编译原理之美》笔记——后端部分 《编译原理之美》笔记——前端部分 Pilot MCP协议分析 go gc 内存管理玩法汇总 软件机制 istio流量管理 Pilot源码分析 golang io 学习Spring mosn源码浅析 MOSN简介 《datacenter as a computer》笔记 学习JVM Tomcat源码分析 Linux可观测性 学习存储 学计算 Gotty源码分析 kubernetes operator kaggle泰坦尼克问题实践 kubernetes扩缩容 神经网络模型优化 直觉上理解深度学习 如何学习机器学习 TIDB源码分析 什么是云原生 Alibaba Java诊断工具Arthas TIDB存储——TIKV 《Apache Kafka源码分析》——简介 netty中的线程池 guava cache 源码分析 Springboot 启动过程分析 Spring 创建Bean的年代变迁 Linux内存管理 自定义CNI IPAM 共识算法 spring redis 源码分析 kafka实践 spring kafka 源码分析 Linux进程调度 让kafka支持优先级队列 Codis源码分析 Redis源码分析 C语言学习 《趣谈Linux操作系统》笔记 docker和k8s安全访问机制 jvm crash分析 Prometheus 学习 Kubernetes监控 Kubernetes 控制器模型 容器日志采集 容器狂占资源怎么办？ Kubernetes资源调度——scheduler 时序性数据库介绍及对比 influxdb入门 maven的基本概念 《Apache Kafka源码分析》——server Kubernetes类型系统 源码分析体会 《数据结构与算法之美》——算法新解 Kubernetes源码分析——controller mananger Kubernetes源码分析——apiserver Kubernetes源码分析——kubelet Kubernetes介绍 ansible学习 Kubernetes源码分析——从kubectl开始 jib源码分析之Step实现 线程排队 jib源码分析之细节 跨主机容器通信 jib源码分析及应用 为容器选择一个合适的entrypoint kubernetes yaml配置 《持续交付36讲》笔记 mybatis学习 程序猿应该知道的 无锁数据结构和算法 CNI——容器网络是如何打通的 为什么很多业务程序猿觉得数据结构和算法没用？ 串一串一致性协议 当我在说PaaS时，我在说什么 《数据结构与算法之美》——数据结构笔记 PouchContainer技术分享体会 harbor学习 用groovy 来动态化你的代码 精简代码的利器——lombok 学习 《深入剖析kubernetes》笔记 编程语言那些事儿 rxjava3——背压 rxjava2——线程切换 spring cloud 初识 《深入拆解java 虚拟机》笔记 《how tomcat works》笔记 hystrix 学习 rxjava1——概念 Redis 学习 TIDB 学习 如何分发计算 Storm 学习 AQS1——论文学习 Unsafe Spark Stream 学习 linux vfs轮廓 《自己动手写docker》笔记 java8 实践 中本聪比特币白皮书 细读 区块链泛谈 比特币 大杂烩 总纲——如何学习分布式系统 hbase 泛谈 forkjoin 泛谈 看不见摸不着的cdn是啥 《jdk8 in action》笔记 程序猿视角看网络 bgp初识 calico学习 AQS——粗略的代码分析 我们能用反射做什么 web 跨域问题 《clean code》笔记 《Elasticsearch权威指南》笔记 mockito简介及源码分析 2017软件开发小结—— 从做功能到做系统 《Apache Kafka源码分析》——clients dns隐藏的一个坑 《mysql技术内幕》笔记 log4j学习 为什么netty比较难懂？ 递归、回溯、动态规划 apollo client源码分析及看待面向对象设计 学习并发 docker运行java项目的常见问题 OpenTSDB 入门 spring事务小结 分布式事务 javascript应用在哪里 《netty in action》读书笔记 netty对http2协议的解析 ssl证书是什么东西 http那些事 苹果APNs推送框架pushy apple 推送那些事儿 编写java框架的几大利器 java内存模型和jvm内存布局 java exception Linux IO学习 netty内存管理 测试环境docker化实践 netty在框架中的使用套路 Nginx简单使用 《Linux内核设计的艺术》小结 Go并发机制及语言层工具 Linux网络源代码学习——数据包的发送与接收 《docker源码分析》小结 docker namespace和cgroup zookeeper三重奏 数据库的一些知识 Spark 泛谈 链式处理的那些套路 netty回顾 Thrift基本原理与实践（二） Thrift基本原理与实践（一） 回调 异步执行抽象——Executor与Future Docker0.1.0源码分析 java gc Jedis源码分析 深度学习泛谈 Linux网络命令操作 JTA与TCC 换个角度看待设计模式 Scala初识 向Hadoop学习NIO的使用 以新的角度看数据结构 并发控制相关的硬件与内核支持 systemd 简介 quartz 源码分析 基于docker搭建测试环境(二) spring aop 实现原理简述 自己动手写spring（八） 支持AOP 自己动手写spring（七） 类结构设计调整 分析log日志 自己动手写spring（六） 支持FactoryBean 自己动手写spring（九） 总结 自己动手写spring（五） bean的生命周期管理 自己动手写spring（四） 整合xml与注解方式 自己动手写spring（三） 支持注解方式 自己动手写spring（二） 创建一个bean工厂 自己动手写spring（一） 使用digester varnish 简单使用 关于docker image的那点事儿 基于docker搭建测试环境 分布式配置系统 JVM执行 git maven/ant/gradle/make使用 再看tcp kv系统 java nio的多线程扩展 《Concurrency Models》笔记 回头看Spring IOC IntelliJ IDEA使用 Java泛型 vagrant 使用 Go常用的一些库 Python初学 Goroutine 调度模型 虚拟网络 《程序员的自我修养》小结 Kubernetes存储 访问Kubernetes上的Service Kubernetes副本管理 Kubernetes pod 组件 Go基础 JVM类加载 硬币和扑克牌问题 LRU实现 virtualbox 使用 ThreadLocal小结 docker快速入门

架构

bert rerank微调 大模型推理tips RAG向量检索与微调 dddfirework源码分析 RAG与知识图谱 大模型推理服务框架vLLM 大模型推理服务框架 模型服务化（未完成） 大模型Post-Training 大模型训练 大模型推理 从Attention到Transformer k8s设备管理 ddd从理念到代码 如何应用LLM 小鼠如何驾驭大象（LLM）？ 多类型负载协调员Koordinator controller-runtime细节分析 finops学习 kubevela多集群 kubevela中cue的应用 基于k8s的工作流 kubevela源码分析 容器和CPU那些事儿 数据集管理fluid 应用管理平台kubevela karmada支持crd 多集群管理 AutoML和AutoDL 特征平台 实时训练 分布式链路追踪 K8S YAML 资源清单管理方案 tensorflow原理——python层分析 如何学习tensorflow 数据并行——allreduce 数据并行——ps 推荐系统embedding原理及实践 机器学习中的python调用c 机器学习训练框架概述 tensornet源码分析 大模型训练和推理 X的生成——特征工程 tvm tensorflow原理——core层分析 模型演变 《深度学习推荐系统实战》笔记 keras 和 Estimator tensorflow分布式训练 分布式训练的一些问题 基于Volcano的弹性训练 图神经网络 pytorch弹性分布式训练 从混部到统一调度 从RNN到Attention pytorch分布式训练 CNN 《动手学深度学习》笔记 pytorch与线性回归 多活 volcano特性源码分析 推理服务 kubebuilder 学习 mpi 学习pytorch client-go学习 提高gpu 利用率 GPU与容器的结合 GPU入门 AI云平台梳理 tensorflow学习 tf-operator源码分析 k8s批处理调度/Job调度 喜马拉雅容器化实践 Kubernetes 实践 学习rpc BFF openkruise学习 可观察性和监控系统 基于Kubernetes选主及应用 《许式伟的架构课》笔记 Admission Controller 与 Admission Webhook 发布平台系统设计 k8s水平扩缩容 Scheduler如何给Node打分 Scheduler扩展 深入controller openkruise cloneset学习 controller-runtime源码分析 pv与pvc实现 csi学习 client-go informer源码分析 kubelet 组件分析 调度实践 Pod是如何被创建出来的？ 《软件设计之美》笔记 mecha 架构学习 Kubernetes events学习及应用 CRI——kubelet与容器引擎之间的接口 资源调度泛谈 业务系统设计原则 grpc学习 元编程 以应用为中心 istio学习 下一代微服务Service Mesh 《实现领域驱动设计》笔记 概率论 serverless 泛谈 《架构整洁之道》笔记 处理复杂性 那些年追过的并发 服务器端编程 网络通信协议 架构大杂烩 如何学习架构 《反应式设计模式》笔记 项目的演化特点 反应式架构摸索 函数式编程的设计模式 服务化 ddd反模式——CRUD的败笔 研发效能平台 重新看面向对象设计 业务系统设计的一些体会 函数式编程 《左耳听风》笔记 业务程序猿眼中的微服务管理 DDD实践——CQRS 项目隔离——案例研究 《编程的本质》笔记 系统故障排查汇总及教训 平台支持类系统的几个点 代码腾挪的艺术 abtest 系统设计汇总 《从0开始学架构》笔记 初级权限系统设计 领域驱动理念 现有上传协议分析 移动网络下的文件上传要注意的几个问题 推送系统的几个基本问题 做配置中心要想好的几个基本问题 不同层面的异步 分层那些事儿 性能问题分析 用户认证问题 资源的分配与回收——池 消息/任务队列

标签

Container 23

Concurrency 14

Life 41

Tool 8

Algorithm 8

JVM 10

Go 21

Kubernetes 65

k8s设备管理 多类型负载协调员Koordinator controller-runtime细节分析 finops学习 kubevela多集群 kubevela中cue的应用 基于k8s的工作流 kubevela源码分析 容器和CPU那些事儿 数据集管理fluid 应用管理平台kubevela karmada支持crd 多集群管理 K8S YAML 资源清单管理方案 从混部到统一调度 volcano特性源码分析 kubebuilder 学习 client-go学习 tf-operator源码分析 k8s批处理调度/Job调度 喜马拉雅容器化实践 Kubernetes 实践 openkruise学习 基于Kubernetes选主及应用 Admission Controller 与 Admission Webhook k8s水平扩缩容 Scheduler如何给Node打分 Scheduler扩展 深入controller openkruise cloneset学习 controller-runtime源码分析 pv与pvc实现 csi学习 client-go informer源码分析 kubelet 组件分析 调度实践 Pod是如何被创建出来的？ Kubernetes events学习及应用 CRI——kubelet与容器引擎之间的接口 资源调度泛谈 如何学习Kubernetes 以应用为中心 kubernetes operator kubernetes扩缩容 serverless 泛谈 什么是云原生 自定义CNI IPAM docker和k8s安全访问机制 Kubernetes监控 Kubernetes 控制器模型 Kubernetes资源调度——scheduler Kubernetes类型系统 Kubernetes源码分析——controller mananger Kubernetes源码分析——apiserver Kubernetes源码分析——kubelet Kubernetes介绍 Kubernetes源码分析——从kubectl开始 kubernetes yaml配置 CNI——容器网络是如何打通的 当我在说PaaS时，我在说什么 《深入剖析kubernetes》笔记 Kubernetes存储 访问Kubernetes上的Service Kubernetes副本管理 Kubernetes pod 组件

Other 5

Network 15

Python 7

Java 20

Spring 17

Netty 10

Storage 24

Distribute 9

MQ 8

WEB 5

Linux 11

Scala 1

Code 9

MachineLearning 74

agentic chat bert rerank微调 大模型推理tips LLM一些探索 Agent实践 LLM预训练 RAG向量检索与微调 LLM微调实践 RAG与知识图谱 大模型推理服务框架vLLM Agent Functon Calling LLamaIndex入门 Multi-Agent探索 LLM工作流编排 大模型推理服务框架 模型服务化（未完成） 大模型Post-Training 大模型训练 大模型推理 从Attention到Transformer 下一个平台Agent 激发LLM涌现——提示工程 LLM微调理论 大佬沉思 LLM外挂知识库 LLMOps 多模态LLM Transformers源码学习 LangChain源码学习 如何应用LLM 小鼠如何驾驭大象（LLM）？ AutoML和AutoDL 特征平台 实时训练 tensorflow原理——python层分析 如何学习tensorflow 数据并行——allreduce 数据并行——ps 推荐系统embedding原理及实践 机器学习中的python调用c 机器学习训练框架概述 tensornet源码分析 大模型训练和推理 X的生成——特征工程 tvm tensorflow原理——core层分析 模型演变 《深度学习推荐系统实战》笔记 keras 和 Estimator tensorflow分布式训练 分布式训练的一些问题 基于Volcano的弹性训练 图神经网络 pytorch弹性分布式训练 从RNN到Attention pytorch分布式训练 CNN 《动手学深度学习》笔记 pytorch与线性回归 推理服务 mpi 学习pytorch 提高gpu 利用率 GPU与容器的结合 GPU入门 AI云平台梳理 tensorflow学习 kaggle泰坦尼克问题实践 神经网络模型优化 概率论 直觉上理解深度学习 如何学习机器学习 深度学习泛谈

Practice 16

RPC 6

Compute 11

Architecture 20

DDD 6

Reactive 5

Basic 13

Product 3

Monitor 7

CPP 2

Mesh 12


abtest 系统设计汇总

2018年06月27日

简介

字节跳动是如何建设云的？

  1. 第一个是数据中心的天级部署。
  2. 第二个数据，我们每天线上变更是两万次。
  3. 第三个数据是我们每天新增大约1500个A/B测试，说明我们有很多想法的时候可以快速验证，就会产生进化。我再举个例子，假设有两家公司，他们的方向一致，战略水平也差不多，如果一家公司每个星期能做10个A/B测试，验证10个想法，另一家公司每个星期只验证1个想法，可以想象经过半年之后，两家公司会拉开多大的差距。所以说当方向、战略差不多的情况下，敏捷就是决定竞争力的关键因素。

选择方案就好比找女朋友，经过初步分析和了解，比如说选定了样貌和学历两个条件，这时候两个对象都差不多，你选择了好追的（简单的）的对象去追求（实现方案）。事后才发现，追上的脾气大（踩坑了），看着差不多的其实差很多，这时候想回头就很尴尬了。这就是为什么看了这么多道理（方案设计），依然过不好这一生（系统实现有瑕疵）

本文主要是 阅读 ABTest 系统设计的各个方案，加上自身实践，列出设计abtest 系统 应考虑哪些点。

A/B 测试从 0 到 1 极客时间教程，涉及一些理论知识。

火山引擎 A/B 测试私有化实践

Google、Bing、抖音、淘宝等巨头如何做AB实验的？ 未读。

AB 实验为何值得信赖？ 未读

字节如何利用 A/B 实验提升产品用户留存？ 未读。

如何从实验中获得更多？——AB实验的异质性分析实践 未读。

abtest 系统的边界

  1. 单纯的用户分流，根据uid等，单纯的对比AB方案
  2. A/B 与灰度发布，你没看错，跟发布搞在一起。蓝绿部署、A/B测试以及灰度发布
  3. 任意维度的A/B，比如地域、性别、新老用户等

先来一个完整案例

沪江ABTest测试平台实践 主要内容如下（内容很零碎，用来体现设计一个abtest 要考虑哪些问题）：

实验的两个要素：

  1. 流量。其实就是selector，如何分流
  2. 参数。其实就是bucket/action ，分流后的动作

流量模型的几个基本概念

  1. 域，流量的一个划分，比如日语用户
  2. 层，不同实验层间进行独立的流量划分和独立的实验，互不影响。
  3. 实验，上文讲过了

不同终端采用不同的用户标识id来hash分流

  1. web端采用 cookieId
  2. app端采用设备id
  3. 小程序端采用 openID 作为唯一标识符

实现正交性的两种方式：

  1. 具体进行流量划分时，为了实现实验层之间流量划分的正交性，会将流量标识信息和实验层标识一起进行实验流量 bucket 划分， 实验层标识 salt 称为离散因子。bucket id = hash(uid,salt) % 100
  2. 学习 ABTest 与灰度发布对于不同的测试，最好使用独立的各不相同的 hash 函数，以保持正交性

tips

  1. 为了便于内测等，我们也实现了白名单功能，运营或者产品可以通过后台配置某用户命中某个特定的实验参数。

  2. 在实际线上运行ab测试的时候，我们经常需要针对某个实验参数做流量的扩量或者缩量。

    实验变量 A B C
    切换前bucket区间 0-79 80-89 90-99
    将C扩容10个百分比 0-74 75-79 80-99

    切换之后实际上A，B和C覆盖的用户人群都发生了变化。其实更佳的扩缩量方案是：B流量不变，C从A切换 10% 流量过去，这样可以尽量减少对覆盖用户人群参与实验的变化。

实验平台架构

  1. 实验管理，允许用户对实验进行配置和管理
  2. 流量管理，对实验参数分配流量配置
  3. 数据收集，客户端上报数据，最终落到BI部门Hadoop集群
  4. 数据分析，对上报的数据进行分析以及计算置信区间等，最后通过报表的形式进行展示。

从中可以猜到

  1. 沪江的实验管理和流量管理 是分开的。实验更多是参数的集合，作为流量划分、报表生成的单位存在
  2. 沪江的abtest 并没有向 客户端打tag，整个过程 大致都是服务端完成的。

理论层面

蓝绿部署、A/B 测试以及灰度发布

  1. A/B 测试目的在于通过科学的实验设计、采样样本代表性、流量分割与小流量测试等方式来获得具有代表性的实验结论，并确信该结论在推广到全部流量可信；

  2. 蓝绿部署的目的是安全稳定地发布新版本应用，并在必要时回滚。

    • 精确的流量分发控制
    • 监控系统的支撑
    • 灵活的发布系统

AB测试和灰度发布平台 架构设计和实践

twitter 的文章偏理论层面：

  1. Twitter的A/B测试实践（一）：为什么要测试以及测试的意义
    1. 大部分实验只能带来个位数百分比的改进，或者甚至是分数百分比。大多数时候，不理想的 A/B测试结果让我们能够及早发现，看上去不错的想法其实可能不怎么样。因此我们更愿意尽可能快的获得坏消息
    2. 有些特性不适合A/B，比如A版本的用户想给B版本的用户留言，而B版本的用户没有这个功能。
  2. Twitter的A/B测试实践（二）：技术概述
    1. 应该跟踪哪些指标？可以在实验配置过程中创建或者从其它现有指标库中选取。
  3. Twitter的A/B测试实践（三）：检测和避免 A/B Test中 bucket不平衡问题
  4. Twitter的A/B测试实践（四）：A/B Test中使用多个控制的启示

生效机制

技术干货-AB测试和灰度发布探索及实践 要点如下

  • 立即生效
  • 热启生效，热启生效就是退出界面，重新进入生效
  • 冷启生效，冷启生效就是杀死进程之后，重新进入生效

分流

  1. 分流在客户端做：客户端掌握完整 ab数据，自行根据 设备信息 选择 AB 方案的action，比如访问不同的url
  2. 分流在服务端做：同一个url，服务端 根据AB 配置 返回不同的数据。比如沪江方案

分流要确保 同一个用户 不同时间 返回方案的稳定性。

abtest 关闭之后

abtest 可以轻易关闭么？abtest 的最终目的还是要产生一个结论，这个结论如何广而告之 所有的客户端（通常不现实）？这是否意味着 abtest 在一个客户端版本周期内 不能关闭，最多就是将某个方案的 用户量设置为100%

工程层面

新浪新闻客户端的实践 AB测试和灰度发布探索及实践

适用场景

  1. 面向客户端，一般涉及到ui 变化，通常涉及到 客户端发版
  2. 面向服务端，不涉及 ui 变化，数据接口 返回值的schema 不变，只是更改了数据算法 或来源。比如一个专辑列表，返回的都是专辑数据，但有可能来自用户的订阅、推荐、收听历史等。

阿里巴巴的文章 还是面向 浏览器端 A/B测试：基本概念 A/B测试：实现方法

整体设计

  1. 基于配置中心做（一切皆配置）， ab 的不同反应在 配置中心的不同配置值上，客户端无感知

  2. 客户端 有专门的 abtest sdk

    • 服务端只是下发 ab 数据，由客户端自行 根据ab 数据选择动作
    • 服务端 直接将策略（选A还是选B） 告诉客户端。也因此 客户端请求时 需要 携带 设备本身的大量信息。

代码实现

  1. 如何表示 一个abtest

    • 页面上
    • 数据存储上

  2. 如何表示一个abtest系统

    • 代码组织上
    • 系统运行上，哪些独立的运行进程，abtest 有哪些参与者，他们都会进行什么操作
    • 系统结构上，访问层、存储层等

  3. 一个abtest 如何生效

    1. 服务端，对于接口interface IHelloService{void hello();}，实现类除实现hello方法外，提供helloA和helloB实现。运行时，拦截hello方法的执行，根据abtest 策略选择helloA/helloB 执行
    2. 客户端
      1. 基于配置中心做，同一个配置值，A/B用户对应的值不同。
      2. 客户端保有两份儿代码，abtest client sdk 根据本机的 设备信息 结合 下发的abtest 数据选择执行。阿里巴巴的方案 A/B测试：实现方法， 据猜测 新浪新闻客户端也应该是这个方案。

数据统计

  1. 靠后台关联。ab 系统后台记录 打点日志，内容类似于 who when 拿到了 方案A/B 的响应，再与相关数据关联即可。

  2. 靠给设备 打tag。比如我根据 某个打点请求 来评估效果，那么假设该打点请求 总量是100个，打A标签的40个，打B标签的有60个，则说明B方案好。 tag（一些地方也叫bucketId）的来源有两种方式

    • 客户端本地持有 用户画像数据，服务端返回AB 规则，客户端根据ab规则 + 画像数据 产生决策（用A还是用B），然后产生tag
    • 由服务端决策 该客户端 使用A 还是B，除返回 A or B 策略数据外，一并返回 tag
  3. 客户端发送行为日志

用AB不靠AB

2018.10.22 补充

有一次跟产品闲聊，觉得他的思路挺好的。我以前想着，做了一个abtest， 然后有一个报表直接说这个abtest的情况。后来他说，其实应该是先有一个数据报表的基础设施，然后再有abtest，abtest 中的A B 只是给原有数据分析里加了一个维度。比如你原来就有一个请求的点击率报表，有了AB 之后，多了一个分析维度。而不是你为了ab，硬要做一个针对这个ab的报表。

abtest 对整个公司的基础设施依赖都很大，如果连数据可视化都做不到，效果对比就更无从谈起，ab系统做出来也难以让人信服。

关于字节跳动这7年，张一鸣讲了5个故事

同理心是地基，想象力是天空，中间是逻辑和工具。 我感觉这句话解决的是产品的发展方向如何判定的问题？

  1. 以数据为中心，哪个数据好用哪个方案
  2. 有一套想法，打算创造一个什么价值，然后以用户最容易接受的方式落地

我印象最深的一句话：抖音也是如此，想象全屏的视频让手机变成一扇窗户，你透过这个窗户看到一个丰富的世界，抖音是这个五彩斑斓世界的投影，感觉非常奇妙。如果没有想象力，你可能只会做出一款对口型的热门应用或者搞笑视频软件，抖音也不可能从一款炫酷的音乐舞蹈小众软件，演化成包容美丽风光、戏曲艺术、感人故事、生活消费的大众平台。

做不做靠想象力、同理心，不是靠ab。而怎么做可以用ab来解决细节问题。

AB测试只是一个工具而已，是测不出用户需求的，同理心才是重要的基础。如果没有同理心，做出的产品肯定没有灵魂，不能满足用户需求。但是光有同理心还不够，这样只能做出有用的产品。想要做出彩的产品，想象力非常重要。

很多时候，ab只是帮助我们理解用户，而不是帮助我们决策

如何扩大客户端abtest 的应用范围

客户端abtest 通常涉及到ui的变化，对于AB用户，常常有以下需求

  1. 一个按钮/tab 的文案、颜色不同，可以将这些信息作为一个配置，由配置中心统一负责
  2. 界面的构成完全不同
  3. 跳转行为不同，一般由跳转系统负责
  4. 弹屏内容不同，一般由统一弹屏系统负责

可以看到，abtest的应用不只是 abtest 本身，是与其它系统一起相互作用的。而类似配置中心、弹屏系统等客户端实现方案一般为

一般来说，既然业务系统数据 会以一定数据格式存在 客户端，此时，我们可以 更改 业务数据的 访问逻辑，先去abtest 中查询 特定 数据是否有abtest （持有了一份儿相同格式的业务数据），有则直接返回abtest 的数据，无则访问原业务数据。

通过这种方式，我们可以将abtest 与客户端的各个业务系统 关联起来，实现不同的人有不同的ui、弹不同的屏、甚至运行不同的代码。

小结

从当下看，设计abtest 系统，其实最关键的 就是定义 abtest 系统的边界：是单纯的流量分割还是 夹带灰度下发，是单纯面向客户端还是 面向服务端，是全新开发还是依赖配置中心等组件来做。一个清晰地边界 非常重要。

精炼的说

  1. abtest 包括什么？ 分流 + bucket/action
  2. 分流有哪些关键点？在客户端做还是服务端做
  3. bucket 有哪些关键点，在客户端做还是服务端做