技术

下一个平台Agent 激发LLM涌现——提示工程 LLM微调理论及实践 大佬沉思 LLM外挂知识库 LLMOps 多模态LLM Python一些比较有意思的库 LLM部分技术源码学习 LangChain源码学习 通用分布式计算引擎Ray Python并发 go依赖注入 go collection gc的基本原理 golang性能分析及优化 数据湖 高性能计算与存储 Linux2.1.13网络源代码学习 《大数据经典论文解读》 三驾马车学习 Spark 内存管理及调优 Yarn学习 从Spark部署模式开始讲源码分析 容器狂占内存资源怎么办? 多角度理解一致性 golang io使用及优化模式 Flink学习 c++学习 学习ebpf go设计哲学 ceph学习 学习mesh kvm虚拟化 学习MQ go编译器以及defer实现 学习go 为什么要有堆栈 汇编语言 计算机组成原理 运行时和库 Prometheus client mysql 事务 mysql 事务的隔离级别 mysql 索引 坏味道 学习分布式 学习网络 学习Linux go堆内存分配 golang 系统调用与阻塞处理 Goroutine 调度过程 重新认识cpu mosn有的没的 负载均衡泛谈 单元测试的新解读 《Redis核心技术与实现》笔记 《Prometheus监控实战》笔记 Prometheus 告警学习 calico源码分析 对容器云平台的理解 Prometheus 源码分析 并发的成本 基础设施优化 hashicorp raft源码学习 docker 架构 mosn细节 与微服务框架整合 Java动态代理 编程范式 并发通信模型 《网络是怎样连接的》笔记 go channel codereview gc分析 jvm 线程实现 go打包机制 go interface及反射 如何学习Kubernetes 《编译原理之美》笔记——后端部分 《编译原理之美》笔记——前端部分 Pilot MCP协议分析 go gc 内存管理玩法汇总 软件机制 istio流量管理 Pilot源码分析 golang io 学习Spring mosn源码浅析 MOSN简介 《datacenter as a computer》笔记 学习JVM Tomcat源码分析 Linux可观测性 学习存储 学计算 Gotty源码分析 kubernetes operator kaggle泰坦尼克问题实践 kubernetes扩缩容 神经网络模型优化 直觉上理解深度学习 如何学习机器学习 TIDB源码分析 什么是云原生 Alibaba Java诊断工具Arthas TIDB存储——TIKV 《Apache Kafka源码分析》——简介 netty中的线程池 guava cache 源码分析 Springboot 启动过程分析 Spring 创建Bean的年代变迁 Linux内存管理 自定义CNI IPAM 共识算法 spring redis 源码分析 kafka实践 spring kafka 源码分析 Linux进程调度 让kafka支持优先级队列 Codis源码分析 Redis源码分析 C语言学习 《趣谈Linux操作系统》笔记 docker和k8s安全访问机制 jvm crash分析 Prometheus 学习 Kubernetes监控 容器日志采集 Kubernetes 控制器模型 容器狂占资源怎么办? Kubernetes资源调度——scheduler 时序性数据库介绍及对比 influxdb入门 maven的基本概念 《Apache Kafka源码分析》——server Kubernetes类型系统 源码分析体会 《数据结构与算法之美》——算法新解 Kubernetes源码分析——controller mananger Kubernetes源码分析——apiserver Kubernetes源码分析——kubelet Kubernetes介绍 ansible学习 Kubernetes源码分析——从kubectl开始 jib源码分析之Step实现 jib源码分析之细节 线程排队 跨主机容器通信 jib源码分析及应用 为容器选择一个合适的entrypoint kubernetes yaml配置 《持续交付36讲》笔记 mybatis学习 程序猿应该知道的 无锁数据结构和算法 CNI——容器网络是如何打通的 为什么很多业务程序猿觉得数据结构和算法没用? 串一串一致性协议 当我在说PaaS时,我在说什么 《数据结构与算法之美》——数据结构笔记 PouchContainer技术分享体会 harbor学习 用groovy 来动态化你的代码 精简代码的利器——lombok 学习 《深入剖析kubernetes》笔记 编程语言那些事儿 rxjava3——背压 rxjava2——线程切换 spring cloud 初识 《深入拆解java 虚拟机》笔记 《how tomcat works》笔记 hystrix 学习 rxjava1——概念 Redis 学习 TIDB 学习 如何分发计算 Storm 学习 AQS1——论文学习 Unsafe Spark Stream 学习 linux vfs轮廓 《自己动手写docker》笔记 java8 实践 中本聪比特币白皮书 细读 区块链泛谈 比特币 大杂烩 总纲——如何学习分布式系统 hbase 泛谈 forkjoin 泛谈 看不见摸不着的cdn是啥 《jdk8 in action》笔记 程序猿视角看网络 bgp初识 calico学习 AQS——粗略的代码分析 我们能用反射做什么 web 跨域问题 《clean code》笔记 《Elasticsearch权威指南》笔记 mockito简介及源码分析 2017软件开发小结—— 从做功能到做系统 《Apache Kafka源码分析》——clients dns隐藏的一个坑 《mysql技术内幕》笔记 log4j学习 为什么netty比较难懂? 递归、回溯、动态规划 apollo client源码分析及看待面向对象设计 学习并发 docker运行java项目的常见问题 OpenTSDB 入门 spring事务小结 分布式事务 javascript应用在哪里 《netty in action》读书笔记 netty对http2协议的解析 ssl证书是什么东西 http那些事 苹果APNs推送框架pushy apple 推送那些事儿 编写java框架的几大利器 java内存模型和jvm内存布局 java exception Linux IO学习 netty内存管理 测试环境docker化实践 netty在框架中的使用套路 Nginx简单使用 《Linux内核设计的艺术》小结 Go并发机制及语言层工具 Linux网络源代码学习——数据包的发送与接收 《docker源码分析》小结 docker namespace和cgroup zookeeper三重奏 数据库的一些知识 Spark 泛谈 链式处理的那些套路 netty回顾 Thrift基本原理与实践(二) Thrift基本原理与实践(一) 回调 异步执行抽象——Executor与Future Docker0.1.0源码分析 java gc Jedis源码分析 深度学习泛谈 Linux网络命令操作 JTA与TCC 换个角度看待设计模式 Scala初识 向Hadoop学习NIO的使用 以新的角度看数据结构 并发控制相关的硬件与内核支持 systemd 简介 quartz 源码分析 基于docker搭建测试环境(二) spring aop 实现原理简述 自己动手写spring(八) 支持AOP 自己动手写spring(七) 类结构设计调整 分析log日志 自己动手写spring(六) 支持FactoryBean 自己动手写spring(九) 总结 自己动手写spring(五) bean的生命周期管理 自己动手写spring(四) 整合xml与注解方式 自己动手写spring(三) 支持注解方式 自己动手写spring(二) 创建一个bean工厂 自己动手写spring(一) 使用digester varnish 简单使用 关于docker image的那点事儿 基于docker搭建测试环境 分布式配置系统 JVM执行 git maven/ant/gradle/make使用 再看tcp kv系统 java nio的多线程扩展 《Concurrency Models》笔记 回头看Spring IOC IntelliJ IDEA使用 Java泛型 vagrant 使用 Go常用的一些库 Python初学 Goroutine 调度模型 虚拟网络 《程序员的自我修养》小结 Kubernetes存储 访问Kubernetes上的Service Kubernetes副本管理 Kubernetes pod 组件 Go基础 JVM类加载 硬币和扑克牌问题 LRU实现 virtualbox 使用 ThreadLocal小结 docker快速入门

架构

大模型推理服务框架 模型服务化(未完成) 大模型RHLF 大模型训练 大模型推理 从Attention到Transformer k8s设备管理 LLM工具栈 ddd从理念到代码 如何应用LLM 小鼠如何驾驭大象(LLM)? 多类型负载协调员Koordinator controller-runtime细节分析 finops学习 kubevela多集群 kubevela中cue的应用 基于k8s的工作流 容器和CPU那些事儿 kubevela源码分析 数据集管理fluid 应用管理平台kubevela karmada支持crd 多集群管理 AutoML和AutoDL 特征平台 实时训练 分布式链路追踪 helm tensorflow原理——python层分析 如何学习tensorflow 数据并行——allreduce 数据并行——ps 机器学习中的python调用c 机器学习训练框架概述 embedding的原理及实践 tensornet源码分析 大模型训练和推理 X的生成——特征工程 tvm tensorflow原理——core层分析 模型演变 《深度学习推荐系统实战》笔记 keras 和 Estimator tensorflow分布式训练 分布式训练的一些问题 基于Volcano的弹性训练 图神经网络 pytorch弹性分布式训练 从混部到统一调度 从RNN到Attention pytorch分布式训练 CNN 《动手学深度学习》笔记 pytorch与线性回归 多活 volcano特性源码分析 推理服务 kubebuilder 学习 mpi 学习pytorch client-go学习 tensorflow学习 提高gpu 利用率 GPU与容器的结合 GPU入门 AI云平台梳理 tf-operator源码分析 k8s批处理调度/Job调度 喜马拉雅容器化实践 Kubernetes 实践 学习rpc BFF openkruise学习 可观察性和监控系统 基于Kubernetes选主及应用 《许式伟的架构课》笔记 Admission Controller 与 Admission Webhook 发布平台系统设计 k8s水平扩缩容 Scheduler如何给Node打分 Scheduler扩展 深入controller openkruise cloneset学习 controller-runtime源码分析 pv与pvc实现 csi学习 client-go informer源码分析 kubelet 组件分析 调度实践 Pod是如何被创建出来的? 《软件设计之美》笔记 mecha 架构学习 Kubernetes events学习及应用 CRI 资源调度泛谈 业务系统设计原则 grpc学习 元编程 以应用为中心 istio学习 下一代微服务Service Mesh 《实现领域驱动设计》笔记 概率论 serverless 泛谈 《架构整洁之道》笔记 处理复杂性 那些年追过的并发 服务器端编程 网络通信协议 架构大杂烩 如何学习架构 《反应式设计模式》笔记 项目的演化特点 反应式架构摸索 函数式编程的设计模式 服务化 ddd反模式——CRUD的败笔 研发效能平台 重新看面向对象设计 业务系统设计的一些体会 函数式编程 《左耳听风》笔记 业务程序猿眼中的微服务管理 DDD实践——CQRS 项目隔离——案例研究 《编程的本质》笔记 系统故障排查汇总及教训 平台支持类系统的几个点 代码腾挪的艺术 abtest 系统设计汇总 《从0开始学架构》笔记 初级权限系统设计 领域驱动理念 现有上传协议分析 移动网络下的文件上传要注意的几个问题 推送系统的几个基本问题 做配置中心要想好的几个基本问题 不同层面的异步 分层那些事儿 性能问题分析 用户认证问题 资源的分配与回收——池 消息/任务队列

标签

k8s设备管理 多类型负载协调员Koordinator controller-runtime细节分析 finops学习 kubevela多集群 kubevela中cue的应用 基于k8s的工作流 容器和CPU那些事儿 kubevela源码分析 数据集管理fluid 应用管理平台kubevela karmada支持crd 多集群管理 helm 从混部到统一调度 volcano特性源码分析 kubebuilder 学习 client-go学习 tf-operator源码分析 k8s批处理调度/Job调度 喜马拉雅容器化实践 Kubernetes 实践 openkruise学习 基于Kubernetes选主及应用 Admission Controller 与 Admission Webhook k8s水平扩缩容 Scheduler如何给Node打分 Scheduler扩展 深入controller openkruise cloneset学习 controller-runtime源码分析 pv与pvc实现 csi学习 client-go informer源码分析 kubelet 组件分析 调度实践 Pod是如何被创建出来的? Kubernetes events学习及应用 CRI 资源调度泛谈 如何学习Kubernetes 以应用为中心 kubernetes operator kubernetes扩缩容 serverless 泛谈 什么是云原生 自定义CNI IPAM docker和k8s安全访问机制 Kubernetes监控 Kubernetes 控制器模型 Kubernetes资源调度——scheduler Kubernetes类型系统 Kubernetes源码分析——controller mananger Kubernetes源码分析——apiserver Kubernetes源码分析——kubelet Kubernetes介绍 Kubernetes源码分析——从kubectl开始 kubernetes yaml配置 CNI——容器网络是如何打通的 当我在说PaaS时,我在说什么 《深入剖析kubernetes》笔记 Kubernetes存储 访问Kubernetes上的Service Kubernetes副本管理 Kubernetes pod 组件

maven/ant/gradle/make使用

2015年07月13日

简介

maven和ant之类的工具是做什么的?

我们对一个项目定义了一个生命周期:

  1. 编译,源文件到可执行文件(可能用到依赖的jar)
  2. 打包,如过你的项目是一个可重用的jar,那么把它打成jar
  3. 部署,对于war,部署即为将其放到tomcat的webapps目录下,或者将一个jar文件上传某个远程库。

对于maven和ant之类工具,我们编写一个配置文件(说清楚一些细节),即可通过命令一键完成或执行这些生命周期。

换句话说:maven和ant是一种支持项目构建,依赖管理和项目信息管理的工具。

2018.11.25补充:用长了之后,因为build 部分不用怎么动,反倒是觉得 maven 是做依赖管理的活儿了。

广义的构建工具

Gradle 实战

最原始的构建工具 就是一系列的 shell脚本,但shell脚本写多了,人们发现很多都是重复的,并且代码量也很大,模式比较固定。所以人们搞出了自动化构建工具,用写配置文件来代替写脚本。

自动化构建工具要干几件事:

  1. 描述任务 task
  2. 描述任务依赖,也就是执行顺序
  3. task 有时用到了外部文件,因此要做依赖管理

这几件事儿在java领域被具体化为:

  1. task 具化为 编译、打包、部署
  2. 编译的时候有依赖jar(jar 有个好处是还不怎么变),所以干脆搞了一个center repository,进而搞了依赖管理
  3. 为了task 之间协调方便,弄了一个“约定大于配置”,约定了项目目录结构/布局(定义了去哪里找项目的源代码、资源文件和测试代码),标准化构建生命周期(也就是对task 进行了划分)
  4. maven 项目构建的各阶段各任务都由插件实现,gradle 类似(提供了一些默认的task 实现给java 项目)

ant

最简单的例子

hello/build.xml 文件

<?xml version="1.0"?> 
<project name="my">        
	<target name="sayHelloWorld"> 
	    <!--除了echo标签,你还可以使用javac、java、deploy-->             
		<echo message="Hello,Amigo"/>       
	</target> 
</project>

执行ant命令ant <targtetName>

$ ant sayHelloWorld
Buildfile: e:\workspaces\java\my\build.xml

sayHelloWorld:
     [echo] Hello,Amigo

BUILD SUCCESSFUL
Total time: 0 seconds

其中对于deploy标签,指定下:war文件地址,tomcat目录(和所在主机),即可将war包部署到tomcat上。

maven

maven构建提速 好文章

生命周期

Maven 生命周期

生命周期(lifecycle)、阶段(phase)和插件(plugin)目标(goal)的关系

Maven 将构建过程定义为 default lifecycle,并将 default lifecycle 划分为一个个的阶段 phase,这一系列 phase 仅仅是规定执行顺序,至于每个阶段做什么工作?由谁来做?答案就在 插件(plugins) 中。 Maven 对工程的所有操作实实在在的都是由 插件 来完成的。一个插件可以支持多种功能,称之为目标(goal),例如:compiler 插件有两个目标:compile 和 testCompile,分别实现编译源代码 和 编译测试代码。 如何将插件与 Maven 的构建生命周期绑定在一起呢?通过将插件的目标(goal)与 build lifecycle 中 phase 绑定到一起,这样,当要执行某个 phase 时,就调用插件来完成绑定的目标。 比如 将插件 modello-maven-plugin 的 java 目标绑定到 generate-sources 阶段。

<plugin>
  	<groupId>org.codehaus.modello</groupId>
  	<artifactId>modello-maven-plugin</artifactId>
  	<version>1.8.1</version>
  	<executions>
    	<execution>
  	   		...
      		<phase>generate-sources</phase>
      		<goals>
        		<goal>java</goal>
      		</goals>
    	</execution>
  	</executions>
</plugin>

在 pom.xml 文件中,packaging 类型支持 jar, war, ear, pom 等多种类型,不同的 packaging 类型会使得相同的 phase 绑定不同的 plugin goal。

命令执行

从上文可知 mvn phase 最终也是执行的 mvn goal,无论直接还是间接,最终都是为了执行plugin的goal 对应的代码。

~ mvn --help
usage: mvn [options] [<goal(s)>] [<phase(s)>]
Options:
 -am,--also-make                        If project list is specified, also
                                        build projects required by the
                                        list
...

mvn clean dependency:copy-dependencies package为例, clean 阶段将会被首先执行,然后 dependency:copy-dependencies 目标会被执行,最终 package 阶段被执行。

依赖管理

对于依赖jar的使用,使用maven后,一个很直接的感觉就是:

  1. 原先:将java工程需要的jar复制到工程目录的某个文件夹下,将该文件夹加入到classpath
  2. 现在:只要将需要的jar配置到pom.xml文件中即可

依赖管理中涉及到的问题比较多,比如依赖传递,scope设置,依赖调解等 Introduction to the Dependency Mechanism

pom文件

profile

在pom中,如果一个jar包的版本经常改变,我们可以将其版本提取到properties元素中:

<properties>
	<xxx.version>0.0.1</xxx.version>
</properties>

假定pom.xml中有一个jar包,在不同的情境(开发、测试与上线)中所需的版本不同,那么可以:

<profiles>
	<profile>
	    <!--开发版本-->
		<id>dev</id>
		<properties>
			<xxx.version>0.0.1</xxx.version>
		</properties>
	</profile>
	<profile>
	    <!--测试版本-->
		<id>test</id>
		<properties>
			<xxx.version>0.0.2</xxx.version>
		</properties>
	</profile>
	<profile>
	    <!--上线版本-->
		<id>pro</id>
		<properties>
			<xxx.version>0.0.3</xxx.version>
		</properties>
	</profile>
</profiles>

编译该包时,只需mvn clean pacakge -P dev即可使“dev”下的<properties>生效。

最佳实践

pluginManagement和DependencyManagement

背景,

  1. 复杂的项目开发过程中,通常是一个父项目,包含多个子项目,依赖的jar在父项目中声明后,所有的子项目自动包含依赖的jar。
  2. plugin和jar都通过groupId和artifactId唯一标识

在父项目中通过pluginManagement和DependencyManagement引入build依赖的plugin和代码依赖的jar,这样,子项目在用到相关的jar和plugin时,需要再次声明(可以避免子项目依赖无关的jar),但无需声明版本号(所有子项目依赖的版本号可以集中设置)。

gradle

Gradle官方用户手册

Gradle vs Maven Comparison

Gradle In Action(Gradle实战)中文版

内部 DSL(基于一种动态语言)相比 XML 在构建脚本方面优势非常大。Gradle is modeled in a way that customizable and extensible in the most fundamental ways.

  1. Projects 和 tasks 是gradle 最重要的 两个概念
  2. gradle 命令会从当前目录下寻找 build.gradle 文件来执行构建。我们称 build.gradle 文件为构建脚本,定义了一个 project 和一些默认的 task。

本来的样子

先不谈java

defaultTasks 'taskB'

task taskA << {
	println "i am task A"
}

task taskB << {
	println "i am task B,and i depend on " + taskA.name
}

taskB.dependOn taskA

$ gradle 就可以看到

i am task A
i am task B, and i depend on task A

task 是gradle 世界的第一公民

gradle vs maven

依赖管理、仓库、约定优于配置等概念 是maven的核心内容,这些概念本身没什么问题,gradle 对这些概念的实现 都更优于maven。

几个方面 优势
依赖管理 代码更简洁
项目布局 遵守maven的约定,但可自定义
生命周期 更灵活,可覆盖lifecycle的phase 或 跳过

总结下来,就是

  1. 简洁,groovy比xml表现力更强,当然了xml比groovy更容易推广
  2. 灵活

使用groovy 代替xml 来写代码 大大减少了 构建脚本的大小。maven pom.xml 的画风是

<dependencies>
   	<dependency>
   	<groupId>org.springframework</groupId>
      <artifactId>spring-core</artifactId>
      <version>4.3.6.RELEASE</version>
  	</dependency>
</dependencies>

换成 build.gradle

dependencies {
 	compile('org.springframework:spring-core:4.3.6.RELEASE')
}
  gradle maven 备注
命令执行 gradle [option...] [task...] mvn [options] [<goal(s)>] [<phase(s)>]
执行phase 本质也是执行goal
都是执行一个具体的事情
源代码目录布局     两者一致
命令执行后的产出目录 build target  

build.gradle demo

group 'com.rotation.demo'
version '0.0.1-SNAPSHOT'
ext {
    springVersion = '4.3.6.RELEASE'
    slf4jVersion = '1.7.5'
}
apply plugin: 'java'
// war plugin 继承了 java plugin,所以不写java 也没影响
apply plugin: 'war'
sourceCompatibility = 1.8
repositories {
    mavenCentral()
    mavenLocal()
}
war {
    archiveName = "gradle-demo.war"
}
dependencies {
    testCompile group: 'junit', name: 'junit', version: '4.12'

    compile group: 'org.slf4j',name: 'slf4j-api',version: slf4jVersion
    compile group: 'org.slf4j',name: 'slf4j-log4j12',version: slf4jVersion
    compile group: 'org.slf4j',name: 'jcl-over-slf4j',version: slf4jVersion

    compile group: 'org.springframework', name: 'spring-web', version: springVersion
    compile group: 'org.springframework', name: 'spring-webmvc', version: springVersion
    compile group: 'org.springframework', name: 'spring-context', version: springVersion
    compile group: 'org.springframework', name: 'spring-context-support', version: springVersion
    compile group: 'org.springframework', name: 'spring-beans', version: springVersion
}

目录结构

src					// 与maven 惯例一致
	main
		java
		resources
		webapp
			WEB-INF
				web.xml
	test
		java		
build
	classes
	libs
	resources
	tmp
.gradle

若是使用idea的话,可以查看 gradle 可以执行的task

命令运行

  1. gradle jar 将代码编译成jar
  2. gradle war 将代码编译成war

gradle 貌似不像maven 一样,从assembly 顺序执行到 war,所以你直接运行gradle war 就是单纯的打war包,不会跑测试类。

gradle 包装器

包装器是gradle 的一个核心特性, 它会从中央仓库中自动下载gradle runtime,解压到你的文件系统,然后用来build。终极目标就是创建可靠地、可复用的、与操作系统、系统配置或Gradle版本无关的构建。

在build.gradle中

task wrapper(type:wrapper){
	gradleVersion = '1.7'
}

然后执行

$ gradle wrapper

会生成目录结构

gradle
	wrapper
		gradle-wrapper.jar
		gradle-wrapper.properteis
gradlew
gradlew.bat

这些文件都非常小,可以随代码一起提交,重点是提交后

  1. 你的同事本地没有装gradle,他可以使用 gradlew war 来打war 包。gradlew 会自动下载 gradle runtime 并执行
  2. 你的同事已经装了gradle 并且直接运行gradle war,则可能因为两人gradle runtime版本不一致带来问题。

gradle 构建组成

每个gradle构建都包括 三个基本的构建块:项目(project)、任务(task)和属性(properties),每个构建至少包括一个项目,项目包括一个或者多个任务,项目和任务都有很多属性来控制构建过程。

gradle运用了ddd来给自己的领域构建软件建模,因此gradle的项目和任务都在gradle 的API 中有一个直接的class 来表示

当开始构建过程后,Gradle基于你的配置实例化org.gradle.api.Project。这句话很重要,意味着build 时先初始化了一个org.gradle.api.Project类(估计内容是空的),然后执行 build.gradle 中的内容(反正也是groovy脚本)来为该实例赋值。在build.gradle 中,不需要显式的使用project 变量。

setDescription("myProject")	// 实质是project.setDescription("myProject")
println "Description of project $name: " + project.Description

几个问题

  1. 再继续深入的话,要了解下groovy,是否适可而止?是否开始实践驱动而不是单纯的学习?
  2. build.gradle 可以随意定义task, 难道不需要像java 一样一个文件一个类?
  3. build.gradle 定义的类和默认的 gradle 类实例如何交互
  4. 定义的task 如何被加载,gradle 构建生命周期:初始化、配置和执行 又是怎么回

make

make是一个 构建工具,是 macOS 和 Linux 中自带的一个命令。Makefile是一个编译脚本,执行make命令的时候,它自动读取Makefile文件,从而决定自己要做什么事情。Makefile文件的格式如下:

# Makefile 的缩进只能使用 Tab 键,不能使用空格。
target1:prerequisites 
    command
target2:prerequisites 
    command

无论c/c++/Golang/Python 还是其他项目,使用 Makefile 来自动化执行一些繁琐重复的命令。