自建大数据分析集群
老项目老项目了这些都是。大部分都是十年前就出现的工具。感叹真是经久不衰。最近服务开发中，为了节约成本，弄了两个服务器，希望搭建一套数据分析平台，验证项目流程。查了很多资料对这些平台的搭建都非常简略，过程也是复杂，对新人很不友好，我也算是整理了一下相关的内容。简化服务搭建流程。得益于Docker的容器化，整个数据平台搭建起来非常方便整个过程里面，包含以下工具的搭建：HDFS，主要是用来存储数据YARN，提供资源调度，实现MR计算Hive on MR，基于MR的SQL引擎, 性能堪忧。也有基于Spark的，但是没有找到版本对应的公共镜像，就放弃了Spark Standalone，分布式计算框架，有基于YARN或者HIVE的版本，为了依赖纯粹，使用了独立集群Kafka on Kraft，为了依赖纯粹，使用了Kr..
更多
云主机WindowsServer无GUI上如何安装Docker环境
分享一个在云主机上的无桌面环境的Windows Server上，不安装Docker Desktop，运行Docker。系统要求Windows2016及以上即可。起因前段时间，一朋友委托我研究一个技术方案。说他技术这边搞了一个分布式的Windows程序，依赖Docker环境，现在只能在电脑上安装，非常不方便维护，扩容起来也很麻烦。于是我也花了差不多花了一百多块钱，一个周末，买了一个云主机来研究研究。太长不看利用DOCKER_HOST参数将windows的docker客户端通过tcp方式连接到wsl内的dockerd服务参数字段daemon-socket-option说起来是很简单，第一次操作起来还是遇到了很多问题。研究现在因为已经知道结论了，所有写起来理所当然，实际上花了大把时间才得到这个结局。众所周知，W..
更多