本地跑deepseek 7b模型
背景
最近,Deepseek 因其卓越的性能和高效的推理速度在技术圈内引起了广泛关注。
Deepseek 采用了先进的算法(使用汇编和 CUDA 混编的方式调用 GPU)和训练方法(蒸馏),不仅显著提升了推理速度,还降低了对硬件配置的要求,使其能够在更多设备上运行。
最近,Deepseek 因其卓越的性能和高效的推理速度在技术圈内引起了广泛关注。
Deepseek 采用了先进的算法(使用汇编和 CUDA 混编的方式调用 GPU)和训练方法(蒸馏),不仅显著提升了推理速度,还降低了对硬件配置的要求,使其能够在更多设备上运行。
2024年底,小米突然在 GitHub 上开源了基于Home Assistant的米家集成,顿时引起热议,正好我家里也是小米的设备,并且也是个Home Assistant 小白,所以正好可以探索一波。
平时在一个电脑上会有不同的项目开发,尤其是个人项目和公司项目;
此方案的实现思路是,git 检测当前目录是否是已经配置的目录,如果是配置的目录,那么就加载对应的gitconfig
我们平时用Mac电脑进行命令行操作的时候,可能需要使用sudo
进行操作,那么就得输入密码。但在Mac系统上,我们通常用指纹来作为密码管理器。
在当前复杂的商业环境下,企业普遍倡导内部降本增效。在这种背景下,研发活动也越来越倾向于数字化度量和呈现。通过研发效能度量,组织能够获取更准确、全面的研发数据,从而更好地制定优化研发的决策和计划。
新年开始,女儿就出生了,从刚开始的毫无力气到现在单手可以拿起手机,在家里随处乱跑,每一天都是新的一天。
娃很爱笑,从出生到现在感觉也就是屈指可数的哭过几次,要么是第一次打针疼了,要么是第一次从床上掉下来。
最近运维项目上要使用Pyspark进行报告生成,嗯,是的,运维项目的技术栈永远是你想象不到的。
有活就干,这形势只能“狗着”。
技术栈是Python, 硅基生命时代的基础之一; 工程化管理工具是setuptools, 嗯,对我来说是新工具,在工作的8年里,第一次听说这个。这次的重点就是利用它来构建一个模块化的工程。 相对于前端架构而言,其就相当于 package.json
。
一切总是在往熵增大的方向发展。
团队周内每天需要都有个Code Diff 的会议来进行代码review, 但是不是每个人都有代码要被Review, 如果有个工具每天在Code Diff 前进行统计,大家有需要代码Review 的就在消息下面标记一下,或者回复一哈;如果大家有标记,那么再进行代码Review,是不是就可以省下一部分时间了?
现在,我们作为Ops 维护这一个新加坡的项目,项目还是比较复杂的。端午前一天00:00 上线了很多hotfix, 而这里面就隐藏了2个bug。
技术层面,有两个bug,一个Job运行时,数据库CPU 拉满,一个少了Redis 初始化,导致从Event Hub 发送过来的数据无法处理。