尝试运行ChatGLM3项目的composite_demo，我的电脑有2个显卡，是一个24G显存的Tesla P40 ，一个是6G显存的NVIDIA GeForce GTX 1060 6GB。 当我尝试启动这个项目的时候，...
ChatGLM3的demo推理项目指定使用某一个GPU运行
运行ChatGLM3的composite_demo需要安装 Jupyter 内核
``` pip install ipykernel pip install jupyter ipython kernel install --name chatglm3 --user ``` 然后注意项目里面的 demo_ci.py ``` IPYKERNEL = os.environ.get(...
做损人不利己的事的人是一种什么样的心态？
做这种事情的人，分两类，一类是知道自己在做损人不利己的事情，一类是不知道自己在做损人不利己的事情。 **人都是趋利的，也就是追求利益最大化。换个角度说，就是追求...
大语言模型的涌现能力：现象与解释
注1：本文整理自我在今年3 月 11 日 “中国人工智能学会”主办的「ChatGPT 及大模型专题研讨会」上《大型语言模型的涌现能力：现象与解释》的现场分享，介绍了大语言模型...
Kafka修改某个客户端消费的主题的偏移量
``` ./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group consumerGroupId --describe ./kafka-consumer-groups.sh --bootstrap-server localhost:9...
设计好接口的36个锦囊
大家都知道，对于后端开发工程师来说，其中一项很重要的工作就是：**如何把一个接口设计好**。其实不管是什么编程语言，`Java`、`Go`还是`C++`，其背后的后端思想其实都...
重新安装 macOS
你可以使用 Mac 上的内建恢复系统“macOS 恢复”来重新安装 macOS。“macOS 恢复”会在重新安装期间保留你的文件和用户设置不变。 **【重要事项】**你的电脑必须接入互联网...
如何让conda不要自动的激活base环境
``` conda config --set auto_activate_base false ``` 参考资料： https://stackoverflow.com/questions/54429210/how-do-i-prevent-conda-from-activating-the-base-e...
windows远程app配置音频重定向
接前面文章：类似 VMware的Unity 模式的远程桌面（远程APP）体验 https://www.xiaocaicai.com/2024/01/%e7%b1%bb%e4%bc%bc-vmware%e7%9a%84unity-%e6%a8%a1%e5%bc%8f%e7...
python实现一个kafka随机数据生成服务，容器部署
最近要实现一个基于kafka的流数据处理，需要一个本地的kafka开发环境，有一些在线的测试数据。 项目结构： ``` [root@localhost KafkaProducer]# ls config.ini docker-...