AI狂热中的冷思考
作者：微信文章2025年，中国农历蛇年春晚上，宇树科技机器人表演，不出意外地掀起了一波机器人狂潮，王兴兴的各种视频，开始刷屏哪怕是完全菜鸟的普通百姓的手机，仿佛一夜之间，机器人就将无所不能，完全替代人类。最经典的是几个场景：
场景一，机器人全面占领工业领域，取代人类打螺丝，其实就是工业领域实现百分之百的自动化生产。有了AI的加持，中国在这个方面的进展迅速。特别是在疫情几年，很多工厂已经被迫加快布局。有人甚至断言，很快，人类就可以不用工作了，只需坐等分配。我其实想问一句：人都不用干活，谁来决定分配？怎么决定分配？你我这样的普通人，还有资格活着吗？
场景二，机器人改变战争的模式和走向，天空无人机、仿生鸟，地面机器狗、机器狼，水中无人脡、水空两栖机器人，空天母舰、无人机母舰……有人甚至断言，以后的战争，就是比拼科技实力的零损战争，机器开路，真人接收成果。我其实想问一句：为什么最后要出现真人呢？机器人占领，机器人开发，然后把其产出源源不断地运回来，不是更加完美么？
场景三，机器人全面进入人类生活，比如全自动驾驭，又比如全能家政机器人。自动驾驭的炒作不是一天两天了，大家都很熟悉，甚至是很期盼，只是交通场景太过复杂，目前的芯片只能实现有限的自动驾驭，即辅助驾驭。随着AI的不断发展，障碍正在一个一个被跨越，前景看似一片光明；家政早已不是简单的洗衣机、电饭煲、扫地机等等的物联遥控，进化到了模拟皮肤温度、模拟情绪变化，甚至能进行情景对话调情并且有3个月记忆的AI橡胶娃娃。最近，有人提出一个让不能自理的老人有尊严地养老的解决方案——全能家政机器人，承包伺候老人的全套活。我就想问一句：人手一个全能机器人奴隶，人是会生活得更幸福还是更寂寞？
与此同时，以Deepseek（以下简称DS）为代表的人工智能技术，不仅刷屏个人手机，还已经全面走进了中国人的会议，连我这个本想静静等待退休的老同志，也被叫醒，参与到DS的应用学习中去。（其实，我个人的体验会更早一些。去年奉命去华师做招生宣讲、咨询的时候，为了更好地掌握宣讲内容，我向同行的金融科技系主任学，第一次使用豆包。从此以后，豆包就常驻我的手机，成为我的“私人顾问”）DS有两种应用模式，一种是本地部署，另一种是调用。本地部署就是开发模式下把DS应用代码加到你的操作系统或其他应用软件比如办公软件中去，这需要相关授权，还需懂得代码，一般适合于公司或单位；调用则比较简单，直接在电脑上官网调用，或者在手机下载官方APP调用，无需懂代码。当然，两者的差异也很大，前者专业，后者业余。从实践经验来看，调用很容易服务器塞车。
不得不承认，DS确实很强大，特别是其“深度思考”模式。初步接触之下，我觉得其逻辑很严谨，信息加工和处理的速度很快。随着使用的次数增多，我也发现了一些问题：
问题一，机器学习与私密保护问题。现代AI的机器学习能力很强，你投喂给DS的信息资料，理论上讲应该会被上传到服务器，从而也被别人调用。也许这就是本地部署所要防止发生的事。但是，我们可以相信本地部署就不会被上传服务器么？毕竟，操作系统都有后门，DS理论上讲也应该有后门的。一旦你写的论文、会议纪要、招投标书、财务报告等等投喂给了DS，然后被无关的人、竞争对方甚至是战争敌人获得，亏钱事小，死人甚至亡国都有可能，就问你怕不怕？
问题二，机器幻觉问题。理论上讲，所有AI都只是既定逻辑下对信息的加工、处理、决策和执行。也就是说，AI的工作都是软件工程师预设的，它们是人类信息处理的代行者和搬运工，并非真正的智能，最多是人类思考和行为的一种定式模拟，也就是说，它并不会真正思考。这样一来，一旦遇到需要思考的问题，它无法处理，就只能出错或者按工程师预设的程序“王顾左右而言他”。我这样说，是有亲身经历证明的：
经历一，在网上购物平台买东西，有时需要跟客服沟通。人工客服不可能24值守，于是，每天都有一段时间，是机器人客服值守。这种机器人客服比较低级，只会简单地抓“关键词”，然后从备选答案中选择一个，特别笨。有次我用了一个否定的表达，结果对方只抓“关键词”，令我哭笑不得。
经历二，我请DS帮我搜索并分析广州市政府2024年预算，结果是：
我又把2024年换成2023年，结果是：
截至2024年7月，我无法直接访问互联网以获取广州市政府2023年的预算信息。不过，我可以提供一些建议，帮助您查找和分析这些信息。
### 查找广州市政府2023年预算的途径：
1. **广州市财政局官网**：
- 通常，地方政府的财政局会发布年度预算报告。您可以访问广州市财政局的官方网站，查找“财政预决算”或“预算公开”栏目，下载2023年的预算报告。
2. **广州市政府门户网站**：
- 广州市政府的官方网站可能会发布预算相关的新闻或公告，您可以在“政务公开”或“财政信息”栏目中查找。
3. **广州市人大会议文件**：
- 预算报告通常会在每年的人大会议上提交审议，您可以查找广州市人大会议的相关文件或会议记录。
4. **新闻媒体**：
- 主流媒体（如《广州日报》、南方网等）可能会对预算报告进行报道和分析，您可以通过这些渠道获取相关信息。
5. **学术数据库**：
- 如果您有访问权限，可以通过知网、万方等学术数据库查找相关的分析文章或研究报告。
---
### 分析预算报告的要点：
1. **预算收入与支出结构**：
- 分析广州市政府的主要收入来源（如税收、非税收入、转移支付等）和支出方向（如教育、医疗、基础设施、社会保障等）。
- 关注预算的平衡性，是否存在赤字或盈余。
2. **重点领域投入**：
- 查看预算中对重点领域（如科技创新、绿色发展、民生保障等）的投入比例，是否符合广州市的发展战略。
3. **预算增长与变化**：
- 对比2023年预算与往年预算的变化，分析收入和支出的增长趋势，重点关注哪些领域得到了更多支持。
4. **债务与风险**：
- 关注广州市政府的债务规模、债务率以及偿债能力，评估财政风险。
5. **区域分配**：
- 分析预算在各区（如天河区、越秀区、南沙区等）的分配情况，是否存在区域发展不平衡的问题。
6. **政策导向**：
- 结合广州市的经济发展目标（如粤港澳大湾区建设、数字化转型等），分析预算是否体现了相关政策导向。
---
### 示例分析框架：
1. **收入分析**：
- 税收收入：占比多少？主要税种（如增值税、企业所得税）的增长情况如何？
- 非税收入：包括哪些项目？是否有较大波动？
- 转移支付：中央或省级财政的支持力度如何？
2. **支出分析**：
- 民生支出：教育、医疗、社会保障等领域的投入是否增加？
- 基础设施：交通、城市建设等领域的预算分配如何？
- 产业发展：对高新技术产业、现代服务业的支持力度如何？
3. **财政健康度**：
- 财政赤字率：是否在合理范围内？
- 债务规模：是否可控？偿债压力如何？
---
如果您能提供具体的预算数据或报告，我可以帮助您进行更详细的分析！
看出来了吗？DS在忽悠我呢。作为专业老师，我知道国家预算在当年三月份就会公开，随后就是批复省预算、市预算，所以，广州市预算其实最迟在每年五月就会公开，我们可以在广州市政府、人大网站上查询到的，为什么DS反而不可以？其实是因为网络红线，这种公开只是对自己的国民、市民公开，出了国门，每一个数字甚至小数点都是机密，DS搜到了也不敢说不敢用，至少是不敢公开用，否则的话，你懂的。于是呢，DS只好报告说查不到，只提供查找方向和分析方法。
经历三，针对大数据杀熟，网友想到了装穷骗AI的招数——刷到，评价“太贵”，退出；再刷到，再评价“太贵”，再退出……AI变傻子了。同理，如果有人有意无意地投喂虚假信息给DS，你说DS会不会被骗？我问过专业人士，他说，技术上是可以对数据来源和真实性进行筛选和鉴别的，但无法百分之百保证。
其实，凡事有两面性。我是承认机器人和AI发展带来的划时代意义的，只是我觉得要实事求是，别夸大，别浪，让机器人仅是机器人，在工业端大展宏图。同时，让人仍是人在温情端和智慧端俯视这个世界，永远做机器人的主人。
如果还有人要杠精，我扔两个问题，你回答得出再找我聊：
第一个问题，如果机器人无所不能，人存在的意义是什么？前进的动力又是什么？
第二个问题，如果机器人有一天发展出情绪或创造能力，它发疯了怎么办？它想自杀怎么办？它想统治人类怎么办？
页:
[1]