使用“扫一扫”即可将网页分享至朋友圈。
院士预测未来五年AI大模型三层风险，脑机接口被点名
2024-03-26 14:22:05 来源：微财网
“目前，（AI大模型）风险是可控的。但当‘信息智能’延伸到‘物理智能’，‘生物智能’也开始使用时，此时（AI大模型的）风险会比较大。”
清华大学智能产业研究院院长、中国工程院院士张亚勤24日在中国发展高层论坛（CDF）2024年年会期间的一场研讨会上表达了上述观点，该研讨会主题为“人工智能发展与治理”。
张亚勤认为，目前，人工智能已发展到大模型时代。未来5年里，大模型可能在各个领域都进入大规模应用阶段， 并由此产生三层风险。
第一层风险是信息世界的风险。张亚勤说，目前，人类所应用的大部分智能还属于“信息式的智能”，海量的信息中不乏错误的信息和虚假的信息。
第二层风险则是与生物智能发展密切相关。张亚勤认为，伴随机器人、无人机等技术发展和应用，信息智能已逐步与物理世界相连。当大模型进一步与生物体、人类大脑连在一起的时候，风险可能规模化。
“脑机接口”是张亚勤“点名”的一类生物智能。所谓“脑机接口”，首都医科大学宣武医院院长赵国光曾作出通俗的解释：通过采集人的意念，经过算法处理、信号分析，将其转化为机器可识别的指令，并支配气动手、机械臂、轮椅等外部器械，实现脑机联合。
作为人脑和电脑连接的桥梁，脑机接口为难治性神经系统疾病治疗打开了巨大的想象空间。据市场机构预测，脑机接口 (BCI) 市场正处于转型增长期，预计到2030年将达到59.9亿美元，复合年增长率高达15.9%。
但该技术也存在伦理方面的隐患——当瘫痪患者因脑机接口技术重获与外界交互的能力，普通人可能借助脑机接口变成超人吗？今年2月科技部印发的《脑机接口研究伦理指引》，对这种为“普通人变超人”带来可能性的“增强型脑机接口研究”作出特殊要求。
再进一步看，张亚勤还表示，未来五年里，当AI大模型再连到现实世界中的经济体系、金融体系、军事系统，影响电力等网络，也可能产生较大隐忧，这是第三层风险。
“（对于进入AI时代）人们其实完全没有做好准备，无论是在治理，还是在就业方面。” 香港大学教授、当代中国与世界研究中心主任李成在同场研讨会上也表达了相似的担忧。
李成提到他近期参加两场AI治理有关的跨国闭门会议的经历。“与会者都是全球领先的科学家，大多数来自于西方国家。当时有54个国家的首脑都参与了那个会议，探讨AI这个话题。AI其实已经是一头灰犀牛了，但是没有人能够预测它能够这么快、这么大规模地出现在我们的社会里面。”李成说。
怎么解决这些问题？张亚勤提出了多点建议，其中之一是未来需要科学家、技术从业者和企业家一起“边发展边治理”。“我呼吁把10%的经费投入到大模型风险的研究里面去，这个研究不仅仅是政策研究，还有其中的很多算法、技术的研究。”张亚勤说。
清华大学苏世民书院院长薛澜在该场研讨会上也给出5点治理建议：第一，要加强安全领域的技术研发和国际合作；第二，敏捷治理可能是这个时代需要考虑的一种模式；第三，鉴于外界的规制难以解决信息不对称的问题，要鼓励企业的自我规制，并建立相关机制；第四，倡导全球化治理；第五，减少地缘政治对全球科技发展和治理的负面影响。
“比如，在人工智能领域中美双方一定要加强合作，这样才能真正解决人类面临的各种问题。”薛澜说。
“微财网”的新闻页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题，请与
我们联系删除或处理，客服邮箱alikiki@126.com，稿件内容仅为传递更多信息之目的，不代表本网观点，亦不代表本网站赞同
其观点或证实其内容的真实性。
- 声音提醒
- 60秒后自动更新
3月25日，赣锋锂业公告，与Pilbara公司签署合作协议，双方各出资50%开展锂化工厂项目的可行性研究，并根据可行性研究结果由双方共同批准推进最终投资决定以及成立合资公司。
17:59今天上午，即有市场传闻称，不久就会有地产相关文件出台，会全面聚焦两个方向：一是全面取消核心城市的限制性政策，二是推动融资协调机制落地。据记者从业内了解，一线城市非核心区域的限购政策有可能取消，但目前可能还处于研究阶段。而融资协调机制正在落地。
17:52近两天再有传言称“公募基金被要求不得参与游资炒作标的”，就该传闻记者向多家公募基金核实，多家公募人士均表示，当前尚无接到监管部门新的指导。另据记者了解，游资炒作标的多是市值较小的股票，与公募基金所持有的重合较少。
17:50上海机电发布年报，2023年实现营业收入223.21亿元，同比下降5.3%；净利润10亿元，同比增长1.88%；基本每股收益0.98元。公司拟向全体股东每10股派发现金红利4.4元。
16:29据西部矿业集团消息，3月22日，集团公司与中国地质科学院签署战略合作协议并举行座谈，双方围绕开展新一轮找矿突破战略行动，共同提高支撑服务国家战略资源保障能力，进一步强化矿产资源巩固提升，推进尾矿库循环利用，推动公司可持续高质量发展等深入交流。
16:23马斯克旗下脑机接口公司Neuralink的首位芯片植入受试者诺兰·阿博用意念操作，发布了他在X平台（原名推特）上的首条帖子。他在帖子中幽默地写道：“推特封杀了我，因为他们认为我是个机器人，X和埃隆·马斯克恢复了我，因为我就是。”马斯克转发了这条帖子，并写道：“通过意念发出的第一条帖子，使用Neuralnk心灵感应装置！”本周较早时，Neuralink发布了一段视频，展示阿博在用意念操作电脑下国际象棋和玩电子游戏。
16:22中国8月CPI年率2.3%，预期2.1%，前值2.1%。中国8月PPI年率4.1%，预期4.0%，前值4.6%。
08:00【统计局解读8月CPI：主要受食品价格上涨较多影响】从环比看，CPI上涨0.7%，涨幅比上月扩大0.4个百分点，主要受食品价格上涨较多影响。食品价格上涨2.4%，涨幅比上月扩大2.3个百分点，影响CPI上涨约0.46个百分点。从同比看，CPI上涨2.3%，涨幅比上月扩大0.2个百分点。1-8月平均，CPI上涨2.0%，与1-7月平均涨幅相同，表现出稳定态势。
08:00【 统计局：从调查的40个行业大类看，8月价格上涨的有30个 】统计局：从环比看，PPI上涨0.4%，涨幅比上月扩大0.3个百分点。生产资料价格上涨0.5%，涨幅比上月扩大0.4个百分点；生活资料价格上涨0.3%，扩大0.1个百分点。从调查的40个行业大类看，价格上涨的有30个，持平的有4个，下降的有6个。 在主要行业中，涨幅扩大的有黑色金属冶炼和压延加工业，上涨2.1%，比上月扩大1.6个百分点；石油、煤炭及其他燃料加工业，上涨1.7%，扩大0.8个百分点。化学原料和化学制品制造业价格由降转升，上涨0.6%。
08:00【日本经济已重回增长轨道】日本政府公布的数据显示，第二季度经济扩张速度明显快于最初估值，因企业在劳动力严重短缺的情况下支出超预期。第二季度日本经济折合成年率增长3.0%，高于1.9%的初步估计。经济数据证实，该全球第三大经济体已重回增长轨道。（华尔街日报）
08:00工信部：1-7月我国规模以上互联网和相关服务企业完成业务收入4965亿元，同比增长25.9%。
08:00【华泰宏观：通胀短期快速上行风险因素主要在猪价】华泰宏观李超团队点评8月通胀数据称，今年二、三季度全国部分地区的异常天气（霜冻、降雨等）因素触发了粮食、鲜菜和鲜果价格的波动预期，但这些因素对整体通胀影响有限，未来重点关注的通胀风险因素仍然是猪价和油价，短期尤其需要关注生猪疫情的传播情况。中性预测下半年通胀高点可能在+2.5%附近，年底前有望从高点小幅回落。
08:00【中国信通院：8月国内市场手机出货量同比环比均下降】中国信通院公布数据显示：2018年8月，国内手机市场出货量3259.5万部，同比下降20.9%，环比下降11.8%，其中智能手机出货量为3044.8万部，同比下降 17.4%； 2018年1-8月，国内手机市场出货量2.66亿部，同比下降17.7%。
08:00土耳其第二季度经济同比增长5.2%。
08:00乘联会：中国8月份广义乘用车零售销量176万辆，同比减少7.4%。
08:00
