管住AI解决问题的能力

今年“双11”,不少人的订单里多了一种看不见、摸不着的新东西:Token。

  以前,直播间里常听到“3,2,1,上链接”,今年有了新说法:“3,2,1,上Token”。Token第一次走进直播间,为今年“双11”换上了新的面孔。

  大家为啥买Token?原因很简单,因为我们与AI的每一次对话、给AI下的每一个指令,都是在消耗Token,可以说,Token就是AI的“燃料”。

  为“燃料”掏腰包,说明AI真的火起来了。有数据为证:《生成式人工智能应用发展报告(2026)》显示,截至2026年上半年,我国生成式人工智能用户规模突破7亿人,普及率超50.0%。

  这意味着,每两个人里面,就至少有一个人在用AI,AI综合助手、AI效率办公等工具的普及速度很快,所以,不少人趁着“双11”先把Token囤上再说。

  我们下单的Token,最终都会转化成AI帮我们解决问题的能力。可不知道大家想没想过:AI解决问题的能力更强了,能管住这种能力的能力,是不是也跟上了呢?

  81岁的图灵奖得主马丁·赫尔曼打了个有趣的比方:人类就像一个刚拿到驾照的人,不知怎么弄到了一辆500匹马力跑车。

  500匹马力的跑车,在汽车圈里,那是高性能级别,能力之强不言而喻。所以,有人动起了AI的歪念头,有地方法院公布了典型案例——不法分子用AI生成动态人脸视频,攻破平台的人脸核验。类似这样的案例,不在少数。

  试想一下,假如有人用AI克隆了你的脸、你的声音,那你的个人信息安全又作何保证?AI是个好东西,但如果念错了经,带来的损害一点都不会小。

  所以,怎么让500匹马力的跑车跑在正确的轨道上,是关键。

  就像我们现实中开车有交规一样,AI上路也要有规矩。但对于AI来说,不同的是,AI技术迭代快、风险形态多变,传统“一刀切”或事后追惩的监管方式很容易陷入“一管就死、一放就乱”的困境。所以,需要构建一套动态、分层、能自我调适的治理生态。监管思路也必须从“事后灭火”转向“安全前移”,把治理规则和要求嵌入设计、开发、验证等前端环节,只有这样,才能从源头管控风险。

  有效的监管,笔者以为,也应当刚柔并济,该加油的时候加油,该刹车的时候刹车。对医疗、金融等高风险场景,应当实行备案、检测等刚性要求,而对低风险场景则可以更多依靠合规自测与行业自律。此外,监管沙盒、算法审计等柔性工具,也都可以充分利用,让创新在可控空间内试错,也让监管者能提前识别风险。

  AI跑得快不可怕,可怕的是踩油门的人从没练过刹车。而刹车不是一次练成的,正是练在一次次也许并不起眼的停顿里。



本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有。如因无法联系到作者侵犯到您的权益,请与本网站联系,我们将在第一时间删除内容!

联系邮箱:infochinatousu@126.com

中国信息界

中国信息界官方微信公众号

全域数字化新视界公众号

版权所有 © 《中国信息界》杂志社

京ICP备2025140127号

行政电话:010-63691340转8016
战略合作:010-63691340转8018
投诉邮箱:zgxxj@ciia.org.cn

地 址:北京市西城区广安大街
315号信息大厦B座4层

投稿邮箱:zgxxjzz@163.com

数字经济决策参考公众号

数字文明进化论公众号