“可信赖AI的落地，需要跨领域的系统协作”

可信赖AI意味着要贯穿其全生命周期，不仅仅是在中间的算法开发阶段。从设计初期的用户需求到最后的产品交互。这一领域由于各方关注点不同，存在很大的空白区域有待探索，需要学术界、工业界和政府监管部门的共同努力。 ——周伯文

“人工智能创新与治理”分论坛上，清华大学惠妍讲席教授、电子系长聘教授，人工智能国际治理研究院首席专家、衔远科技创始人周伯文表示，平衡好人工智能技术落地和伦理治理，才能长远发展。

人机协同

从人机竞争到人机协同 降低场景落地的应用门槛

在周伯文看来，生成式人工智能如此重要的核心在于，人工智能的能力得到极大提升，以及人机协同能够创造新的价值。

“过去每一次人工智能成为头条，都是通过跟人竞争，击败地表最强的人类而成为最头条。从1962年IBM开发的西洋跳棋程序击败人类跳棋高手，再到AlphaGo击败人类围棋冠军，都是竞争关系。”周伯文表示，“但今年大家使用ChatGPT的惊艳感受，来源于大模型能够有效地理解你的意图，并根据你的指令纠正错误。换句话讲，这一次人工智能的成功是人工智能和人协同的成功。”

从人机竞争到人机协同，将知识与数据的能力做更好地结合，进一步降低在具体场景落地应用的门槛，无疑是今年来人工智能赛道持续升温的关键。

自推出到月活用户突破1亿，ChatGPT仅用时短短两个月，成为有史以来增长最快的应用程序。数据显示，仅在2022年，生成式人工智能赛道就发生了78笔投资，总融资金额超过13.7亿美元，几乎相当于过去5年的融资总和。

此外，人工智能的自主学习和升级能力也同样是行业关注的焦点，由此也衍生出对于人工智能处在怎样的发展阶段的探讨。

随着人工智能的发展走过70多年时间，从已经实现的狭义人工智能ANI到当前阶段的广义人工智能ABI，ChatGPT的出现被普遍视为拉开了AGI时代的大幕。

“我们的定义是ANI是大量依赖于高度监督的学习算法，需要大量的数据，所以它任务狭窄，你教它会的，它不一定会，你没教过它，它绝对不会，当时看作为应用来讲，有很多不足。”周伯文表示。

而广义人工智能ABI，所需要具备的三个特点包括：首先能通过自监督学习，第二是在没有外界帮助分解任务的情况下，能够自主完成端到端的任务。第三则是能成为生成式人工智能的助手。

对于当前阶段人工智能的发展，在周伯文看来依然在通往AGI的路上，AGI尚未真正到来。“AGI是人工智能的高阶形态，生成式人工智能是通往AGI的必由之路。目前我们所处的阶段是GPT、Transformer，都是处于生成式人工智能重要的里程碑。”

系统协作

可信赖AI要贯穿其全生命周期

与此同时，人工智能发展至今，无疑对人类社会的生产生活产生了极大冲击。在探讨人工智能的价值及应用的同时，人工智能也越来越多地参与到人类的生产活动中，潜在风险同样值得关注。

事实上，由于对伦理和社会责任的担忧，马斯克、图灵奖得主Bengio等千人联合签署了公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。而意大利更是因为隐私问题图远电脑行业管理系统，曾宣布全面禁止使用ChatGPT。这也意味着，如何打造安全可控的可信赖AI，成为人工智能行业发展的基本前提和核心支撑。

在周伯文看来，不同国家都有人工智能的治理政策出台，其中有三个共同点是大家都在强调的，首先是坚持治理目标与发展规划并行，不能只讲治理不讲发展。第二个就是治理的目的是为技术的创新和发展提供安全港，第三个是治理模式越来越市场化。值得注意的是，由于当前缺乏可信赖的AI评估指标，每个人心中都有一个“哈姆雷特”，导致对于可信赖AI的定义完全不一样。在大模型的范式下图远电脑行业管理系统，如何能厘清不同维度，这些可信赖的AI有很多的挑战。

对此，周伯文表示，可信赖AI的落地，需要跨领域的系统协作。

“可信赖AI意味着要贯穿其全生命周期，不仅仅是在中间的算法开发阶段。从设计初期的用户需求到最后的产品交互。这一领域由于各方关注点不同，存在很大的空白区域有待探索，需要学术界、工业界和政府监管部门的共同努力。”

早在2022年5月，周伯文创建并领导清华大学电子系协同交互智能研究中心。在他看来，未来人工智能，大模型发展的核心逻辑在于，AI将越来越多地擅长做系统化的工作，人需要在价值观、在治理的角度帮助AI在我们希望轨道上做系统化。人工智能和人的协同将产生更多的高价值场景。

“那时候ChatGPT还没有出来，我们当时提出三个方向，首先是人机协同的演绎，如何让人和AI共同完成任务；第二是多模态的统一的表征交互，我们认为要多模态表征交互；第三是模型和环境的协同演绎，就是模型和模型之间的相互学习。”

未来发展

大模型产业落地 要回归商业本质

此外，周伯文表示，大模型的产业落地需要回归商业本质。据悉，衔远科技研发的多轮对话ProductGPT目标是与专业人员深度交互与协同，帮助企业高效打造爆款创新产品。

在周伯文看来，衔远科技的大模型重构产品与用户二元关系，从市场洞察，爆品定义，方案设计，产品研发和营销转化五个维度给出专业建议，“通过对真实世界的各类过程中产生的数据进行压缩表示，涉及人们及其思想和情感、人们所处的状态和他们之间的互动，也包括他们与产品的互动数据分析，把这些数据压缩成一个模型，通过这种模型的生成能力，它能很好地帮你来生成什么是最好的爆品，什么是最好的设计。”

梳理衔远科技大模型的优势，大致可以概括为，从技术层面解决了数据安全问题，以及用更专业的推理能力解决大模型成本的难题。

据悉，衔远科技通过研究一种无需完整大模型参与的微调学习技术，实现基础模型和本地数据的双重隐私保护。

“如果使用同一个模型，部分大模型的所有者跟行业所有者不是同一家公司，涉及到数据安全显然会产生很多纠纷。”周伯文表示，“通过让模型之间互相学习，让原有的大模型生成一个仿真器，这个仿真器能够很好地帮助客户用他的消费者数据调试这个系统，同时完成隐私保护和版权保护两大功能。”

此外，针对大模型的幻觉问题，衔远科技提出程序辅助蒸馏，将大模型的推理能力进行专业化，通过专业化，实现60M小模型在数学推理效果层面，超越13B大模型的成果。

周伯文表示：“通过模型跟模型的学习，把大模型的能力转移到一个小模型上，这里我们可以让一个小模型具备超过大模型的数据的推理效果。针对关注点不同的消费者，通过懂产品、懂用户的多模态生成，实现基于大模型的千人千面的个性化营销。”