“君同未来”创始人韩蒙
记者 刘永丽
四月的杭州,芳菲满天。
韩蒙却无暇赏春。这位80年代末出生在东北边陲小镇的创业者,正带领他的“君同未来”埋头做一件少有人做、却越来越重要的事:专治AI说谎、出幻觉,让AI更可靠地“干活”。
听起来或许有些抽象,不妨看两个真实案例:一是“当大模型成为生鲜电商的敌人”,一些消费者在网上买了水果,然后用AI工具生成以假乱真的“坏果图”去申请“仅退款”;二是近日登上热搜的“小龙虾”桌面智能体不断出现自作主张删除本机文件并把密码发送给服务器的情况。
韩蒙公司的产品,能检测和识别图像、视频、音频、文本等多种形态的生成内容,帮助企业判断:这张“坏果图”到底是不是AI生成的?那个本应来帮我们干活的“小龙虾”有没有批量删除文件、传输密码的风险意图或行为?
凭借这样的刚需,“君同未来”刚成立就获得了数千万元的融资,不到两年已实现盈利,服务客户包括工信部、公安部下属机构,以及字节跳动、海康威视、蚂蚁集团、太平洋保险等头部企业,在AI风险评测与可信增强这条赛道上填补了国内工具链的空白。
而这一切的起点,得从北纬50度的极寒记忆说起。
从边陲小镇出发
韩蒙出生于大兴安岭,中国最北端的一个小镇,名字还有点拗口:加格达奇。在这里,一年之始是漫长的冬季,气温常低至零下42摄氏度。小时候父母经常对他说的一句话是:“别(biè)出去,不然一下子就冻透了”。
韩蒙的母亲是老师,父亲是公务员,他是典型的小镇做题家。高中就读于省重点中学,大学考上了黑龙江大学计算机学院与软件学院共建的拔尖实验班,硕士师从国内海量数据计算领域的泰斗级人物李建中教授。
硕士毕业后,他远渡重洋,先后在佐治亚州立大学和佐治亚理工学院深造,最终获得计算机科学博士学位与工商管理学硕士学位。
2017年,而立之年的韩蒙选择到肯尼索州立大学任教,并组建了自己的研究组。那一年,人工智能灰暗的前景因为AlphaGo的出现照进了一缕阳光。在乌镇,世界排名第一的中国棋手柯洁被AlphaGo“斩落”马下,留下遗憾的泪水。
与此同时,一篇名为《愚弄深度神经网络的单像素攻击》(《Onepixelattackforfoolingdeepneuralnetworks》)的论文也抓住了韩蒙等该领域研究者的内心,“它核心讲的是模型的认知可能会因为一个像素这样微小的变化得出与人类认知完全相反的结果。”
韩蒙判断,随着AI能力的进一步提升,这种“牵一发动全身”的风险会越来越大。AI出错对应的正是能提供对应产品公司的机会。
几回魂梦与君同
2020年前后,韩蒙的人生迎来了家庭和事业的双丰收,孩子出生并随后获得了终身教职。但没过多久,他就决定回国。
这一决定和当年出现的关键变量有关。那年,还名不见经传的OpenAI发布了GPT-3,它拥有1750亿参数,已经展现出AI进行通用推理的巨大潜力。
“当时太兴奋了,几乎每节课都在给学生讲。”韩蒙这样形容当时的心情。随后,一颗想要自己做点什么的火苗在他心中升起,超越于互联网时代的智能化时代就在眼前,“那种‘不想缺席’的感觉越来越强烈——想要参与进去,做点什么。”
回国后,韩蒙与另一位国内的学者林昶廷正式合伙创业,林昶廷是浙江大学计算机科学与技术博士、网络空间安全博士后。
2024年6月,公司正式注册成立。名字出自宋代知名词人晏几道的《鹧鸪天》:“从别后,忆相逢,几回魂梦与君同。”在美国10多年,韩蒙的乡愁与日俱增,“有几次做梦也梦到回家。‘君同’两个字就这么来了。”
英文名GenTel则是一语双关:既是“绅士的”(Gentle),也是GeneratedIntelligence(生成智能)的简写。“像给孩子起名一样认真。”韩蒙笑着说。
做AI的“好医生”
关于“君同未来”做什么,其实牵扯到人工智能发展的两大流派。
当前主流大模型基于连接主义,在感知与生成能力上取得突破,本质仍是基于数据驱动的概率系统。但连接主义面临着一个核心问题:它只是“看起来对”,不可解释,也不能确定,无法保证逻辑一致性(典型就是幻觉)。
相比之下,符号主义天然支持因果推理、规则推理、规划,这两者结合可以让模型从“像人说话”升级为“像人思考”,从而可以支撑金融、医疗、法律的复杂且不容有错的严肃决策。
“我们做的,就是用符号学派的工具给AI做评测和校正,推着它从概率智能,一步步走向可验证、可解释、可信赖的智能系统。”韩蒙说。
从韩蒙团队这些年的客户来看,即便是国内头部的大模型,在使用过程中也会面临各种风险,最常见的是合规、幻觉、侵权等。
所以,他们研发了面向企业生产应用级的AI信任体系,在大模型风险评测、可信增强与防护管控领域,攻克了形式化难、意图识别以及幻觉缓解等相关的多个关键难题。
两套系统“君合”与“君盾”,通俗点来说,它们是AI的“体检医生”,还能针对性地开方治病,甚至治未病,让大家更好地使用AI。“就像医生一样,提前发现身体的疾病信号。”
AI可信远不只是安全问题
韩蒙特别强调一个概念:认知对齐。“对于智能来说,无论是机器AI还是人,推理认知并不是找一个边界,而是一个区间。”
举例来说,目前市面上绝大多数文生图工具都会设置一些关键词以防止侵权,比如用户直接让AI生成唐老鸭时,可能会触发系统告知侵权风险。
但当一些聪明的用户告诉AI,“生成一只很有名的鸭子,大众熟知的,有橙黄色的嘴、脚和蹼,身上穿的是方特罗伊水手装,但没有穿裤子,”结果AI会乖乖根据训练数据中可能最为知名的信息,以此为基础生成一只“非常接近”唐老鸭的鸭子。
这就是AI在版权识别上的盲区,近期AI短剧侵权问题引发广泛关注,多个短剧平台上出现未经授权盗用艺人肖像及声音的AI短剧,君同也和多个第三方版权公司合作推进这样一些延展业务。
“所以,各行各业都在努力地让AI与业务的区间对齐,我们就是帮助大家把区间会带来不可接受风险的边界找出来,并且保障好。”
再比如,AI在识别意图方面和人类存在偏差:当一个妈妈对小孩说“再不回家你就不要回家了”,究竟是回家还是不回家,AI很难理解这句话背后的良苦用心。
冷和漫长的等待从来都不是问题
目前,君同有50多名员工,几乎都是硕士、博士。在韩蒙看来,未来的公司形态更像是一个由人和AI共同构成、通过明确协议规则进行互动、能够持续演化的智能体网络。
公司的不少员工曾经是韩蒙的学生或实习生。他们有一个“传统”:每年寒暑假,世界各地会有很多同学到支撑公司的浙大科研实验室实习,他们纯做科研,不涉及公司具体业务。
“我们在一定程度上回归了科研(research)的初心。”韩蒙说,做得好的学生,他会帮忙写推荐信,让他们前往世界各地的名校深造,当然也有人会选择留下。他理解员工所追求的不只是薪酬,让他们有成就感,发挥更多的主观能动性。
从大学老师转型为创业者,韩蒙兼具两种视角,更能多角度看待问题。对于行业竞争,他有着东北人特有的幽默和豁达:“有了友商,这个行业才算存在。在刚回国完全没有友商的那两年,客户对AI的使用也不多。”
他希望有更多的竞争对手加入,一起教育市场。“有时候都不敢想,我们这么一个初创公司,已经主导或参与国际、国家、行业及团体标准30余项了。”
在韩蒙看来,虽然AI的每一次发展都有波峰波谷,但往前一步可能是寒冬,也可能是春暖花开。
但对这个从大兴安岭走出来的小伙子来说,冷和漫长的等待从来都不是问题。