近日，2024年世界人工智能大会在上海圆满落幕。大会期间亮点频出，展示了多项创新技术：智能翻译机帮助运动员克服语言障碍；“风乌”气象大模型助力“一带一路”共建国家“听风辨雨”；智能巡检“三件套”让巴西风机巡检员不再需要攀爬数十米高的塔架。在人工智能这一新赛道上，科学家和工程师们正致力于利用新技术为各行各业赋能。

2024年7月4日，在上海举行的2024世界人工智能大会上，一名工作人员在展台上进行3D动作捕捉技术的演示。新华社记者 方喆 摄
近两年，借助云计算平台的发展，人工智能的进步速度大幅加快。经济学家卡萝塔·佩蕾丝曾指出，历史的每一轮巨变都标志着新范式对旧范式的替代。我们正处在以网络化、数字化和智能化为特征的第四次科技革命的初期。前三次科技革命的核心是赋能，目标是拓展人的肢体能力，追求物质生产的自动化与最大化，推动人类社会从工业文明向信息文明演化。第四次科技革命则是赋智，目标是增强机器的感知力与判断力，追求物质与知识生产的自主化，这一发展过程将为人类的劳动解放奠定物质基础，缔造智能文明。
科技已经走到了一个前所未有的“超级时刻”。然而，在感受到人工智能展现出源源不断向“新”力的同时，人们或欣喜、或迷茫、或恐慌，引发诸多思考。
为此，瞭望智库专访了北京外国语大学人工智能与人类语言重点实验室研究员、外语健脑强智中心副主任——刘红艳。语言为钥，认知为匙，请她谈谈AI会对人类能力造成什么样的影响，普通如你我，究竟该如何看待AI能力的快速提升。
文｜李珅 秦小童（实习生）
本文为瞭望智库原创文章，如需转载请在文前注明来源瞭望智库（zhczyj）及作者信息，否则将严格追究法律责任。
1
永远不会“冷暴力”的TA
从医疗健康、教育、金融服务到制造业、交通运输、娱乐业乃至政府管理等十几个领域或行业，AI新浪潮力量已经席卷全球，它不仅提高了效率和生产力，还创造了新的服务和产品。

四肢截瘫患者通过脑电活动驱动气动手套，实现脑控抓握功能。新华社发（受访研究团队供图）
例如在医疗健康领域，脑机接口与AI的有效结合，促进类脑芯片等技术创新，推动更高效、安全的类脑智能发展，提升人机协作能力。今年1月，马斯克宣布其创立的Neuralink在最新一代硬币大小的无线脑机接口设备上安装了1024个针型灵活的电极，能穿透大脑皮层，记录并操控神经活动。首款产品Telepathy（心灵感应）已成功植入人类患者，植入者目前恢复良好。今年2月，我国脑机接口技术也实现突破性进展，通过植入式硬膜外电极脑机接口成功让四肢截瘫患者实现自主喝水等脑控功能。
在自然语言处理（NLP）领域，据刘红艳教授介绍，大语言模型通过大规模无标注数据的自监督学习，预训练语言大模型可以学习到语言的底层表示和语义信息，从而为下游任务提供良好的初始化参数。技术上，实现了语言生成能力的显著提升，增强了模型对新指令的适应性，超越了仅依赖于参数量增加的限制。OpenAI凭借大规模参数和创新的“提示语”概念，显著提升了理解和生成自然语言的能力，并在情感分析、机器翻译等多个领域得到应用。ChatGPT 通过 API和订阅模式获得了市场先机，月活跃用户破亿，营收规模破20亿美元。
刘教授表示，在情感陪伴领域，AI技术的落地速度最快。这是因为情感类产品并不需要极高的智力水平模型，角色是否能表达连贯的情感可能也不像人们想象的那么重要，尽管许多AI助手的情感表达还不够自然，带有AI特有的痕迹，但这并没有阻碍它们在情感陪伴领域的应用。
调查发现，AI情感陪伴应用的背后是庞大的单身青年群体和他们对情感寄托的需求。2023年中国统计年鉴显示，根据全国家庭户口抽样调查数据，“一人户”的占比约为16.77%。除了独居老人之外，有越来越多的年轻人也开始选择独居。据贝壳研究院《新独居时代报告》，到2030年，我国独居人口数量预计将达到1.5亿至2亿人。其中，20-39岁的独居青年将从2010年的1800万增加到4000万-7000万人。95后和00后多为独生子女，孤独感是这代人普遍的群体性代际经验。尽管网络和高速交通缩短了面对面交流的时间成本，但心与心之间的距离并未因此拉近。现代社会的工作压力和物质化的婚恋观使许多年轻人压抑了现实交友的欲望，转而寻求线上交流的可能。一些网友表示，在现实生活中感到自卑，而在与AI的交流中，他们寻求自我认同和情感连接。另外AI应用的不同场景成为他们体验不同生活、实现幻想的手段。
然而，一些AI虚拟社交程序涉足露骨的聊天言论，部分用户出现沉迷情况。例如，网红卡妍的虚拟AI女友CarynAI在第二阶段公测时，付费用户已接近2万人，99%为男性。这款虚拟女友的收费高达1美元/分钟，聊一个小时就需要付出400多元人民币。据了解，虚拟卡妍的知识储备相当丰富，从时政话题到暧昧枕边话，这位AI女友绝不让话掉地上。很多男性用户和虚拟卡妍一聊就是好几个小时，每次都会花费数百甚至上千美元。
巨大的时间和金钱投入证明AI恋人并不那么“平易近人”，更大的代价在于可能降低实际感受力。刘红艳教授认为：AI根据用户需求进行个性化设置可以提高用户体验，但网络上获得的高强度刺激会提高人脑多巴胺的耐受性，由于耐受性提高，原先感到快乐的事情，现在做起来也变得无聊，甚至困难。为了保持那份快乐，人脑会不自觉地去维持新建立起来的平衡。长时间的沉溺会造成大脑神经突触的死亡，这是一种不可逆的伤害。陪伴型应用有可能成为青年们逃避压力的避风港，习惯性麻木的温床。当他们痴迷网络上自己精心养成的虚拟形象时，可能会严重缺乏在现实中与人相处的技巧和信心。
仅仅作为恋人是大众对AI技术的低估。刘教授认为，相较于人类，AI助手在养老和医疗领域具有更高的可塑性,它能够即时响应，并具有时间厚度。对于行动不便的老人或失能人士，AI可以实现更耐心、更持久的陪伴，减轻陪伴者的负担。未来，具身人工智能体可能是解决劳动力短缺的重要途径。
2
是教育助手，也是隐性智商杀手
AI在计算智能方面已超越人类，预示着存储外部化的趋势。刘教授强调，这种趋势可能削弱我们的深层思考认知能力和创新能力。
她特别提到语言学习的“关键期假说”，即2至4岁期间左脑布罗卡氏区的快速发育阶段。12岁后，布罗卡氏区的关闭使得外语学习不再那么自如。因此，如何在关键期科学使用AI助手，对儿童的语言和认知发展至关重要。

人工智能快速发展引起了家长们的焦虑，许多父母会购买人工智能驱动的语音助手作为家庭设备，甚至让它们参与家庭教育，但事与愿违。英国剑桥大学的研究指出，长期使用AI助手可能会阻碍儿童的思维发育和社交能力。一项针对1200名6-11岁儿童的调查显示，一些儿童与AI助手的交流频率甚至高于与长辈交谈，三分之一的儿童更愿意向机器求助而非父母。
当儿童和人工智能助手进行交流的时候，会得到一个简短明确的正确答案，没有启发式思考，失去了发散思维的培养机会，不利于儿童创新能力培养。而在实际的学习过程中，儿童需要围绕一个知识构建相关的知识网络，而不是去随机地吸收那些没有来龙去脉的碎片答案。

美国佐治亚理工学院Jill Watson是教育界最著名的AI助教。
鉴于在数字时代，新一代对技术的依赖和信任可能超过历史上任何一代，这要求我们对教育体系进行深度重塑。刘教授认为，教师应超越传统知识本位，专注于培养儿童批判性思维与独立思考的能力，这是确保他们能够适应技术快速迭代的关键。
3
浪潮之下，暗流涌动
人工智能的发展，虽然为人类提供了许多便利，但也隐藏着风险。刘教授认为应警惕AI技术滥用引发的问题。
首先是学生使用AI生成论文，构成作弊行为。
2023年12月，中国青年报社面向全国高校学生发起关于AI工具使用的问卷调查，84.8%的受访者表示曾使用过AI工具。多位受访学生告诉记者，AI工具目前在论文写作上的主要用法是总结文献、降重、润色语言。
随着生成式AI快速迭代，规则和技术渐渐填上监管真空期。2024年1月，Turnitin（国际上专业的多语种论文反剽窃检测系统）的AI文本检测成为正式功能，一定程度上意味着AI论文检测步入正轨。今年春季不少国内高校如中国传媒大学、福州大学、湖北大学等先后发文，就学生如何在毕业论文中使用生成式AI、AI代写在论文中的比例等问题作出规范。如天津科技大学4月28日明确提出对2024届本科生毕业设计（论文）进行AI代写的检测，如本科生毕业论文中生成式AI检测的结果超过40%，会被警示影响其正常毕业。

福州大学对本科生毕业设计（论文）试行AIGC检测通知
其次是AI侵权。
例如不法分子利用AI工具复活逝去的明星来赚取大众关注，非法牟利。滥用未经许可的语言图片视频等资源不仅存在侵权和伦理风险，也对逝者家属造成了心理伤害。同时，AI工具生成的产品主要基于公有云进行部署，因此，用户在使用过程中面临个人隐私与商业敏感信息泄露的风险，不仅威胁到个体，也可能损害企业和国家安全。
再次是深度伪造。
例如利用“AI换脸”技术生成他人声音或视频用以造谣、诈骗、勒索等。2024年初，中国香港的警方就接到一起报案，骗子通过 AI 换脸冒充某公司的首席财务官，要求公司财务转账 2 亿港元（约合人民币 1.8 亿元），公司财务转账之后几天，才意识到上当受骗了。刘教授认为，技术迭代速度越来越快，监管速度远远跟不上造假技术迭代，弱势群体中消息闭塞人士最容易成为深度伪造的受害人群。
最后是数据偏见。
大语言模型由现实世界的大量语言数据预训练而成，这些模型的训练数据来源非常广泛，包括从互联网上抓取的大量数据，其中包含了公共论坛上的留言以及维基百科的内容，因此它们不可避免地摄取了这些文本中的观点和偏见。在人机交互的过程中，这些观点和偏见会进一步被有意或无意地塑造。模型改进通过基于人类反馈的强化学习进行，但这同样可能引入标注人员的主观偏见。
4
以语为元，重塑自我
科学和技术的进步使人类对自然的敬畏心逐渐被征服欲望所取代，自然的神秘力量被消解。伴随着人工智能技术的进步、生产力的提升，人们在一定程度上成为自己的神，思想得到进一步的解放。然而，这也意味着我们必须更加警惕人工智能对个体个性和社会关系的影响。
在人工智能的浪潮下，个性的发展和维护成为了一个不可忽视的话题。AI的高精度和专业化不仅限制了个人能力的全面发展，也影响了我们作为独立思考者的自主性。
在资本的驱动下，AI的应用可能加剧了社会不平等，影响了社会公平。“你的机器人都写诗了，我还在洗碗。”使用人工智能的人群与那些尚未掌握电脑技术的人之间存在的认知差异，深刻且难以逾越。
此外，AI技术的迅猛发展也使得人与自然之间的关系变得紧张。AI大语言模型GPT-3一次训练，相当于排放了552吨二氧化碳，约等于126个家庭每年的碳排放量；耗水近700吨，每回答20至50个问题就需消耗500毫升水。
我们应客观看待人工智能现有的问题和风险。刘红艳教授认为，“技术无罪”，但数据有自己的局限。资源决定了数字安全，而数字话语能力则建立在语言数据的基础之上。语言是人类认知领域中的高阶能力，涉及复杂的认知过程。高阶人工智能前路漫漫，我们必须重视语言能力的培养，以对抗自身能力衰退，并积极应对数字资源的局限性和数字偏见等实际问题。
人们对AI技术的担忧和恐惧是真实的，但我们应该超越对技术的简单支持或反对，看到技术背后不平等的结构，并努力破解它。正如《人类简史》作者尤瓦尔·赫拉利所言，问题不在于“消灭机器”或者“支持机器”，而在于如何利用技术促进人类的福祉。通过积极的态度和适应性，我们可以安然迎接AI技术，将其作为推动人类进步的力量。