要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

儿童电话手表过度干预引发争议：家长呼吁划清界限

近日，有家长反映，自己在通过儿童电话手表与孩子聊天时，输入“我是你妈”等词语时，却被系统提示“可能含有不适宜内容”，引发热议。儿童电话手表过度干预家长与孩子之间的沟通，引发了对儿童隐私保护和手表厂商责任的担忧。

过度干预引发家长不满

据了解，目前市面上主流的儿童电话手表都具有聊天功能，家长可以通过手表与孩子进行语音或文字交流。然而，一些手表厂商为了“保护”儿童，设置了大量的敏感词和违禁词，导致家长在与孩子交流时出现诸多不便。

例如，有家长反映，自己在手表上给孩子发“作业写完了吗？”、“今天考试考得怎么样？”等消息时，都被系统判定为“施加压力”，提示家长注意言辞。还有一些家长表示，他们与孩子之间的日常对话中，难免会出现一些“网络流行词”或“玩笑话”，也被手表系统过滤，导致孩子无法理解家长的意思。

家长呼吁划清干预边界

家长的不满主要集中在两个方面：一是认为手表厂商过度干预了家长与孩子之间的正常沟通，影响了亲子关系；二是担心手表厂商收集的聊天数据存在隐私泄露风险。

对此，有专家呼吁，儿童电话手表厂商应在保护儿童安全的基础上，划清干预的边界，避免过度干涉家长与孩子的沟通。同时，手表厂商也应加强对用户信息的保护，确保家长和儿童的隐私安全。

以下是一些针对儿童电话手表厂商的建议：

• 建立合理、科学的敏感词和违禁词库，避免过度过滤家长与孩子之间的正常交流。
• 允许家长自定义敏感词和违禁词，满足不同家庭的个性化需求。
• 加强对用户信息的保护，确保家长和儿童的隐私安全。
• 定期向家长公开信息收集和使用情况，接受家长监督。

儿童电话手表作为一种新兴的育儿工具，在为家长提供便利的同时，也应注意尊重家长和儿童的隐私权，并在保护儿童安全方面发挥积极作用。