要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

苹果AI终于到来：WWDC24发布全新个人智能系统

北京，2024年6月16日 - 备受瞩目的苹果全球开发者大会（WWDC24）于6月10日在美国加州库比蒂诺总部举行。在历时约两小时的主题演讲中，苹果公司发布了备受期待的全新个人智能系统——Apple Intelligence，以及iOS 18、iPadOS 18、macOS Sequoia、watchOS 11和visionOS 2等一系列操作系统更新。

Apple Intelligence是苹果首次推出的个人智能系统，旨在为用户提供更加个性化和智能化的体验。该系统集成了苹果在人工智能领域多年积累的技术，包括机器学习、自然语言处理和计算机视觉等。通过Apple Intelligence，苹果设备将能够更好地理解用户需求，并主动为用户提供帮助。

在Apple Intelligence的助力下，iOS 18迎来了诸多新功能。其中，锁屏界面更加个性化，用户可以添加小部件、显示实时活动信息，并自定义字体和颜色。此外，iOS 18还改进了通知系统，允许用户对通知进行更加细致的管理。

iPadOS 18进一步提升了iPad的生产力。全新的多任务处理功能使iPad用户能够同时处理多个应用，并以更加灵活的方式进行操作。此外，iPadOS 18还增加了对触控笔Apple Pencil的更多支持，使iPad成为创作和工作更加理想的平台。

macOS Sequoia为Mac电脑带来了全新的设计和功能。全新的控制中心整合了通知中心、Wi-Fi和蓝牙等设置，方便用户快速访问。此外，macOS Sequoia还改进了Safari浏览器、邮件和信息等应用，并增加了对Matter智能家居标准的支持。

watchOS 11为Apple Watch带来了更多健康和健身功能。全新的睡眠追踪功能可以更准确地监测用户的睡眠状况，并提供个性化的睡眠建议。此外，watchOS 11还增加了对心率变异性和血氧饱和度等指标的监测支持。

visionOS 2是专为AR/VR设备开发的操作系统。在visionOS 2的推动下，苹果的AR/VR设备将能够提供更加逼真和沉浸式的体验。此外，visionOS 2还增加了对第三方应用的支持，使开发人员能够为苹果的AR/VR平台创造更多内容。

苹果公司表示，iOS 18、iPadOS 18、macOS Sequoia、watchOS 11和visionOS 2将于今年秋季发布。Apple Intelligence的部分功能将在今年秋季上线，其余功能将在明年陆续推出。

以下是WWDC24发布的主要产品和功能：

• Apple Intelligence： 全新个人智能系统，旨在为用户提供更加个性化和智能化的体验。
• iOS 18： 更加个性化的锁屏界面、改进的通知系统、增强的多任务处理功能等。
• iPadOS 18： 全新的多任务处理功能、对触控笔Apple Pencil的更多支持等。
• macOS Sequoia： 全新设计、改进的控制中心、增强的Safari浏览器、邮件和信息等应用等。
• watchOS 11： 更加准确的睡眠追踪功能、对心率变异性和血氧饱和度等指标的监测支持等。
• visionOS 2： 更加逼真和沉浸式的AR/VR体验、对第三方应用的支持等。

WWDC24的发布标志着苹果在人工智能领域迈出了重要一步。Apple Intelligence的推出，将使苹果设备更加智能化，并为用户提供更加个性化的体验。