在WWDC 2024期间,苹果公司向期待的观众倾注了一大桶人工智能,让我们在苹果智能的旗帜下沉浸在新的人工智能功能中。但是这些功能是如何工作的呢?
苹果刚刚举行了其最具开创性的全球开发者大会(WWDC)主题演讲之一,宣布今年晚些时候将在iPhone、iPad和Mac操作系统上引入主要的人工智能(AI)功能。
虽然我们并不期待该公司推出一系列华丽的生成式人工智能功能,让我们大吃一惊,但新的人工智能公告仍然足以让WWDC活动上的观众感到震惊。
预计苹果将把重点放在简化用户日常任务的应用程序中,并将这些人工智能功能分类为“苹果智能”。我们没有错过文字游戏。
苹果智能专注于广泛的人工智能功能,而不是先进的图像和视频生成。为此,该公司开发了内部人工智能模型,并与OpenAI合作开发了一个聊天机器人,该机器人将把ChatGPT集成到iOS、ipad和MacOS中。
苹果智能的一些最大的人工智能功能包括:
改进的照片编辑,比如物体移除,在照片中使用人工智能。
更大的Siri控制应用程序和操作,包括让Siri查找电子邮件或编辑照片。
人工智能生成自定义表情包基于文本PROM的Sed分。
生成笔记、短信线程、电子邮件和其他文本的快速摘要。
自动建议回应用于电子邮件和消息的nse。
一个改进的邮件应用程序,可以分类电子邮件和生成消息。
自动反式语音备忘录的描述。
AI增强Xcode自动完成代码。
除了这些人工智能功能,iOS 18还将包括新的自定义图标和控制中心、设置和消息的界面更新。苹果还推出了一款新的密码应用程序,以取代iCloud Keychain,为用户提供一个更友好的选择,类似于1Password和LastPass。
Siri从内到外都得到了升级。这款虚拟助手为用户提供了全新的外观和一系列新功能。Siri的标志已经重新设计,当用户与Siri说话时,不再看到Siri的气泡,取而代之的是环绕在设备边缘的一个新的发光的彩色灯,它将照亮显示屏。
抛开外表不谈,Siri现在可以更自然地理解和回应,让互动感觉更像人类。人工智能助手还将能够维护从一个请求到下一个请求的上下文,以准确回答后续问题。
有了iPhone、iPad或Mac上的内容和屏幕感知,Siri还可以从你的电子邮件、图书馆里的照片或信息中做出推断。苹果分享了一个例子,一个朋友在短信中分享了一个地址后,Siri就能在联系人卡片上添加地址。
这款语音助手还可以在苹果和第三方应用程序中执行数百项新操作,比如从阅读列表中打开文章,或者在你的图库中查找特定的照片。
苹果还升级了Siri,使其能够理解文本,用户可以根据需要输入或与Siri对话。
与谷歌Pixel的Magic Eraser一样,苹果为其设备提供了一项名为“清理”(Clean Up)的人工智能照片编辑新功能。此工具识别背景中分散注意力的物体,删除它们,并重新生成背景。这是完美的去除照片炸弹和其他物体。
苹果将在其照片应用程序中添加自然语言的照片和视频搜索功能。这将允许用户输入搜索图片、视频甚至视频片段的提示。用户可以说,“找到一张我们去年夏天在海滩上发现的海星的照片”,然后他们的iPhone就会调出一张照片,而不必在成千上万张照片中滚动查找。
在“照片”功能中,用户还可以通过文本提示创建“记忆视频”。这些视频和照片将根据描述进行汇编,并附带苹果音乐的音乐建议。
苹果公司为iPhone、iPad和Mac提供了新的系统级写作工具,可以帮助用户使用人工智能重写、校对和总结文本。你可以快速生成一个回复,或者总结一封很长的邮件,看看它是关于什么的。
同样的功能可以帮助用户对文本进行重大编辑,比如改变语气使其更有同理心,或者进行校对以发现错误。
苹果设备在语音备忘录和电话的录音和转录方面也将获得人工智能升级,因为用户可以用人工智能快速转录语音笔记。
苹果将允许用户在message、Photos Notes、Keynote、Freeform、Pages和Image Playground的第三方应用程序中使用人工智能生成图像。这些图像可以用动画、插图和素描样式生成。
例如,在Notes应用程序中,一个名为Image Wand的新工具可以让你圈出一个粗略的草图,并使用设备上的人工智能让Image Playground从周围区域提取灵感来生成图像。
Image Playground将在今年秋天推出测试版,一些功能将在明年发布。
当苹果忙于向我们展示AI更新时,它也证实了与ChatGPT背后的OpenAI公司建立新合作伙伴关系的传闻。这次合作带来了ChatGPT与Siri和系统范围内的写作工具的集成。
当用户向Siri发出请求,而语音助手认为由ChatGPT更好地处理时,虚拟助手会询问用户是否可以与人工智能聊天机器人分享他们的提示。然后,它在同一窗口中显示ChatGPT响应。
苹果表示,它的ChatGPT集成有隐私保护,IP地址不清晰,也没有OpenAI的请求存储。ChatGPT在iPhone、iPad和Mac上都可以免费使用,前提是这些设备与最新的操作系统兼容。付费ChatGPT用户将获得额外的Plus功能。
几个月来,有传言称苹果一直在研究不同的方法,以确保其人工智能严格在设备上运行,以保障安全和隐私。不过,苹果智能(Apple Intelligence)预计至少会在某些任务上依赖云,不过该公司正在优先考虑在设备上进行处理,以增强隐私。特定任务是在设备上处理还是在云中处理取决于任务复杂性、资源可用性、数据隐私考虑和延迟需求。
从本质上讲,如果一个任务足够简单,可以在本地处理,利用设备的处理能力和电池寿命,并且需要立即产生结果,那么它更有可能在设备上处理。涉及敏感数据的任务也可以优先在设备上处理,就像苹果优先考虑数据隐私一样。
反过来,基于云的人工智能处理需要将数据从设备发送到可以处理复杂或计算量大的任务的远程服务器。以苹果为例,需要处理大量数据或更新模型的任务可能包括复杂的分析和高级生成人工智能请求。
苹果正在利用其所谓的私有云计算来完成需要云服务器的复杂任务。这些过程利用更大的基于服务器的模型,同时保护用户隐私。服务器是用苹果公司的芯片制造的,数据从来没有保存在云端。
根据其复杂性和系统需求,算法将决定需要人工智能的任务是应该在设备上处理还是卸载到云端。更简单的任务,如Siri请求和其他基本的NLP任务,可以在设备上处理。更复杂的任务,如生成大型文档的详细摘要,将被发送到云,在那里可以进行更强大的处理。
苹果软件工程高级副总裁克雷格·费德里吉(Craig Federighi)在WWDC 2024主题演讲中表示:“苹果智能具有开创性的隐私保护。苹果公司在发布Apple Intelligence时强调了消费者的隐私,费德里吉称其“架构以隐私为核心”。
该公司正在努力通过几种机制来保证人工智能功能的安全。包括:
设备内置处理:本地计算过程确保敏感和私有信息仍然在用户的控制之下。任务直接在设备上处理,需要很强的计算能力部分权力。这就是为什么苹果要求它的人工智能功能可以在A17 Pro、M1和更新的处理器上运行。
“私有云计算”或安全云处理:苹果使用安全、专用的苹果芯片服务器来处理设备无法处理的复杂任务。它还使用加密验证,允许0只有软件已被公开记录以供检查的服务器才能与苹果设备通信。
有限的数据共享和无保留:苹果正在确保当用户需要将数据发送到云服务器时只发送必要的信息,减少暴露。它还表示,这些数据不会被保留,进一步保护了公司nsumer隐私。
独立代码审查:对于私有云计算,苹果解释说,代码可供独立专家检查并验证它是否符合隐私标准。
数据加密:苹果对进出其服务器的所有数据进行加密,作为另一层安全保护。
退出的能力:也许最重要的是重要的是,用户可以选择加入苹果智能功能,随着时间的推移,苹果将努力提高其人工智能能力,这些功能将作为测试版推出。
苹果新的人工智能功能将与最新的苹果设备兼容,包括搭载A17 Pro芯片的iPhone 15 Pro或更新型号,以及搭载M1或更新芯片的ipad和mac电脑。
虽然这些人工智能功能可能有助于推动新iPhone和mac的销售,但作为目前iPhone 14 Pro Max的用户,我希望至少有一些功能会渗透到旧款iPhone上。