苹果推出Ferret-UI：AI新突破，让手机界面“开口说话”

罗宾 • 2024年 4月 20日 pm8:03 • 新闻 • 阅读 98

在人工智能领域，苹果公司近日再次引领创新潮流，发布了名为Ferret-UI的多模态大语言模型。这一模型被设计为专门理解并解析移动应用程序屏幕上的内容，为智能手机的使用体验带来了革命性的提升。

据悉，传统的AI大语言模型，如ChatGPT等，其训练材料多限于文本内容。然而，随着科技的进步和用户需求的变化，多模态大语言模型（MLLMs）应运而生，旨在理解包括图像、视频和音频在内的非文本内容。不过，目前的多模态模型在理解移动应用程序界面方面仍面临诸多挑战，比如手机屏幕的宽高比与训练图像不同，以及界面元素如图标和按钮相对较小等问题。

针对这些挑战，苹果公司研发了Ferret-UI模型。该模型在Ferret的基础上进行了创新，引入了“任意分辨率”技术，使得模型能够放大界面细节，并增强视觉功能。此外，苹果还精心收集了大量初级用户界面任务的训练样本，这些样本都带有区域注释的指令，便于模型进行精确的引用和定位。

为进一步提升Ferret-UI的推理能力，苹果公司还编制了高级任务数据集，包括详细描述、感知/交互对话和功能推断等任务。这些任务不仅考验模型对界面元素的理解能力，还考验其生成自然语言指令的能力。

在测试中，Ferret-UI表现出色，尤其在描述和交互对话任务中，能够生成与视觉组件相关的详细讨论，并提出以特定目标为导向的行动计划。此外，该模型还能通过功能推断来解释屏幕的整体目的，显示出在理解和生成自然语言指令方面的高级能力。

苹果在相关论文中表示，与其他MLLMs模型相比，Ferret-UI在理解和解析移动应用界面方面更为优秀，甚至在多个基础UI任务上超越了现有的GPT-4V模型。这一创新不仅有望提升苹果设备的用户体验，还可能对整个移动应用生态产生深远影响。

行业专家和分析师对Ferret-UI的发布给予了高度评价。他们认为，这一模型的成功应用将推动多模态大语言模型在移动应用领域的发展，为未来的智能设备带来更加智能、便捷的用户交互体验。

虽然Ferret-UI的发布为人工智能领域带来了新的突破，但关于其在实际应用中的表现仍需要进一步观察。未来，我们期待看到更多关于Ferret-UI在实际场景中的应用案例和效果评估，以进一步了解其优势和局限性。

总之，苹果推出的Ferret-UI多模态大语言模型，为理解和解析移动应用界面提供了新的解决方案，有望为用户带来更加智能、便捷的使用体验。这一创新不仅展示了苹果在人工智能领域的领先地位，也为整个行业的发展提供了新的思路和方向。

文章来源于互联，不代表科技云立场！如有侵权，请联系我们。