Source: The Verge
Gemini可能是谷歌迄今为止开发的最大、最强大的大型语言模型(LLM),但它更适合运行在数据中心而不是手机上。然而,通过Gemini Nano,谷歌试图在二者之间寻求平衡:它构建了一个精简版的旗舰LLM,可以在本地和离线环境下在设备上运行。目前,Pixel 8 Pro是唯一兼容Nano的手机,但谷歌将该新模型视为Android的核心部分。如果你有Pixel 8 Pro,从今天开始,你的手机上将有两个功能由Gemini Nano提供支持:Recorder应用程序中的自动摘要功能和Gboard键盘中的智能回复功能。两者都可以离线工作,因为模型运行在设备本身上,所以应该感觉快速和本地化。谷歌正在小规模开始推出Gemini Nano。
甚至在WhatsApp中,智能回复功能也仅由Gemini提供支持,但谷歌表示,它将在明年推出到更多应用程序中。而整个Gemini模型目前仅以英语推出,这意味着许多用户将无法使用。你的Pixel 8 Pro不会突然感觉像一个升级后的设备,但如果Gemini像谷歌预期的那样好,它可能会随着时间变得更好。明年,当谷歌在Pixel手机上推出由Gemini驱动的Bard时,你将获得更多Gemini的体验。Nano是Gemini模型中最小的一款,但Google DeepMind的CEO Demis Hassabis表示其性能依然强大。它必须适应一个小空间,对吧?”他说。
一个Pixel手机的非常小的空间。所以有着内存限制、速度限制等等。从其尺寸来看,它实际上是一款令人难以置信的模型 - 当然,它可以通过从更大型号中提炼等方式受益。Nano的目标是创建一个尽可能强大但不会占用手机存储空间或使处理器温度达到高温的Gemini版本。目前,谷歌的Tensor 3处理器似乎是唯一能够运行该模型的处理器。但谷歌还在努力将Nano作为整个Android系统的一部分,它推出了一个名为AICore的新系统服务,开发人员可以使用它将由Gemini提供支持的功能引入到他们的应用中。
要使它正常工作,你的手机仍然需要一款非常高端的芯片,但谷歌在宣布此功能的博文中提到,高通、三星和联发科是制造兼容处理器的公司。开发者现在可以进入谷歌的早期访问计划。在过去几年中,谷歌一直将其Pixel手机视为基本的人工智能设备。凭借Tensor芯片和与谷歌所有服务的紧密连接,它们应该会随着时间的推移变得更好、更智能。通过Gemini Nano,这可能最终成为许多高端Android设备的现实。目前,这只是一个购买Pixel 8 Pro的充分理由。
谷歌的Gemini Nano模型将带来更好的本地化体验,让高端手机用户能够更快速、更智能地使用录音和键盘输入功能。