图片来自网络
GeminiNano现已在Pixel9设备上进行实验，它将允许开发人员使用AIEdgeSDK控制关键参数。GeminiNano声称可以提高性能，同时减少对云服务器的依赖。
GeminiNano是Gemini系列AI模型中更专业、更轻量级的版本。虽然两者都属于同一个Gemini系列，但Nano版本专为设备上的AI任务而设计，据称只需在用户设备上本地处理数据，即可使对话更高效、更私密。
谷歌现已通过AIcore使用其AIEdgeSDK在Android设备上开放GeminiNano供实验。据称，该设备上的AI模型针对文本生成和改写等任务进行了优化。在此公告之后，开发人员将有机会测试AI功能，而无需过度依赖云资源。但是，有一个问题——它最初仅适用于Pixel9系列设备。
GeminiNano在基于文本的AI用例(如摘要、校对和智能回复生成)中表现尤为出色。AIEdgeSDK将允许开发人员控制特定参数(如温度、top-K采样和输出长度)，以微调模型的响应。作为参考，top-K采样是AI模型中的一种方法，它将潜在的下一个单词的数量限制为K个最可能的单词，试图在连贯性和随机性之间取得平衡。这种方法有助于生成更相关、重复性更低的文本，同时仍允许响应的变化——同时最大限度地减少对高性能服务器的需求。
在性能方面，GeminiNano声称比其前代产品有了显著的改进。该公司表示，该模型在释义和数学问题等任务中的准确率分别跃升至90%和23%。谷歌目前正在向开发人员提供实验性访问权限，让他们将上述所有功能集成到他们的应用中。
首先，开发人员可以参考SDK的文档，其中提供了在移动应用程序中使用GeminiNano的分步指南。