初创公司 Underdog 推出仅 32MB 的超轻量级语音模型，挑战大模型主流趋势

在生成式人工智能领域的一项令人惊叹的发展中，一家名为 Underdog 的初创公司推出了一款体积异常小巧的语音模型，向当前追求海量、重资源AI系统的主流趋势发起了挑战。

这款新模型的体积仅为 32MB，它证明了高质量的生成能力并不一定需要大型语言模型通常所具备的庞大计算能力。尽管身材娇小，该模型却能够同时生成清晰的语音和音乐作品。

这种极高的效率标志着对行业标准的重大偏离——在传统标准中，模型通常需要占用数吉字节（GB）的存储空间以及大量的 GPU 内存才能有效运行。

通过优化架构使其适应如此微小的占用空间，Underdog 正将其技术定位应用于硬件资源受限的环境中，例如移动设备、边缘计算硬件和嵌入式系统。该公司提供的演示展示了该模型的多功能性，证明它能够处理复杂的音频任务，而无需进行基于云端的处理。

这可能会对隐私保护和延迟产生深远的影响，因为本地执行避免了将敏感数据传输到外部服务器的需要。此外，极低的内存需求表明，开发人员可以将复杂的音频生成功能集成到以前由于硬件限制而无法支持此类功能的应用程序中。

虽然整个行业一直专注于将模型扩展到拥有数万亿参数的规模，但 Underdog 的方法突显了模型蒸馏和高效架构设计日益增长的重要性。

随着对端侧人工智能（on-device AI）需求的不断增长，像这样只有 32MB 的模型创新，可能会成为使先进的生成式工具能够被更广泛的用户和设备所使用的关键所在。

该公司尚未发布完整的技术规格，但最初的演示已经引起了业界的广泛兴趣，人们都在关注这样一个紧凑的模型是如何在不同的音频模态中保持其卓越性能的。

背景补充：近年来，以 GPT 系列为代表的大型生成式模型虽然能力惊人，但其高昂的算力和电力成本、对云计算的依赖以及隐私泄露隐患，促使学术界和工业界分流出“轻量化”与“端侧AI”的研究方向。

模型蒸馏、量化和剪枝等技术的进步，使得在手机、物联网设备等本地端运行复杂 AI 成为可能。Underdog 的这一突破不仅展示了算法优化的巨大空间，也预示着未来AI应用将更加普及、低碳且注重隐私。

来源: TechCrunch