7月19日消息,高通和Facebook母公司Meta周二宣布,从2024年开始,他们将让采用高通处理器的智能手机和电脑能够运行由大型语言模型Llama 2构建的应用程序。
截至目前,由于生成式人工智能对计算能力和数据的巨大需求,大型语言模型主要在采用了英伟达图形处理器的大型服务器农场中运行。这提振了英伟达的股价,推动该公司市值在今年上涨了220%以上。像高通这样在手机和个人电脑处理器市场中处于领先的企业,并没有赶上爆炒人工智能股票的浪潮。今年以来,高通股价的累计涨幅仅为10%左右,远远落后于纳斯达克综合指数同期36%的涨幅。
高通与Meta周二的联合声明表明,高通希望将其处理器定位为非常适合人工智能,但“在边缘”,或在设备上,而不是“在云端”。如果大型语言模型可以在手机上运行,而不是在大型数据中心运行,这可能会降低运行人工智能模型的巨大成本,并可能让更好更快的语音助手和其他应用程序迅速出现。
高通将使Meta的开源Llama 2模型在高通设备上可用,它认为这将使智能虚拟助理等应用成为可能。Meta的Llama 2可以做许多与ChatGPT相同的事情,但它可以打包在一个更小的程序中,使得它可以在手机上运行。
高通的芯片包括一个“张量处理器单元”,即TPU,非常适合人工智能模型所需的各种计算。不过,移动设备上可用的处理能力与配备尖端GPU的数据中心相比就相形见绌了。
Meta的Llama受到市场关注,主要是因为Meta公布了它的参数,这是一组帮助管理特定人工智能模型如何工作的数据。这将允许研究人员和最终的商业企业在自己的计算机上使用人工智能模型,而无需请求许可或支付费用。目前市场中的主流大型语言模型,如OpenAI的GPT-4,或谷歌的Bard,都是闭源大型语言模型,它们的参数数据是严格保密的。
高通过去曾与Meta密切合作,尤其是在虚拟现实设备Quest的芯片方面。高通还展示了一些在其芯片上缓慢运行的人工智能模型,如开源图像生成器Stable Diffusion。