高通与Meta合作优化Llama 3大语言模型在骁龙终端的运行

aixiPa

Meta公司推出了下一代大语言模型Llama 3，该模型有两种版本：80亿参数和700亿参数，被宣称为最强大的开源大语言模型。高通公司宣布将支持Llama 3在骁龙终端上的运行，这包括智能手机、PC、VR/AR头显和汽车等设备。双方合作的目标是优化Llama 3在这些终端上的执行，以提升响应能力、增强隐私性和可靠性，并为用户带来更加个性化的体验。开发者将能够利用高通AI Hub中的资源和工具，以实现在骁龙平台上的优化运行，缩短产品上市时间并充分发挥终端侧AI的优势。