企查查APP显示,9月5日,华为技术有限公司“AI模型的运行方法、装置、程序产品和存储介质”专利公布。摘要显示,该专利应用于主机,主机包括处理器,并连接计算卡,包括:处理器确定AI模型相邻的两组输入数据中在第二数据组中但不在第一数据组中的第一数据,第二数据组在第一数据组之后训练,将第一数据对应的第一嵌入向量预取至处理器的第一内存,并确定第一数据对应的第一嵌入向量信息,在第二数据组在计算卡上处理过程中,根据第一嵌入向量信息将第一嵌入向量从第一内存预取至计算卡的第二内存。采用该专利所示的方案,能够减少嵌入向量搬运带来的处理延时。
免责声明:所有平台仅提供服务对接功能,资讯信息、数据资料来源于第三方,其中发布的文章、视频、数据仅代表内容发布者个人的观点,并不代表泡财经平台的观点,不构成任何投资建议,仅供参考,用户需独立做出投资决策,自行承担因信赖或使用第三方信息而导致的任何损失。投资有风险,入市需谨慎。
请先登录后发表评论