• 发文
  • 评论
  • 微博
  • 空间
  • 微信

技术创新:苹果在闪存上存储大型语言模型(LLM)引领未来AI发展

科闻社 2023-12-22 17:15 发文

(本篇文篇章共1135字,阅读时间约1分钟)

2023年12月22日,据多家媒体报道,苹果正积极探索在闪存上存储大型语言模型(LLM)的技术创新,并计划将其引入iPhone、iPad和Mac等设备,以在资源有限的环境中提高人工智能(AI)的运行效率。这一突破性进展将有望让强大的Siri、实时语言翻译以及融入摄影和增强现实的AI功能成为未来iPhone的独特卖点。

传统上,大型语言模型需要占用大量CPU和内存资源。为了解决这一问题,苹果的研究人员正在探索在有限内存设备上存储LLM的可能性。在一篇新发表的论文中,苹果详细介绍了他们利用闪存芯片存储AI模型数据的创新技术。由于iPhone和Mac计算机上闪存大量可用,这项技术使用了一种称为“Windowing”的方法,通过重复使用已处理的数据,减少了对连续内存获取的需求,从而提高了整个过程的速度。

具体而言,两种关键技术被引入,分别是“窗口化(Windowing)”和“行列捆绑(Row-Column Bundling)”。前者实现了数据的有效分组,减少了对内存的频繁读取,而后者更有效地对数据进行捆绑,使得AI模型能够更快地从闪存中读取数据并提高其理解和生成语言的速度。

根据研究人员的介绍,这两项技术的引入将使AI模型在iPhone可用RAM大小的两倍范围内运行,极大地提高了在标准处理器上的速度,最高可达5倍,在图形处理器上更是可达25倍。

苹果对AI的重视不断显现,从自家聊天机器人Apple GPT的推出到计划中的iPhone 16系列搭载升级麦克风,以提升语音输入功能。此外,有传言称,iOS 18将在明年正式到来时引入某种形式的生成式AI,进一步将苹果推向人工智能技术的前沿。

这一技术创新有望为未来iPhone带来更强大的AI功能,包括更智能的Siri、实时语言翻译以及在摄影和增强现实领域的复杂AI驱动功能。苹果的生成式AI模型,代号为“Ajax”,被认为将与OpenAI的GPT-3和GPT-4竞争,具有高度复杂性和强大的语言理解和生成能力,为苹果的生态系统带来更深层次的AI整合。

*免责声明:以上内容整理自网络,仅供交流学习之用。如有内容、版权问题,请留言与我们联系进行删除。

声明:本文为OFweek维科号作者发布,不代表OFweek维科号立场。如有侵权或其他问题,请及时联系我们举报。
2
评论

评论

    相关阅读

    暂无数据

    已认证
    科闻社

    集成电路领域优质创作者...

    举报文章问题

    ×
    • 营销广告
    • 重复、旧闻
    • 格式问题
    • 低俗
    • 标题夸张
    • 与事实不符
    • 疑似抄袭
    • 我有话要说
    确定 取消

    举报评论问题

    ×
    • 淫秽色情
    • 营销广告
    • 恶意攻击谩骂
    • 我要吐槽
    确定 取消

    用户登录×

    请输入用户名/手机/邮箱

    请输入密码