当前的位置: 首页 > 文章列表 > 手机平板 > Mistral推出两款端侧AI模型 可一次性处理50页文档

— Mistral推出两款端侧AI模型 可一次性处理50页文档 —

更新时间:2024-10-18 09:45:06 编辑:丁丁小编

【太平洋科技快讯】近日,Mistral公司宣布推出两款新型AI模型——Ministral 3B和Ministral 8B。这两款模型的设计宗旨是提升和智能等设备的本地化AI体验。与传统的云连接方式不同,这两款模型可直接在设备上运行。

即使在无互联网接入的情况下,Ministral 3B和8B也能提供翻译服务、本地分析和机器人等多项服务,满足用户多样化的需求。两款模型的上下文窗口均为128K,相当于可以一次性处理50页文档,展现了强大的数据处理能力。

Ministral 8B的价格为每百万个tokens 0.1美元(约合人民币:0.7元),而3B版本则为0.04美元(约合人民币:0.28元)。较低的定价使得3B版本更适用于小规模操作和初创开发者。Ministral 8B采用了独特的交错滑动窗口注意力机制,这种设计在提高推理速度的同时,还能有效节省内存。

本文转载于:https://www.sohu.com/a/817533450_223764 如有侵犯,请联系dddazheyh@163.com删除