会员专属，加入会员后，可免费下载！本站资源仅支持搭载Apple Silicon Mac M系列 GPU加速芯片。

🍏 苹果Apple Silicon原生MLX框架Qwen-14B整合包！

苹果公司最近推出了一款新的机器学习框架，名为MLX，它类似于NumPy数组，并专为苹果芯片优化。这一框架旨在提高在苹果设备上运行各种规模机器学习模型的效率，尤其是大型模型。通过MLX，用户可以在Mac或iPhone上本地运行如llama3、apple openELM等大型模型，其运行效率比使用pytorch提高近3倍。MLX的推出可能使得Apple芯片成为未来在推理及训练方面性价比最高的选择。

Mac爱范团队整合了包含分别包含5亿和140亿参数的Qwen-14B模型，5亿参数的模型运行速度快得令人难以置信！

下面是视频演示：

🌟 MLX的关键特性

熟悉的API：MLX提供了一个Python API，该API紧密遵循NumPy的设计。此外，MLX还提供了一个功能齐全的C++ API，与Python API保持高度一致。通过如mlx.nn和mlx.optimizers等高级包，MLX的API在设计上与PyTorch非常相似，旨在简化更复杂模型的构建过程。
可组合的函数转换：MLX支持可组合的函数转换功能，这包括自动微分、自动向量化以及计算图优化，为开发者提供了高度的灵活性和效率。
延迟计算：在MLX框架中，计算操作是延迟执行的。这意味着数据数组只有在真正需要时才会被实体化，从而优化了内存的使用和计算效率。
动态图构建：MLX的计算图是动态构建的，这使得更改函数参数的形状时不会触发缓慢的编译过程，同时也使得调试过程更为简单和直观。
多设备支持：MLX支持在多种设备上执行操作，目前支持的设备包括CPU和GPU。
统一内存模型：与其他框架不同，MLX采用了统一内存模型。在这种模型中，MLX数组存储在共享内存中，任何设备上的操作都可以直接在这些数组上执行，无需进行数据迁移，大大提高了操作的效率和便捷性。