Search: #AppleSilicon

  1. GreenRAM: macOS 内存智能管理工具• 实时监控内存与 Swap 使用情况,提供可视化状态面板,帮助快速掌握系统资源占用情况• 支持应用级内存清理规则,可针对指定应用执行内存回收,提升多任务场景下的系统响应速度• 原生 Swift 开发,支持自动更新与菜单栏快捷操作,兼顾性能表现与日常使用体验

    Forwarded from 折腾啥 (小一)
    GreenRAM: macOS 内存智能管理工具

    • 实时监控内存与 Swap 使用情况,提供可视化状态面板,帮助快速掌握系统资源占用情况

    • 支持应用级内存清理规则,可针对指定应用执行内存回收,提升多任务场景下的系统响应速度

    • 原生 Swift 开发,支持自动更新与菜单栏快捷操作,兼顾性能表现与日常使用体验

    https://github.com/lwj1994/greenram

    合集 群组 恰饭 联系推广

    #macOS #内存管理 #性能优化 #Swift #AppleSilicon #开源工具 #GitHub

  2. JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式• 针对 MoE 与超大模型做按张量分配比特宽度,在接近 MLX 体积下优先保留 attention 与 router 精度,低比特场景下稳定性和效果更强• 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构,部分模型可在 16 GB 或 64 GB Mac 上运行,甚至实现 397B 级模型在 128 GB Mac 上推理• 原生兼容 MLX 生态,提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案,适合在 Apple Silicon 上部署高压缩本地模型

    Forwarded from 折腾啥 (小一)
    JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式

    • 针对 MoE 与超大模型做按张量分配比特宽度,在接近 MLX 体积下优先保留 attention 与 router 精度,低比特场景下稳定性和效果更强

    • 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构,部分模型可在 16 GB 或 64 GB Mac 上运行,甚至实现 397B 级模型在 128 GB Mac 上推理

    • 原生兼容 MLX 生态,提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案,适合在 Apple Silicon 上部署高压缩本地模型

    https://github.com/jjang-ai/jangq

    #AppleSilicon #MLX #模型量化 #混合精度量化 #本地大模型 #MoE #推理优化 #Mac #AI #GitHub GitHub - jjang-ai/jangq: JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for…