雨晴LLM大模型app官方最新版下载

雨晴LL模型app官方最新版下载是一款开源API自主工作ai应用，把传统本地部署大模型时复杂的编译和环境配置步骤都进行了简化，整个编译AI跑算法过程在手机上就可以完成。一键导入，轻松完成对话数据的加载，让你随时随地打开手机就能够操作，带来更加多的便捷。

应用简介

一个纯离线的Android本地LLM推理服务器。集成GoogleLiteRT-LM引擎运行Gemma模型，通过NanoHTTPd在127.0.0.1广播OpenAI兼容API，供ChatBox、OpenWebUI等第三方AI客户端调用。

雨晴LLM怎么导入模型配置

1、下载本站应用安装打开，然后点击模型板块。

2、在默认设备里添加模型参数，开始导入。

3、软件的模型导入有默认要求的，如果没法导入，可直接选中应用内置模型添加。

雨晴LLM的悬浮窗怎么用？

1、进入设置界面，点击“显示悬浮窗”，按照提示完成授权。

2、授权完成后返回首页，悬浮窗功能即可开启。

3、在其他应用中可以通过悬浮窗快速唤起对话界面，不用来回切换应用。

雨晴LLM大模型GPG参数如何更改

1、软件本身有默认参数，想要更改可以在设置中进行操作。

2、参数部分有不懂的，小编建议直接重置，如果有其他不清楚可挨个点击查看对应名词释义。

3、以上就是关于如何更改GPU部分的教学，希望对大家的使用能够有所帮助。

雨晴LLM大模型的功能特性怎么样

本地推理基于Google LiteRT-LM，支持Gemma4-E2B/Gemma4-E4B官方及无限制版本

OpenAI兼容API/v1/chat/completions·/v1/models·/health

SSE流式输出原生支持stream: true，逐token流式推送到客户端

Tool Calling支持OpenAI tool_use协议，返回tool_calls供客户端执行后多轮续接

多模态 支持图片(ImageBytes/ImageFile) +音频(AudioBytes)输入

GPU加速CPU/GPU后端可切换，GPU prefill可达3808 tk/s（S26 Ultra+Gemma4 E2B实测，解码约52tk/s，实际速度因设备而异）

纯本地·零联网 127.0.0.1绑定，不暴露到局域网，隐私安全

实时统计 请求日志、Token用量图表、引擎诊断面板

实时悬浮窗 可拖动/最小化的全局悬浮窗，粉色主题，通知栏快捷控制

Material Design 3 Jetpack Compose构建，元气猫系粉色主题

后台保活 Foreground Service+WakeLock+通知栏常驻

雨晴 LLM基础教学文字版

快速开始

方式一：Android Studio（推荐）

Clone 仓库：git clone https://github.com/CATMIAOZHI/RainyLLM.git

用 Android Studio打开项目

同步Gradle，连接设备，Run 

方式二：命令行

# 构建Debug APK

./gradlew assembleDebug

# 安装到设备

./gradlew installDebug

首次使用

打开App，进入「模型管理」标签页

下载一个模型（推荐 Gemma4-E2B，约 2.58GB）

切回「主控台」，点击「启动服务」

服务运行在http://127.0.0.1:8080

ARM64环境说明（非必需）

雨晴LLM支持哪些模型格式？

1、目前支持GGUF等主流大模型文件格式，具体兼容列表以App内实际显示为准。

2、模型文件需要用户自行从可信渠道下载，放入手机存储后在软件内选择路径加载。

3、不同模型对手机内存和处理器要求不同，建议根据设备配置选择合适规模的模型。

小编推荐同类软件

推荐指数综合用户口碑与实用度评定，仅供参考