jan ai是一个免费开源的本地AI助手,打破了云端AI服务的网络依赖局限,让用户可以在本地设备上自由定制、印象大语言模型,也能兼容市面上主流的开源大语言模型,无需复杂配置即可快速部署,提供开箱即用的本地AI运行环境。
1、初次下载模型后,所有对话、文件处理与AI计算均无需联网,在断网环境下也能持续使用。
2、所有对话记录和模型参数均存储在本地设备,用户可随时删除或迁移数据,彻底杜绝第三方数据采集。
3、无需注册账号、绑定邮箱或提供个人信息,下载安装后即可立即使用,消除隐私泄露的第一道风险点。
4、设置本地模型优先或云端模型优先,根据网络状态与任务类型自动切换,以获取最佳使用体验。
提供一站式模型管理中心,兼容主流开源大语言模型,可以灵活切换你喜欢的模型。
可以同时安装多个模型,方便快速切换不同模型,适配不同任务场景。
根据需求优化AI输出风格与质量,不断调整参数,确保最终输出的内容符合心理预期。
创建一个本地知识库,AI会基于知识库内容提供精准回答,适配专业领域学习与工作需求。
1、选择适配硬件的模型,建议低配设备优先使用7B参数以下的量化模型。
2、启用模型量化,在牺牲少量性能的前提下,大幅降低内存占用。
3、关闭后台占用资源的程序,释放CPU/GPU内存,提升模型运行效率。
4、还可以更新显卡驱动,启用硬件加速。
