Intel Arc A770使用ipex-llm运行Qwen2大模型

参考资料： 官方文档：Install-and-Run-on-AMD-GPUs 知乎：Windows下Stable Diffusion WebUI使用AMD显卡指北 本文编写于2023年4月3日，我的操作系统是windows，显卡是AMD RX5700 8G，SD版本1.5。技术迭代更新很快，一切以官方文档为准，本文仅供参考！ 安装 前置要求 SD安装前，首先要有git和Python3.10（应该在3.10.6以上）。Python安装过程中记得选中“Add Python to PATH”，如果忘了选也问题不大，将Python安装路径和Scripts添加到环境变量即可。 注意，git是必须装的，从GitHub上把压缩包下载下来是不够的。安装过程中还会拉取在线repo。 其次，Adrenalin显卡驱动必须装好。 git下载repo 使用cd命令导航到一个空目录，或者用mkdir命令创建个新的 如果是使用CUDA，也就是Nvidia显卡的话，（要先安装上CUDA工具哦）用这句： git clone https://ghproxy.

适用于stable-diffusion-webui 1.5版本 方法1（推荐,扩展有作者维护可获得持续更新）：通过扩展安装语言包 1. 先点击切换到【扩展页面 Extensions】，再点击【可用 Available】，再点击【Load from: 加载自：】 2. 在 【隐藏勾选类型的扩展 Hide extensions with tags】中，取消勾选“localization” 3. 找到 zh_Hans Localization 点击最后的Install按钮 4. 点击【已安装扩展 Installed】分页，确保页面下方已经勾选了“stable-diffusion-webui-localization-zh_Hans”，点击【应用并重启 UI Apply and restart UI】，重启页面。

官方文档：https://github.com/AUTOMATIC1111/stable-diffusion-webui/wiki/Command-Line-Arguments-and-Settings 参考资料：CSDN:Stable Diffusion攻略集 本文写于2023年4月3日，SD版本为1.5。 我的启动参数（AMD RX5700 8G） 如下配置可以把RX5700显存用满，推理时性能占用维持95%以上。出图效率比较高，常用350x700的尺寸（总尺寸与512x512接近），速度可以在1.6s/it，一张图平均20~30次迭代，也就是一分钟内可以出一张图。 set COMMANDLINE_ARGS=--medvram --always-batch-cond-uncond --opt-split-attention 为什么使用这三个参数 --medvram这个参数对于显存8G及以上的N卡用户来说通常无需配置，但经过我的实测，RX5700不加--medvram非常容易爆显存。显存更低（6G及以下）的用户，建议使用-lowvram。