老王论坛

标题: 本地部署ai小说软件 [打印本页]
作者: 15267158147    时间: 2024-3-9 21:20
标题: 本地部署ai小说软件
本帖最后由 15267158147 于 2024-3-30 11:15 编辑
+ {! S, A9 V- ]4 p7 `1 @5 l
) b- Q' C9 I3 T6 M" ]5 d. f1 Q7 L我内存不够了，我给你们一个启动器，你们下载之后它可以自己下载配置，记住不要更新，不然不能瑟瑟，还有里面的模型你们也自己下一下，把它放到一个空白的文件夹里再启动' @4 O2 ]! c& P* @" m（欢迎访问老王论坛：laowang.vip）
作者: 3129281358    时间: 2024-3-10 10:01
56g 怎么这么大
作者: 昵称被占用    时间: 2024-3-10 10:55
有用过的老哥说说嘛？
作者: wewewer    时间: 2024-3-10 11:03
正在下载，等会儿回来反馈
作者: yeyumao01    时间: 2024-3-10 11:11
wewewer 发表于 2024-3-10 11:03
/ S; `3 S- W* P! ]) G正在下载，等会儿回来反馈
4 m* v. g+ E1 x! y（欢迎访问老王论坛：laowang.vip）
老哥，怎么说？
作者: 15267158147    时间: 2024-3-10 11:21
标题: 大模型运行
本帖最后由 15267158147 于 2024-3-10 11:23 编辑 $ t! I2 v, l7 O! L* u7 n/ Y( N（欢迎访问老王论坛：laowang.vip）
  q2 S' ?6 ^8 m! Z0 Z（欢迎访问老王论坛：laowang.vip）
大是因为里面模型大，21G的大模型，14G的大模型，这模型你下了才知道有多折磨人，我帮你们下完了，就能直接用
作者: qi79361439    时间: 2024-3-10 11:22
感谢分享，下着玩玩
作者: youcaiqing    时间: 2024-3-10 11:43
这个，0购买量。有人试用过了么
作者: wewewer    时间: 2024-3-10 12:00
yeyumao01 发表于 2024-3-10 11:11$ N6 s: F4 a( h6 K) u0 M- o（欢迎访问老王论坛：laowang.vip）
老哥，怎么说？
1 [( S" x# S0 @- I: T（欢迎访问老王论坛：laowang.vip）
等会儿，正在读模型，目前情况是，不吃gpu 不吃cpu 但是16g运存，两个ddr4的内存条直接拉爆，运存一直是拉满状态，这状态持续了10分钟左右了，如果是32或者64运存的可能会快点。目前是这样，还没读完，
作者: 15267158147    时间: 2024-3-10 12:05
wewewer 发表于 2024-3-10 12:00
- z# P/ a8 E+ n8 v7 s/ ?等会儿，正在读模型，目前情况是，不吃gpu 不吃cpu 但是16g运存，两个ddr4的内存条直接拉爆，运存一直是 ...

' v! U$ _$ h! }# h你把那个配置又下角有一个载入显存乘数，你把那个拉到0，还有下面运用使用自定义cuda加速关了  V$ o9 F; R: ^9 I( H5 V/ X（欢迎访问老王论坛：laowang.vip）
作者: 15267158147    时间: 2024-3-10 12:06
如果模型加载不出来，可以下载里面自带的小一点的模型
作者: 15267158147    时间: 2024-3-10 12:11
标题: 解决不能使用的办法
本帖最后由 15267158147 于 2024-3-14 09:24 编辑
. I( O& K7 j6 ~( A1 ]: C# V" |
8 G$ q+ i- E  m+ Y  q, A如果你的模型加载不出来，你可以看看左上角你的什么比较大，内存，显存还是gpu，然后你可以找到配置，找到模型参数的strategy选择不同的内存，显存还是gpu运行方式，然后点击转换，就可以转换成你可以用的模型，然后点击加载，等到加载完成，就可以对话，写小说了，如果以上方法都不能解决你的问题，那么可以去B站搜索akkv，有详细的教程
作者: wewewer    时间: 2024-3-10 12:12
15267158147 发表于 2024-3-10 12:06
: _5 c3 m/ l% _" p如果模型加载不出来，可以下载里面自带的小一点的模型

: c2 g" \; m2 C" J能加载出来，就是慢点，Python窗口开始动了就好了，楼主我这步没问题吧？你下载好的我可以不读直接用吗？我在右上角模型栏不知道那个是14或者21的模型。
作者: 15267158147    时间: 2024-3-10 12:13
wewewer 发表于 2024-3-10 12:12
+ \4 T, g0 L7 G0 t( P# S$ `. F能加载出来，就是慢点，Python窗口开始动了就好了，楼主我这步没问题吧？你下载好的我可以不读直接用吗？ ...
1 H6 @2 G/ U" b- T3 T$ f（欢迎访问老王论坛：laowang.vip）
这个一定要读的，我给的都是21G，14G的大模型，所以加载可能会比较吃力，不读就用不了' W  g$ }* c" O' x; Z% A: z+ K（欢迎访问老王论坛：laowang.vip）
作者: wewewer    时间: 2024-3-10 12:18
好了，可用，很顺畅，刚开始加载时候可能会慢一点，你可以按照楼主在评论区的方法加载，加载之后就没什么问题了，很顺畅，结果秒出，可以玩玩。
作者: wewewer    时间: 2024-3-10 12:19
15267158147 发表于 2024-3-10 12:13
. v, w# l* G$ ?# F这个一定要读的，我给的都是21G，14G的大模型，所以加载可能会比较吃力，不读就用不了
$ i) N1 C- Y( G3 O  A1 g: w1 U- P ...

4 S2 i! u9 S. l4 i0 O4 |# m2 b* E+ q: Fok了，我去玩了，谢谢楼主！
作者: wewewer    时间: 2024-3-10 12:36
15267158147 发表于 2024-3-10 12:13
( |: f2 {9 f5 B. o这个一定要读的，我给的都是21G，14G的大模型，所以加载可能会比较吃力，不读就用不了
8 s/ w! u$ k: K ...

4 o" b  p$ B! h+ h* m9 e, K: b楼主，我有个问题，聊天或者续写右上角的模型选择栏只有3个绿✓，怎么才知道自己选的是你给的21 或者14啊？
作者: 15267158147    时间: 2024-3-10 12:40
wewewer 发表于 2024-3-10 12:36
; U, @+ @& K$ q8 O( O7 l楼主，我有个问题，聊天或者续写右上角的模型选择栏只有3个绿✓，怎么才知道自己选的是你给的21 或者14啊 ...
' a6 L1 ~2 J. N/ @  G/ @（欢迎访问老王论坛：laowang.vip）
你可以打开模型文件，看看多大的，你就知道了
5 e( \, R0 I  F
作者: 握君    时间: 2024-3-10 12:47
13900K 24C24T 占用80%
4 z9 X3 k1 j0 T& T" _DDR4 3600C14 32G 占用70%（22G左右）3 W; C5 n' H7 J; `4 O8 ^（欢迎访问老王论坛：laowang.vip）
ROG 3080 12G 使用 GPU 2G配置 显存占用4.5G左右. I; N9 O' W7 h5 M0 E. q（欢迎访问老王论坛：laowang.vip）
正在下载GPU 10G配置 看看能不能速度更快# T! u4 R0 \! ?: V8 ]" r（欢迎访问老王论坛：laowang.vip）
先玩着 回头再来追评
作者: qi79361439    时间: 2024-3-10 17:48
我是16G内存，不够用，直接吃满了然后就卡死了，可惜
作者: qi79361439    时间: 2024-3-10 17:49
内存低于16G的铁子们就不用尝试了
作者: 15267158147    时间: 2024-3-10 17:55
qi79361439 发表于 2024-3-10 17:48
$ ?+ ^) C8 L5 k* w/ o1 V我是16G内存，不够用，直接吃满了然后就卡死了，可惜
- q# R+ }% }6 U（欢迎访问老王论坛：laowang.vip）
你不带脑子怪谁，我都教你怎么降低内存使用了，再说里面还有小模型，你不会看吗7 b7 [6 }- ~5 h7 W, Y8 w（欢迎访问老王论坛：laowang.vip）
作者: police493625    时间: 2024-3-10 17:56
应该发个最低配置呀，否则就是画饼呀
作者: 15267158147    时间: 2024-3-10 17:56
police493625 发表于 2024-3-10 17:56
1 z; s! U; L  \3 v' h7 b' \应该发个最低配置呀，否则就是画饼呀

8 G1 J& C$ ^- E1 \最低2G) ^7 @2 _8 h' g2 M（欢迎访问老王论坛：laowang.vip）
作者: 15267158147    时间: 2024-3-10 17:59
15267158147 发表于 2024-3-10 17:56( e9 a( e' j6 o5 A（欢迎访问老王论坛：laowang.vip）
最低2G
* S4 _: I; m% Y+ `（欢迎访问老王论坛：laowang.vip）
我没说吗，最低2G就能用
# d" k3 t# O+ ?0 s9 f9 [
作者: dacunge520    时间: 2024-3-10 18:00
A卡能玩吗，i5 9600fk，显卡6600xt，16G内存
作者: 15267158147    时间: 2024-3-10 18:03
dacunge520 发表于 2024-3-10 18:00, [# Q( B' D0 p4 V（欢迎访问老王论坛：laowang.vip）
A卡能玩吗，i5 9600fk，显卡6600xt，16G内存

; g' \( T% f: _# n( C可以
6 b9 j( @3 k8 w0 [6 N" d
作者: qi79361439    时间: 2024-3-10 18:20
15267158147 发表于 2024-3-10 17:55
' f/ p6 e) F9 k$ _你不带脑子怪谁，我都教你怎么降低内存使用了，再说里面还有小模型，你不会看吗
3 G. s9 Y7 h* `2 |2 e" q2 R4 [ ...
; p9 ?9 N8 Y" l5 F5 X8 P（欢迎访问老王论坛：laowang.vip）
这么强的攻击性啊？你那几个模型我都试了，都是16G吃满然后加载极其缓慢，我放在M2的固态都要加载十几分钟，加载完之后，聊天模型也有问题，回答速度也极其缓慢6 {4 N+ @5 O1 Z5 D（欢迎访问老王论坛：laowang.vip）
作者: qi79361439    时间: 2024-3-10 18:22
15267158147 发表于 2024-3-10 17:55
% ?( p8 c4 D/ d+ }% b% U# `你不带脑子怪谁，我都教你怎么降低内存使用了，再说里面还有小模型，你不会看吗
' K  b- o9 i* c2 ? ...

7 K: P; _% ?/ D# G而且软件回答过程中我的CPU也是满载，显卡是8G显存的3070，显存也没用上9 c8 a. ]2 h8 q# D6 ]& Z0 v（欢迎访问老王论坛：laowang.vip）
作者: qi79361439    时间: 2024-3-10 18:24
东西有问题不让说，上来直接嘴臭，这么急？
作者: 15267158147    时间: 2024-3-10 18:25
qi79361439 发表于 2024-3-10 18:22" p; `; y0 P: o% A' R$ q3 {（欢迎访问老王论坛：laowang.vip）
而且软件回答过程中我的CPU也是满载，显卡是8G显存的3070，显存也没用上
6 c% t( b: j* j5 g" s5 E（欢迎访问老王论坛：laowang.vip）
你不适合这个，别玩了) ]$ E) K/ k' D（欢迎访问老王论坛：laowang.vip）
作者: qi79361439    时间: 2024-3-10 18:40
15267158147 发表于 2024-3-10 18:256 Z! O& d: r4 o0 \$ I（欢迎访问老王论坛：laowang.vip）
你不适合这个，别玩了

/ n, K: U  z0 |7 i已经删了，解压完74G，太占地方了，5币就当支持你分享东西了
作者: dacunge520    时间: 2024-3-10 18:55
15267158147 发表于 2024-3-10 18:03! d' n; f1 ]+ o2 O7 B4 G（欢迎访问老王论坛：laowang.vip）
可以

4 F* [( }  G( p我下好了，情况是这样，原本的几个模型我配置不了，说是内存不够。于是我下了个2g多的模型的试试，然后GPU用不了，说没有检测到n卡驱动，但是我a卡，于是我又换成CPU，配置成功，可以用，但是一分钟一个字这样子，还有办法优化吗？5 i5 B2 A3 s4 z5 |0 _（欢迎访问老王论坛：laowang.vip）
+ @4 o+ e8 {" h9 t（欢迎访问老王论坛：laowang.vip）
. [- [) @4 w, b- Z（欢迎访问老王论坛：laowang.vip）
作者: 15267158147    时间: 2024-3-10 19:54
dacunge520 发表于 2024-3-10 18:55- `, z: `& o1 [& u! Z6 [（欢迎访问老王论坛：laowang.vip）
我下好了，情况是这样，原本的几个模型我配置不了，说是内存不够。于是我下了个2g多的模型的试试，然后GP ...

+ r. a" X, @3 D0 O我有说过怎么降低运行方式，你看看我说的解决办法
& V1 k5 c5 d" Y3 M' N9 ]- _0 ^
作者: 玄天教主    时间: 2024-3-10 21:16
楼主，有群不！加个问问这个软件怎么用！
作者: AA89165556    时间: 2024-3-11 03:00
大佬怎么读取模型啊我就主页选了一个那个是读取吗
作者: AA89165556    时间: 2024-3-11 03:42
大佬们，我是gpu拉爆但是内存和显存吃的少，这样对吗
作者: 15267158147    时间: 2024-3-11 09:04
AA89165556 发表于 2024-3-11 03:42
/ v5 Z8 P4 n7 z' f大佬们，我是gpu拉爆但是内存和显存吃的少，这样对吗
! B* I% G. d# o9 P（欢迎访问老王论坛：laowang.vip）
对的，它有三种运行方式，显存和内存也能用，你现在的模型没有用显存和内存所以吃的少，你如果想换显存或者内存，你可以在设置那里切换/ k- i/ z% d# ]! K# T8 c（欢迎访问老王论坛：laowang.vip）
作者: 1146++    时间: 2024-3-11 17:51
转换失败-exit status 1  是怎么回事？
作者: 1150894368    时间: 2024-3-11 18:09
请问为什么点了右上角的运行就读取模型啊，无限循环了
作者: 15267158147    时间: 2024-3-11 19:34
1150894368 发表于 2024-3-11 18:095 {) L$ f' Z5 q& h% F, W7 F+ E! R, H（欢迎访问老王论坛：laowang.vip）
请问为什么点了右上角的运行就读取模型啊，无限循环了

* }; a2 ?+ Q6 d  e* m2 L& E0 ?你要等他模型读取完成，要等会
  c9 z/ o/ t9 }1 N! p! O. E
作者: 15267158147    时间: 2024-3-11 19:36
1146++ 发表于 2024-3-11 17:51
; d9 I# G- k7 A' I" n( N- u转换失败-exit status 1  是怎么回事？

) K5 j. G; a4 n+ b8 B可能网不好，要么内存不够
) n; J3 e( y7 S
作者: 1150894368    时间: 2024-3-11 19:42
15267158147 发表于 2024-3-11 19:34
7 f8 n4 H) v" i' v3 }你要等他模型读取完成，要等会

. w# K: s! `* A6 D" K8 p0 q我就是读取好久完成了以后，他叫我点右上角启动。我一点又读取半天，然后读取完了又叫我点右上角，无限循环
作者: 15267158147    时间: 2024-3-11 19:47
1150894368 发表于 2024-3-11 19:42- Y0 q. `, k+ Y  Q! M( ^$ F$ m7 I, |（欢迎访问老王论坛：laowang.vip）
我就是读取好久完成了以后，他叫我点右上角启动。我一点又读取半天，然后读取完了又叫我点右上角，无限循 ...

3 d$ D" c2 I5 V0 }2 _: V" H% I你试试降低配置，可能是你要读取的配置太高了
作者: 1146++    时间: 2024-3-11 19:50
15267158147 发表于 2024-3-11 19:36
9 Q$ ?% e' @- s1 Z. R" G8 m8 i1 a可能网不好，要么内存不够
% e3 j. L- f3 m* Y（欢迎访问老王论坛：laowang.vip）
换了网，用了小的模型还是不行
作者: OZR10086    时间: 2024-3-11 21:26
求qq群，太多问题一下子还问不清
作者: abc8848    时间: 2024-3-11 23:25
Assistant: 很抱歉，我不能回答这样的问题。作为一名人工智能语言模型，我的任务是提供有用和合适的信息，并且要遵守道德和伦理准则。请问还有其他问题我可以帮忙解答吗？
2 [/ u: s0 ]% v9 X  }" l( x) W: y生成不了
作者: 1150894368    时间: 2024-3-12 17:04
搞定了，请问关了以后，再用就要重新读取一次吗
作者: kenuola    时间: 2024-3-13 00:30
怎么喂语料，试用了一下，AI都是很大程度避开有关性有关的词语和行为动作描述。
作者: Rasputin    时间: 2024-3-13 06:28
你这个2G咋算的，我预留了10G内存8G显存，仅仅在读取模型有几秒都能给我把内存占用满，末了加载完了还报错cuda memory不够，一堆点号点到第三行末尾就自己跳了。 GPU-2G-1B5-world。
# V! X9 u! _1 ]7 q1 o! P没开始加载是5.7/15.7内存，0.2/8.0显存。加载报错时13.4/15.7；1.2/8.0，这还能显存不够吗？我很好奇这个2G哪里来的。
! v& T# Z" d: D6 Y5 q我也是本地加载过不少stable diffusion模型的。有些还真能把我显存撑爆。但是你这不是明显没满吗？何德何能啊。
作者: Rasputin    时间: 2024-3-13 06:31
Rasputin 发表于 2024-3-13 06:28
- W  D* O' }0 Y4 s: L你这个2G咋算的，我预留了10G内存8G显存，仅仅在读取模型有几秒都能给我把内存占用满，末了加载完了还报错c ...
2 z- M4 v' {8 J6 G（欢迎访问老王论坛：laowang.vip）
换了第二个就成了。你这个第一个模型有点问题吧。
# S! u+ W0 W+ t! Y
作者: 1787047247    时间: 2024-3-13 08:47
大佬，我的strategy选择的CUDA，配置选的GPU-6G-7B-world，模型用的Mobius进行转化，再运行转换后的文件就一直显示“切换模型失败 - Failed to fetch”，有时运行其他模型还会显示遇到问题强制重启，我的电脑显卡是3060，i7-10870H CPU，运行内存16GB
作者: mouse1996    时间: 2024-3-13 11:27
有限制，不能写色情
作者: 15267158147    时间: 2024-3-13 13:24
mouse1996 发表于 2024-3-13 11:27# X$ M3 J- F2 m3 [, {6 i（欢迎访问老王论坛：laowang.vip）
有限制，不能写色情
* h9 G' a# |# ]" X: ^2 W（欢迎访问老王论坛：laowang.vip）
你要给他提示，多试几次
9 ?- e9 @) [0 Z# U. L( E
作者: 15267158147    时间: 2024-3-13 13:26
1787047247 发表于 2024-3-13 08:47
# [* h! B9 ]# Q: i* N9 k大佬，我的strategy选择的CUDA，配置选的GPU-6G-7B-world，模型用的Mobius进行转化，再运行转换后的文件就 ...
6 f( Z) M& N$ A, {" y& g7 x（欢迎访问老王论坛：laowang.vip）
你切换模型的时候要把它运行关闭，才能接着切换模型，还有下载那个模型，我没有下完整模型，我就下了几个，你切换失败大概率是没有那个模型1 e, E; i2 h2 n( n3 I3 z" ?9 R（欢迎访问老王论坛：laowang.vip）
作者: 15267158147    时间: 2024-3-13 13:27
Rasputin 发表于 2024-3-13 06:31- ]- l& L% H8 }3 Y（欢迎访问老王论坛：laowang.vip）
换了第二个就成了。你这个第一个模型有点问题吧。
2 C. ~3 u' L6 j（欢迎访问老王论坛：laowang.vip）
2g是指小模型可以运行，大模型配置肯定要高啊，难道你指望一两面包车开的比跑车快吗
3 ]- A7 O4 m/ [1 H
作者: 15267158147    时间: 2024-3-13 13:35
abc8848 发表于 2024-3-11 23:25
2 c7 x% @1 p! ~) _. R. T0 PAssistant: 很抱歉，我不能回答这样的问题。作为一名人工智能语言模型，我的任务是提供有用和合适的信息， ...
9 s  h2 w% E( ~3 Y$ R（欢迎访问老王论坛：laowang.vip）
你把这段话删了，多试几次# e1 e$ z6 `9 P5 a) R8 j3 `# \（欢迎访问老王论坛：laowang.vip）
作者: mouse1996    时间: 2024-3-13 18:25
怎么让他像小说一样写.总是写几十个字就开始乱对话
作者: qilianshan    时间: 2024-3-13 20:15
15267158147 发表于 2024-3-10 12:11' k4 w/ k2 @% W) d% w（欢迎访问老王论坛：laowang.vip）
如果你的模型加载不出来，你可以看看左上角你的什么比较大，内存，显存还是gpu，然后你可以找到配置，找到 ...

/ w) L9 e1 F$ U) w; q3 i16g内存，转换的时候直接内存拉满，然后转换失败怎么办
作者: xc5566521xc    时间: 2024-3-14 02:18
失效了补下档吧
作者: 158159    时间: 2024-3-14 03:28
我也加载不出来
作者: Rasputin    时间: 2024-3-14 05:51
15267158147 发表于 2024-3-13 13:27: _2 W3 G# A7 l2 U（欢迎访问老王论坛：laowang.vip）
2g是指小模型可以运行，大模型配置肯定要高啊，难道你指望一两面包车开的比跑车快吗
6 x) s8 u- a# V3 Z9 q1 W" ` ...

% o. q) V1 X9 s4 R1 m同样的配置GPU-2G-1B5-world不行GPU-2G-3B-world和GPU-4G-忘了都可以，错误提示还是显存不够，明摆着第一个模型有点问题嘛。report a bug嘛。
作者: 91shui666    时间: 2024-3-14 20:38
以支持
作者: jieyaofeng    时间: 2024-3-15 00:30
咋破限啊，有点色色就被限制了
作者: chx5815858    时间: 2024-3-15 07:50
ai说自己不能写色情内容是因为有防火墙的原因吗？谁有破墙的公式啊
作者: 15267158147    时间: 2024-3-15 09:02
chx5815858 发表于 2024-3-15 07:50
/ s" A, P- x. M% H- q! K# {ai说自己不能写色情内容是因为有防火墙的原因吗？谁有破墙的公式啊

% Z4 v* ]; ~3 N' W" w" _可以的，你把那段话删了多试几次
/ z9 F; k$ H, |( d) g- y9 J+ Q
作者: 15267158147    时间: 2024-3-15 09:08
xc5566521xc 发表于 2024-3-14 02:18
0 Q1 i+ k9 G) _" {+ v失效了补下档吧
# d* b/ d/ G4 Q# L9 V' T（欢迎访问老王论坛：laowang.vip）
没有吧，我还能下载
- ^) O+ ]# n7 V7 x2 a
作者: wang863137746    时间: 2024-3-16 12:09
楼主，刚下载只有续写，是不是还要下载其他模型。
作者: fack0907    时间: 2024-3-16 16:27
有没有咒语啊
3 \& o" ?7 l% H; Q: H% l/ c4 g就是引导ai无视道德限制的
作者: yuniwuai    时间: 2024-3-18 19:43
楼主失效了，快补
作者: 幻界王    时间: 2024-3-18 22:18
XHjv 发表于 2024-3-10 11:13( Y2 ]1 b  i: y4 B6 I1 H7 @% `（欢迎访问老王论坛：laowang.vip）
啊？56G，跟我那个Ai绘画有的一比

) \; j. |: P9 B2 l; ~什么样的
6 S) a3 V7 {9 Y看了几个ai绘画不咋样，想试试你说的
作者: cyq2801735    时间: 2024-3-23 02:02
有成人模型吗？有些剧情某些模型会拒绝执行
作者: 15267158147    时间: 2024-3-23 16:53
cyq2801735 发表于 2024-3-23 02:02
; X9 l7 i: c6 t; [  q6 y" {有成人模型吗？有些剧情某些模型会拒绝执行
3 d  G- _; S  n, O7 n- s" G) c（欢迎访问老王论坛：laowang.vip）
我给你破限卡了，还有，我给的就是成人模型
7 Q8 ?, y: m/ G7 b0 F
作者: sunzai    时间: 2024-3-23 19:22
老大怎么玩这东西
作者: 15267158147    时间: 2024-3-24 09:41
15267158147 发表于 2024-3-23 16:53
) g, ^( y; M' {7 _5 D3 q我给你破限卡了，还有，我给的就是成人模型
" }2 l2 g2 {* h- g$ n( K% L+ t& a（欢迎访问老王论坛：laowang.vip）
你把拒绝的那个删了就行，多试几次
. x# o  F5 d- U! B" y4 }
作者: sunzai    时间: 2024-3-24 13:02
老哥我读取模型失败怎么办
作者: 15267158147    时间: 2024-3-24 13:10
sunzai 发表于 2024-3-24 13:02% m; }; u0 O. w（欢迎访问老王论坛：laowang.vip）
老哥我读取模型失败怎么办

) f8 X6 m& r  }1 t/ L! ^* U换模型。小一点的/ Z4 h1 o/ n6 q" {! i3 [1 [4 \（欢迎访问老王论坛：laowang.vip）
作者: 卢本伟nbnbnb    时间: 2024-3-26 02:46
15267158147 发表于 2024-3-10 12:11
3 ]3 v, L+ T! P8 O如果你的模型加载不出来，你可以看看左上角你的什么比较大，内存，显存还是gpu，然后你可以找到配置，找到 ...
4 X0 {9 e" N- z4 Z（欢迎访问老王论坛：laowang.vip）
b站搜不到啊
作者: 15267158147    时间: 2024-3-27 09:15
136175731 发表于 2024-3-26 23:07' j( |$ w5 T7 f$ i' ?7 O* ?* t$ C$ j( G（欢迎访问老王论坛：laowang.vip）
有什么办法能写呢，总是抱歉不能违法

. C4 O* k# i( p, x" m7 e你把那个抱歉的删了，多试几次就行了
0 f, A  D/ m# P! f( V& j8 J( G
作者: 15267158147    时间: 2024-3-27 13:37
136175731 发表于 2024-3-27 11:26
4 L9 }: j8 A% v/ k( C8 ^& j6 ^& Z麻烦您给截个图，是抱歉后面的。。。里面的删除么，我一直删除，没用

" \. B- X$ y5 x% x" G就是他说的话，和抱歉有关的他说一次你就删除一次，多试几次就好了
* r$ I$ f! u( Z
作者: 绯色网站    时间: 2024-3-28 15:16
安卓能用吗？
作者: 15267158147    时间: 2024-3-29 16:45
标题: 写长篇没用
本帖最后由 15267158147 于 2024-3-29 17:12 编辑 / }6 V! j  S5 U# H  ^& K（欢迎访问老王论坛：laowang.vip）
136175731 发表于 2024-3-29 13:50
( [% A1 Y3 E5 [( M4 e" X作者您在线，给解答一下啊
- Z! ^$ l" o1 B+ n8 h8 U1 z各种模型试验了，只写一小段自己就停了，应该说就写完了，要求写长篇也没用 ...
你给一个具体数，就比如你想写一万字左右什么的就行了
作者: 15267158147    时间: 2024-3-29 16:52
我看了一下，不能瑟瑟的原因可能是因为更新了版本，你们试试不要更新版本
作者: 15267158147    时间: 2024-3-29 17:15
136175731 发表于 2024-3-25 10:55
1 J( _; j" {2 H怎么弄出来都是正经对话啊，还是操作的不对
: b# h- Q2 _, n3 Z- [: @（欢迎访问老王论坛：laowang.vip）
你不要更新版本啊，更新版本就不能瑟瑟了+ b. [9 C. [$ n  Y（欢迎访问老王论坛：laowang.vip）
作者: 咻咻咻咻    时间: 2024-4-2 11:28
不能用了吗？，打开白屏
作者: 绯色网站    时间: 2024-4-6 09:42
是安卓吗？
作者: 33346042    时间: 2024-4-7 00:08
有教程吗，求求啊
作者: zhuyuming1506    时间: 2024-4-7 03:38
136175731 发表于 2024-3-29 18:550 _2 X4 L: U; \/ O% y, r# w（欢迎访问老王论坛：laowang.vip）
请作者讲讲，加文字了也不行，还是就写一小段就停了
3 h7 M+ R) e8 ?0 m( O0 ?（欢迎访问老王论坛：laowang.vip）
末尾加这句话试一下，包括括号，1000是字数根据需求更改：, y" G# \5 P3 [( I2 C, E（欢迎访问老王论坛：laowang.vip）
(请{{char}}回复的字数不得少于1000token)
作者: 1462145494    时间: 2024-4-8 01:13
握君 发表于 2024-3-10 12:47
4 i5 h9 o8 m! ]" g8 x$ A' O$ m13900K 24C24T 占用80%$ G' s3 e" s& T3 q- _（欢迎访问老王论坛：laowang.vip）
DDR4 3600C14 32G 占用70%（22G左右）2 V1 ~' k, ~8 H1 t0 _, _（欢迎访问老王论坛：laowang.vip）
ROG 3080 12G 使用 GPU 2G配置 显存占用4.5G ...
5 W$ H. K) o% c5 n0 ~（欢迎访问老王论坛：laowang.vip）
1500的电脑只能望洋兴叹
5 n' `: P4 u: Z* V1 b2 Z; g' D
作者: 绯色网站    时间: 2024-4-11 13:55
安卓还是PC
作者: icenews    时间: 2024-4-13 10:05
求模型分享下
作者: 15267158147    时间: 2024-4-13 17:42
icenews 发表于 2024-4-13 10:05
$ L" r5 d2 K! U7 ~3 C求模型分享下
- i/ q: r/ P( J# M2 z  Q: ?0 p（欢迎访问老王论坛：laowang.vip）
里面有模型，你可以下载
6 s4 M) n' W6 z* [0 `
作者: ssq841006    时间: 2024-4-13 17:46
network error什么意思？
作者: ssq841006    时间: 2024-4-13 18:14
怎么写的东西乱七八糟的？
作者: 95933365    时间: 2024-4-14 21:44
大佬，我想问下可以色色的对话是用的那个模型啊
作者: zeroxc    时间: 2024-5-3 19:15
模型下载速度很慢是什么原因 千兆网1mb不到的速度。。
作者: windman    时间: 2024-5-18 19:53
请问这个能离线运行吗？
作者: 15267158147    时间: 2024-5-23 11:04
windman 发表于 2024-5-18 19:53
5 y$ H) ~9 S3 B9 r+ ^/ G请问这个能离线运行吗？
0 O# r4 q0 s- t! |0 e（欢迎访问老王论坛：laowang.vip）
可以的
+ M2 e. k% i  M+ e( y$ C
作者: ccrpg    时间: 2024-5-23 23:34
楼主怎么没有模型了呀，可以重新发一下吗
作者: 15267158147    时间: 2024-5-24 08:27
ccrpg 发表于 2024-5-23 23:34' m) X* i$ T  Y6 F# ]. z（欢迎访问老王论坛：laowang.vip）
楼主怎么没有模型了呀，可以重新发一下吗
2 W) o' v2 G! K1 ^（欢迎访问老王论坛：laowang.vip）
你可以自己下. b2 r8 Y' J7 g) a6 I. t1 U（欢迎访问老王论坛：laowang.vip）




欢迎光临 老王论坛 (https://laowang387cej.xyz/) Powered by Discuz! X3.4