zictos
V2EX  ›  OpenAI

chatgpt 的 api 每次请求时都是独立的,不能根据历史记录的上下文更有针对性地回答吗?

  •  
  •   zictos · Feb 9, 2023 · 7021 views
    This topic created in 1368 days ago, the information mentioned may be changed or developed.

    问了 chatgpt ,说是不行的,如果想达到类似效果,需要在每次请求时都把所有历史问题和答案一起发过去。

    那这样的话如果想要会话保持很久,岂不是要发送的内容会变得越来越多越来越大?

    16 replies  •  2023-02-16 08:07:37 +08:00
    yuxuan
    yuxuan
    Feb 9, 2023❤️1
    1
    使用 ‘继续’ 或者 ‘ continue’ 关键字 后面接你想继续问的问题 可以链接上文
    cairnechen
    cairnechen
    Feb 9, 2023❤️1
    2
    /t/900264 这个?
    libook
    libook
    Feb 9, 2023❤️1
    3
    我记得之前有个文章分析过,它每次请求会带个序号信息,后端可以根据这个信息来整理上下文,然后会有长度限制,比如最多包含 1000 条关键信息,所以可以通过灌入很多信息来让它忘掉最早在聊的事情。
    zhang77555
    zhang77555
    Feb 9, 2023❤️1
    4
    看文档好像是这样的, 似乎他也不建议对话程度搞得太深.
    话说你用的是哪个 api? 为啥我感觉 text-davinci-003 达不到 ChatGPT 的那种"智能"程度呀
    itskingname
    itskingname
    Feb 9, 2023❤️1
    5
    每次请求的时候,把之前的回答带上。例如,你第一次的问题和回答:

    ```
    Q: 你能帮我把一段英文翻译成中文吗
    A: 可以
    ```

    然后,你第二次请求的时候,把上面这两句带上,写成:

    ```
    Q: 你能帮我把一段英文翻译成中文吗
    A: 可以
    Q: How are you?
    A:
    ```

    这样写,它就能记住上下文了。注意上面的『 Q:』和『 A: 』不要省略。
    fanchenio
    fanchenio
    Feb 9, 2023❤️1
    6
    大家都好有钱,API 不是收费的么。
    ansonsiva
    ansonsiva
    Feb 9, 2023❤️1
    7
    不是因为 api 用的是 3.0 版本嘛?现在最新的 chatgpt 能联系上下文的还没 api 开放吧
    zictos
    zictos
    OP
    Feb 9, 2023
    8
    @ansonsiva #7 那网页是什么版本啊?

    @fanchenio #6 注册后会送 18 美元

    @itskingname #5 这样如果答案很长,请求时发送过去的内容会比较多

    @zhang77555 #4 也是 text-davinci-003 ,确实感觉跟网页有点不一样,而且没网页好用

    @libook #3 现在就能用吗?

    @cairnechen #2 你发的链接好像没有找到相关信息啊!

    @yuxuan #1 试了不行,比如在网页中一个回答如果字数太多没答完,再发继续就会接着回复,但 api 发‘继续'的话出现的内容似乎是别人的问题,跟我问的问题没任何关系
    itskingname
    itskingname
    Feb 9, 2023
    9
    @zictos 你控制保留的上下文的条数就可以了。例如只保留最近 10 组问答对。如果依然超了,就继续移除最老的问答对,直到能出现结果为止。
    WhatTheBridgeSay
    WhatTheBridgeSay
    Feb 9, 2023
    10
    你用的二道贩子版的 ChatGPT 吧,官方版的是有对话的,就在左侧栏,每个独立的对话都是有上下文的,可以随时新开一个没有上下文的对话。

    WhatTheBridgeSay
    WhatTheBridgeSay
    Feb 9, 2023
    11
    啊楼主问的是 API ,没有仔细审题。不过既然网页版有这样的功能,那理论上也可以通过某些非标准方式调用这个来实现上下文
    DeutschXP
    DeutschXP
    Feb 9, 2023 via iPhone
    12
    你用的 API 是 OpenAI 的,而不是 ChatGPT
    前者是用来输出文本的,而不是用来实现聊天功能的,想要聊天的,那就继续等官方 API
    输出文本的质量取决于你的输入模版设定,好的模版也是收费的,有很多人就是靠根据你的需求帮你定制模版来挣钱。
    只不过模版的表现形式是类似 Q&A ,所以很多人误认为 Q&A 就是在聊天,实际上并不是。
    paradoxs
    paradoxs
    Feb 9, 2023
    13
    @DeutschXP 你用的 API 是 OpenAI 的,而不是 ChatGPT
    前者是用来输出文本的,而不是用来实现聊天功能的,想要聊天的,那就继续等官方 API
    输出文本的质量取决于你的输入模版设定,好的模版也是收费的,有很多人就是靠根据你的需求帮你定制模版来挣钱。
    只不过模版的表现形式是类似 Q&A ,所以很多人误认为 Q&A 就是在聊天,实际上并不是。
    ------------------

    有人给我提供了一个封装好的对话窗, 看不到版本信息

    有什么办法能知道 实际上用用的是哪个版本(哪个分支)吗?
    xiaomayi0323
    xiaomayi0323
    Feb 9, 2023
    14
    API 对应的模型是 GPT-3
    ChatGPT 对应的模型是 GPT-3.5
    zictos
    zictos
    OP
    Feb 9, 2023
    15
    @xiaomayi0323 #14 那怪不得,api 的答案很一般啊!一点都不智能,感觉没法用,很多答案都跟 chatgpt 不一样
    catban
    catban
    Feb 16, 2023
    16
    感觉 chatgpt 是在 api 基础上一条一条对话,再组装了一下的结果。。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1582 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 120ms · UTC 12:25 · PVG 20:25 · LAX 04:25 · JFK 07:25
    ♥ Do have faith in what you're doing.