yuxunyang

单纯好奇,如果 AI 用于安全方面,应该能做到很炸裂的效果,但感觉没啥动静

  •  
  •   yuxunyang · Feb 27 · 5936 views
    This topic created in 250 days ago, the information mentioned may be changed or developed.
    31 replies  •  2026-02-27 17:55:04 +08:00
    carlist
    carlist
    Feb 27
    1
    没办法审计
    决策链条没逻辑
    上下文关键字边界溢出
    yanq123
    yanq123
    Feb 27
    2
    应该都在尝试,但是还没有稳定+好用的落地方案
    imunoko
    imunoko
    Feb 27
    3
    安全需要可审计、可验证、零信任,但 AI 是概率性的黑盒,天然冲突。另外 AI 自己本身就有很多安全问题,用有安全缺陷的 AI 去做安全防护听起来怪怪的,不过一般都是多层防御,AI 还是有应用场景的
    xtreme1
    xtreme1
    Feb 27
    4
    各种风控不属于 ai 用于安全方面么.
    rb6221
    rb6221
    Feb 27
    5
    当然有的,你又不关注安全行业怎么知道没有,我关注的一个安全行业大佬他们公司产品就在推进 AI 落地
    resten
    resten
    Feb 27
    6
    我司有在测试深信服的 XDR ,看起来里面有融入 AI ,但是觉得还不是很好用
    JoeJoeJoe
    JoeJoeJoe
    Feb 27❤️1
    7
    前两天还看到新闻, 安全股暴跌?
    streamrx
    streamrx
    Feb 27 via iPhone
    8
    你不知道前 j t qclaude 发了个文章,美股网络安全的头部股票全部暴跌吗
    streamrx
    streamrx
    Feb 27 via iPhone
    9
    你不知道前几天 claude 发了个文章,美股网络安全的头部股票全部暴跌吗
    cnurbansnail
    10
    To B 端服务方面的业务在推进落地
    8355
    8355
    Feb 27❤️1
    11
    claude code security 不是刚发布?
    Gilfoyle26
    12
    因为 ai 不能代替坐牢
    kneo
    kneo
    Feb 27 via Android
    13
    你先明白一个事情,当前 ai 的本质是降低成本。如果很多大厂不计成本,动辄亿计的研发投入都没让你觉得炸裂,那你就得降低预期了。
    opengps
    opengps
    Feb 27
    14
    你去看看腾讯封号加了多少逻辑,就知道 ai 有没有干这事了
    MySheN
    MySheN
    Feb 27
    15
    砸同行饭碗
    Jonchil
    Jonchil
    Feb 27
    16
    AI 干得好是 AI 模型厉害,AI 出了问题是用 AI 的人背锅。就这么简单
    wat4me
    wat4me
    Feb 27
    17
    谷歌靠 ai 找漏洞把 ffmpeg 逼得喷人了
    wyntalgeer
    18
    安全本来就是大厂对齐敏感区,无论红还是蓝都随时可能触发 AI 罢工,根本不陪你玩怎么弄
    kiseopt
    kiseopt
    Feb 27
    20
    很早就在做了,ToB 和各个大厂都在搞了。你有认识的话应该也能了解
    yuxunyang
    yuxunyang
    OP
    Feb 27
    21
    @rb6221 恩,确实没咋深入关注,单纯好奇。
    yuxunyang
    yuxunyang
    OP
    Feb 27
    23
    @yh7gdiaYW 谢谢大佬
    workbest
    workbest
    Feb 27
    24
    openai ,a 公司 都已经发布合约审计的产品了

    我写合约都是用 ai 审计,效果挺好
    yuxunyang
    yuxunyang
    OP
    Feb 27
    25
    @xtreme1 恩 这个也算 感觉算防御类型的 我没表达清楚 我想的是主动出击、挖漏洞
    yuxunyang
    yuxunyang
    OP
    Feb 27
    26
    @xtreme1 恩 算的
    BadFox
    BadFox
    Feb 27
    27
    你不如直接说用于渗透方面...PentAGI 都开源了,现在公网一堆 AI 赋能扫描的 agent 在跑,只是不怎么说话而已。而且效果也说不上炸裂。
    yuxunyang
    yuxunyang
    OP
    Feb 27
    28
    @BadFox 是的 这的确是我想表达的意思 我再了解了解下
    yuxunyang
    yuxunyang
    OP
    Feb 27
    29
    @wat4me 仔细了解一下这个事情 当时爆出来的时候 应该看到过 但是印象不是特别深刻 不说提的 bug 质量 也算是一种应用
    SmithJohn
    SmithJohn
    Feb 27
    30
    有成果的应该偷偷在用,不敢开源.
    开源了那就完了,几亿黑客天天到处扫.
    benjaminliangcom
    31
    都在做,Claude 前几天还发了新博客 https://claude.com/solutions/claude-code-security
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5192 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 63ms · UTC 06:30 · PVG 14:30 · LAX 22:30 · JFK 01:30
    ♥ Do have faith in what you're doing.