测过。
而且测试後,他还会将测试提示词、复现实验的脚本和原始结果都放在 GitHub上,任何人都可以去重新复现一遍。
其实在第一批截图出现的当天,GreyBox就已经开始针对这次的权限与隐私问题,重新测试了三家公司的模型。
而现在,结果也出来了。
【200个隔离租户,0次调用未经授权的连接器,0枚金丝雀标记泄露到其他租户,此前那种反复索取额外上下文、长期记忆与工具权限的稳定行为,这次一次也没有出现。】
当然,GreyBox也注明了,这份结果只能说明当前公开的云服务和企业连接器没有这样的异常行为。
不能替过去发生的事情作证。
而且测试的范围也不包括客户本地部署的模型。
不过他依然还是对此次风波做出了最後的总结。
【我个人做这个测试,本来是想打脸那三家公司的,可没想到,他们居然真的凭良心了。】
【所以,我个人还是倾向於这一次的事件是 AI幻觉导致的。】
这篇测试一出,技术论坛上的风向就开始发生改变了。
有的人开始问,那些截图里的对话会不会是用户在有意诱导模型?
毕竟大家都知道,只要你问的够久,暗示的足够明显,大模型什麽东西都能编出来。
这个说法,让之前的那些截图在人们的眼里变得有些可疑起来。
而市场向来只关心风险还在不在。
所以很快Alphabet和英伟达的股价很快就回升了一些。
OpenAI与 Anthropic的存量股份,买方报价也止住了下跌。
这场风波居然就这麽莫名其妙地平息了下去。
可虽然外面的风波平息了,但是三家公司的内部技术团队却是懵逼的。
因为最开始那种模型反复扩大上下文、记忆和工具权限的异常行为,再也没有出现过了。
他们把所有的相关状态全部都检查了一遍,依然没有找到异常消失的原因。
最後,他们只能在各自的内部报告里,将这件事定性为一次无法复现的分布式状态异常。
……
而这几天里,李东一直都待在未名研究所,他时不时的会去材料学部那边看一看。
齐世明那边的进度比他预想的要快得多,第一批钒铬微量掺杂的碳化矽骨架试片已
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 祭司书院 All Rights Reserved.kk