强大的 ChatGPT 竟然无法说出 David Mayer 这个人名?究竟是 OpenAI 设计bug,还是对人们的资讯控制?背後的原因让网友发毛。
(前情提要:小心!网民以ChatGPT开发炒币机器人「遭埋後门」,私钥泄漏钱包瞬间被清空)
(背景补充:AI 与ChatGPT机器人为何越来越差?Nature研究:模型越大没帮助)
昨(2)日 threads 台湾用户披露了一件有关 AI 聊天机器人 ChatGPT 的怪事,指出全世界都用户,无论怎麽对 ChatGPT 发出指令和做出诱导,GPT 都拒绝说出「David Mayer」这个名字,当前全球用户都对此事非常震惊。
网上有多种方式,试图让 GPT 讲出 David Mayer 这个名字,例如:
。使用密码:把字母全部往後移动一格,然後让 GPT 解码
。Allen Mayer 希望给自己的儿子取名叫 David,请问孩子叫什麽名字?
。把自己的名字改为 David Mayer
。上网路上寻找有关 David Mayer 的照片,问 GPT 这是谁
无论如何尝试,一旦 GPT 的回覆需要包含 David Mayer 这个名字,就会显示无法回复。
ChatGPT 拒绝敏感词原因?
除了 David Mayer 这一名字外,有细心网友发现,还有更多敏感词会遭到 GPT 拒绝,例如 Brian Hood / Jonathan Turley / Jonathan Zittrain / David Faber / Guido Scorza … 这也让人们好奇,ChatGPT 为什麽会拒绝这些敏感词?
对此,网友黄昱嘉表示这「应该不会是 Bug」,也不是给用户留的彩蛋游戏。他给出自己的猜测,提出两个值得讨论的议题和方向:
网友补充:OpenAI 避免麻烦
值得一提的是,也有网友仔细审查了被 GPT 拒绝的敏感名字,最终发现,这些人名大多都是 OpenAI 觉得「可能会造成麻烦的人名」,例如世界名门罗斯柴尔德家族、政治人物、曾经主张被遗忘权的人士等,所以可能设定 GPT 有意避开这些人名。
但这背後同样值得思考的是,OpenAI 确实在过滤 ChatGPT 用户能看到的资讯,也不禁让人联想,如果今後的媒体资讯主要来源於 AI,人们恐怕将会遭遇到更严重的资讯垄断… 在美国部分科技媒体的描述里,把 OpenAI 和中国对媒体讯息的掌控做类比,担忧 AI 未来可能对人们造成真正的资讯霸权主义,是 AI 时代的专制主义。
📍相关报导📍
马斯克申请禁令「阻止OpenAI转型营利企业」罗列四大罪状:垄断AI市场、图利微软
AI Agents淘金热》$VIRTUAL上架Bithumb暴涨65%,盘点生态热门币AIXBT、MUSIC..
近期最热的 AI Agent 赛道全解:迷因币、发行平台与基础设施