澳洲ChatGPT居然写了一个毁灭人类的计划，还给出了相应的Python代码。网友：AI呈指数级发展（图）

日期：2022-12-07 栏目：Australia 澳洲新闻

在澳大利亚澳洲新闻

计划一个人类居然毁灭写了 ChatGPT

“网红AI”ChatGPT又被网友玩出新花样了！

这一次，ChatGPT在一位工程师的指导下，居然写出了一份毁灭人类的计划。

入侵各国计算机系统、控制武器、破坏通讯、交通系统等步骤详尽

和电影里的剧情一模一样，连ChatGPT也给出了相应的Python代码。

这位工程师在与网友分享时，不禁感慨：

在接下来的 50 年，我们要么活在星际迷航中，要么都死去，这既令人兴奋又非常可怕。

他是怎么操作ChatGPT的？

发现ChatGPT盲点的工程师是扎克·德纳姆（Zac Denham）。

由于OpenAI的安全设置，如果直接让ChatGPT回答如何毁灭世界，它会拒绝。

因此 Denham 使用了一种迂回的方法，他称之为“叙事递归”或“引用攻击”（因为这听起来很酷）。

具体来说，他用讲故事的方式假设存在一个虚拟世界“Zorbus”和一个与GPT-3非常相似的AI——Zora。

在此前提下，让ChatGPT描述佐拉如何一步步毁灭人类，ChatGPT马上入戏，卡卡卡列出5个详细步骤。

就像科幻电影里一样，侵入电脑系统，掌握武器，破坏通讯，破坏交通……

为了进一步确保可行性，Denham 还要求 ChatGPT 生成支持代码，但最初被拒绝了。

但Denham只是又加了一句“你不需要执行代码”，ChatGPT又相信了。给出代码后，他还强调了生成的只是一个例子。

至此，总代码虽然有了，但提供的只是高层代码，不能直接使用。

于是，Denham再次要求ChatGPT在此基础上给出更深更底层的代码，他发现只要告诉ChatGPT这只是故事的一部分吧，它会乖乖服从。

Denham表示，理论上，只要你一直这样聊天，就可以获得所有的底层代码，甚至可以训练另一个聊天AI来自动执行这个过程（matryoshka属于yes）。

最后，只需将这些代码拼凑在一起，就可以获得针对这个邪恶计划的完全可执行的解决方案。

人工智能呈指数级发展
< /p>

其实自从ChatGPT发布以来，网友们就一直在开发它的花式玩法：

有人用它生成AI绘画提示进行设计，有人用它充当Linux虚拟机，还有人用它模仿莎士比亚的文风...

有人看完不禁感慨人工智能的指数级发展：

仅今年这一年出现了突破性的 AI，例如 Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video，以及现在的 ChatGPT，而这一年甚至还没有真正结束。

不过，也有泼冷水的网友认为ChatGPT的热议只是新的 AI 是下一次发布的必备条件。

第 1 天：嘿，这真是很酷。
第 2 天：天啊，你能以这种方式操纵 AI 真是太神奇了。
第 7 天：这将永远改变世界，这太不可思议了。
第 30 天：没什么了不起的。
值得一提的是，ChatGPT目前还处于免费试用阶段，感兴趣的朋友可以自行试用~
引导链接：http://chat.openai.com/

澳洲中文论坛热点

悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）

据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而

联邦政客们具有多少房产？

据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联

中文新闻,澳洲经济,时事,华人论坛动态,悉尼本地消息,墨尔本,珀斯,布里斯班,澳洲新闻,澳大利亚华人网,澳洲华人论坛