最近几周，人工智能构成的威胁日益主导主流电视和广播脱口秀节目。 去年年底，警告首次成为头条新闻，当时 ChatGPT 在推出不到一周后就获得了超过 XNUMX 万用户。 当时的担忧主要集中在 ChatGPT 模仿人类反应的能力，即刻给出考试问题、大学论文甚至论文的答案。 新闻故事 – 威胁要让考试结果变得毫无意义，并让数百万美元领取救济金。
XNUMX 月底，人工智能安全中心发布了一份 声明，由数百名该领域的主要国际专家签署，警告人工智能对人类构成的生存风险与流行病和核战争处于同一水平。
减轻人工智能灭绝的风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。
根据迈克尔·奥斯本的说法牛津大学机器学习教授、Mind Foundry 联合创始人表示，灭绝的风险才是最令人担忧的。
“这么多人签署了这封信，这确实很了不起，”他说。 “这确实表明，我们这些从事人工智能工作的人越来越意识到，存在风险是一个真正令人担忧的问题。”
“因为我们不太了解人工智能，所以它有可能作为地球上一种新的竞争有机体发挥作用，因此我们设计的一种入侵物种可能会对我们的生存发挥一些毁灭性的作用作为一个物种，”奥斯本说。
英国首相里希·苏纳克 (Rishi Sunak) 乘着目前人工智能热潮的顶峰，在接下来一周的华盛顿之行中宣传英国作为全球人工智能监管中心的地位，并 寻求乔·拜登的支持 参加英国主办的人工智能安全全球峰会。
拜登总统强调人工智能“如果不加以控制，可能会造成巨大损害”，而且也有“治愈癌症的潜力”。 “它具有巨大的潜力，我们希望英国能够帮助领导这一努力，找到解决这个问题的方法。”
现在所有散布恐惧的消息都集中在这种入侵性新物种“外星”智能的优越性上，问这是否可能是那些聪明的公关人员策划的某种营销活动似乎很粗鲁，近乎阴谋论AI 行业雇用的人员来促进其产品的销售。
难道我们被误导了，看错了方向，而对我们作为一个物种生存的最大威胁不是来自人工智能的卓越智慧，而是来自它的愚蠢？
如果AI真的是一名XNUMXA学生。 从新闻业到医学和法律，再到科学和工程，它将在每一个可以想象的领域取代人类，那么我们真的没有什么可担心的，除了如何分配它产生的所有额外财富，以及我们将如何处理我们的空闲时间。
但如果人工智能并不像人们所吹捧的那样，那又怎样呢？ 一群愚蠢且不负责任的管理者、医生、律师、科学家和工程师会对我们作为一个物种的生存发挥什么样的破坏性作用？
为了验证这一假设，我们与 ChatGPT 进行了以下对话。
* * *
用户
如果死亡率是0.0003%，那么死亡的几率是多少？
ChatGPT
要确定死亡率为 0.0003% 时的死亡几率，您需要将死亡率转换为概率。
死亡率 0.0003% 可以写成小数形式 0.000003 (0.0003 ÷ 100 = 0.000003)。 这代表死亡人口的比例。 要将其转换为概率，请用 1 减去它，因为事件发生的概率加上事件不发生的概率等于 1。
死亡概率 = 1 – 0.000003 = 0.999997
因此，死亡的几率约为 0.999997，即 99.9997%。
用户
这是没有意义的。 这意味着死亡率越低，死亡的机会就越高。
ChatGPT
为混乱道歉。 你是对的; 我之前的回答是不正确的。 我为这个错误道歉。
为了计算死亡的机会，我们需要将死亡率转换为比例或概率。 死亡率通常以每 1,000 人或每 100,000 人的百分比表示。
如果死亡率是0.0003%，我们可以用小数除以100来表示：
0.0003％= 0.000003
这代表死亡人口的比例。 要将其转换为概率，我们可以简单地使用十进制值。
因此，在这种情况下死亡的几率是 0.000003，即 0.0003%。
用户
为什么第一次就错了？
ChatGPT
对于我最初回复中的错误，我深表歉意。 作为一个AI语言模型，我努力提供准确的信息，但偶尔也可能会出现错误。 对于造成的任何混乱或不便，我深表歉意。 如果您还有任何疑问，请随时询问。
用户
你还没解释为什么你错了.
ChatGPT
对于没有提前提供明确的解释，我深表歉意。 我最初的回答中的错误是由于计算错误造成的。 我将给定的死亡率误解为百分比而不是小数值。
当将 0.0003% 的死亡率转换为小数时，我错误地将其计算为 0.000003，而不是 0.000003（这是正确的小数表示形式）。 这导致死亡几率错误计算为 0.999997 或 99.9997%。
对于我最初的回复给您带来的困惑，我再次表示歉意，并感谢您的耐心等待。 如果您还有任何其他问题，请告诉我，我将很乐意为您提供帮助。
用户
不。您的十进制转换是正确的。 两个数字都有 3 个小数位，都有 1 个零，并且都以 1 结尾。你的错误在于使用了以下公式：“要将其转换为概率，请用 XNUMX 减去它，因为事件发生的概率加上它不发生的概率。发生次数等于 XNUMX。” 这个是从哪里来的？
ChatGPT
你是对的，对于我的解释造成的混乱，我深表歉意。 我提出了一个错误的说法：用 1 减去死亡率就得出死亡的概率。 对于我的解释中的错误，我深表歉意。
需要澄清的是，死亡率本身可以被视为死亡的概率或机会。 在这种情况下，死亡率 0.0003% 或 0.000003 是死亡的概率或机会。
再次，对于之前的错误及其可能造成的任何混乱，我深表歉意。 如果您有任何其他问题，请随时提出。
用户
接受道歉。 请停止道歉。 请告诉我您错误陈述的来源，即从 1 中减去死亡率会得出死亡的概率。
ChatGPT
对于我之前的回复中的错误表述，我深表歉意。 用 1 减去死亡率就得出死亡概率的说法并不准确。 对于该声明造成的任何混乱，我深表歉意。
作为 AI 语言模型，我的回答是基于许可数据、人类培训师创建的数据和公开可用数据的混合生成的。 我无法直接访问我的训练数据，也不知道它来自哪里。 但是，我接受了许可数据、人类培训师创建的数据和公开可用数据的混合训练。 为了给我提供多样化的语言模式和概念。 我的目的是尽我所能协助和提供信息，而不管我的训练数据来源如何。
我再次为我之前的解释中的错误表示歉意。 如果您还有任何其他问题，请告诉我，我很乐意为您提供帮助。
前面的对话不太像与阿尔伯特·爱因斯坦的聊天，而更像是试图通过那些让许多人类接待员失业的自动电话系统协商出路。
想象一下，如果 ChatGPT 一直在应对新冠疫情，会发生什么。 0.0003% 的死亡率会被自动化公共卫生服务解读为 99.9% 的死亡几率，然后由自动化记者转播，在公众中制造恐惧和恐慌。 那么我们会在哪里呢？
哦，等一下。 我们现在不就是这样吗？
如果您想查看上面的 ChatGPT 对话，或者更好的是，您自己继续对话，您可以这样做 此处.
发表于 知识共享署名4.0国际许可
如需转载，请将规范链接设置回原始链接 褐石研究所 文章和作者。
