人工智能无处不在，它正被融入到方方面面。我们被告知，这仅仅是进步。因此，我们需要拥抱它，否则我们就会显得像个卢德分子，让中国（无论这意味着什么）获胜。然而，与此同时，很多人也因为人工智能而感到恐惧，非常恐惧。有时，我们甚至被告知我们也应该感到恐惧。然而，在围绕人工智能的公共讨论中，往往缺乏关于我们究竟应该恐惧什么的具体细节。有时，甚至连“人工智能”这个词的含义都不清楚。
严格来说，正如我所拥有的 感动 以前，有人可能会认为（一些资深的计算机科学家也这样认为），人工智能是一个总称，指的是一系列基于数学的算法，而这些算法有时可以追溯到半个多世纪以前。
实际上，我们多年来一直在使用的许多程序，例如谷歌地图和亚马逊的推荐系统，尽管缺乏新意，但都可以被视为人工智能。然而，在公共讨论中，“人工智能”一词往往指的是生成式人工智能（例如 ChatGPT），以及各种假想的未来程序——这些程序能够完成人类所能做的一切，并且做得更好。因此，它们既能解决我们所有的问题，又会让大多数人失业，而且最终很可能会像天网一样彻底控制我们，除非它们认为我们不值得费心。
（听起来挺有意思的。或许应该有人把它拍成系列电影。说不定五部里会有两部有人喜欢。）
然而不幸的是，这些对人工智能构成的威胁进行夸张的科幻描述往往比与隐私、自由、自主权，甚至我们许多人已经习惯的生活方式相关的更现实、更迫在眉睫的威胁更能吸引人们的注意力，从而分散了人们对这些威胁的关注。 自动表 执照 盘子 读者, 面部识别, 数字祖母强制性酒后驾驶和分心驾驶 检测程序“孙子”在“中大喊大叫的任何技术”自主配送机器人“，并 可穿戴记录设备 为反社交和容易分心的人转录和处理面对面对话的工具，只是我能想到的比较现实的威胁中的几个例子。（这绝不是一份完整的清单。）
因此，我比较赞赏统治阶级成员能够抽出一个上午的时间，就这项技术（或一系列技术）所构成的相当明确的威胁进行冷静的讨论，就像美国众议院网络安全和基础设施保护小组委员会6月4日所做的那样。 会议 关于“人工智能安全形势”。
从表面上看，会议的讨论可能可以概括为“人工智能带来的最大威胁是来自外部的，例如外国黑客试图利用控制美国关键基础设施的软件漏洞，还是来自内部的，例如国内缺乏对人工智能使用的监管和问责制？”
但从观看讨论来看，这似乎并非“非此即彼”的问题，而更像是“是的，而且……”这样毫无争议的回答。
谷歌的桑德拉·乔伊斯、前沿模型论坛执行董事克里斯·梅塞罗尔以及走廊安全公司首席执行官兼联合创始人杰克·凯布尔作证，阐述了人工智能如何改变网络安全格局，因为数字武器落入了守在门口的网络野蛮人手中，他们将利用这些武器来寻找我们关键基础设施中的漏洞和/或部署勒索软件攻击。
乔伊斯表示：“这项技术对网络安全产生了深远的影响，无论是对防御者还是攻击者而言。”
“黑客们拥有比以往任何时候都更强大的工具，”凯布尔指出，并特别提到了 Mythos 和 GPT-5.5。
他警告说：“这些模型并非炒作，它们在安保任务方面确实开始与人类匹敌甚至超越人类，而且规模空前。”
乔伊斯认为，“威胁行为者”甚至不需要像 Mythos 这样的程序，使用较旧的程序也能造成很大的破坏。
电子前沿基金会高级政策分析师马修·瓜里利亚强调了来自内部的威胁，他表示：“问题不在于我们如何控制人工智能，而在于我们如何控制那些会将人工智能释放到美国公众身上的机构？”
瓜里利亚在证词中强调，美国国家安全机构已经使用各种工具在没有合理理由的情况下收集有关个人的数据，并且可以“推断一个人的政治立场、个人生活、宗教信仰和地理位置，有时推断不准确，造成重大后果”。
此外，瓜里利亚表示，“人工智能也有出错的记录，从法律文件中的错误引用到人工智能的重大失误，导致国土安全部新兵未经适当培训就被派往一线。”
“可能还有更多影响重大的例子，由于分类的原因，我们甚至都不知道这些例子，这会妨碍我们进行更彻底的调查，”他补充道。
同样，众议员德莉亚·拉米雷斯（伊利诺伊州民主党）也指出：“我们看到人工智能驱动的监控系统正在扩展到学校、公共住房和医院，但这些系统的工作方式却不透明，人们无法质疑它们，而且当它们出错时也没有任何补救措施。”
在后来关于人工智能程序可能将一个城市的供水系统误判为受损，而实际上供水系统完好无损，并随后限制该城市居民取水的交流中，瓜里利亚和拉米雷斯表示，在美国现行法律的框架内，有关问题如何发生的透明度很可能取决于实施该系统的城市的自由裁量权，而谁应该为此负责的问题则相当模糊。
尽管勒索软件攻击增多、隐私进一步遭到侵蚀，以及HAL系统出现故障导致所有人断水时缺乏必要的透明度和问责制，这些听起来都相当严重，即便它们不足以引发大规模恐慌或催生一部系列电影。或许，这些担忧甚至足以引发人们对当前局势的合理担忧。 时代精神 将人工智能融入一切事物。或许，它们能让我们重新思考将现代生活中所有事物都连接到互联网的决定。
