我不想把自己的灵魂投入机器。当人工智能工具开始无处不在时，我的第一反应就是如此——并非出于对工作或隐私的担忧，而是出于更深层次的原因。这些工具承诺让我们变得更聪明，同时也系统地让我们更加依赖。在互联网行业工作了几十年，我已经目睹它变成了比监控机器更阴险的东西——一个旨在塑造我们思维方式、信仰和自我认知的系统。人工智能感觉就像是这一轨迹的顶峰。
但当我意识到无论我们是否意识到，我们都已然参与其中时，抵抗就变得毫无意义了。无论是致电客服、使用谷歌搜索，还是依赖智能手机的基本功能，我们都已经在与人工智能互动。几个月前，我终于屈服了，开始使用这些工具，因为我看到它们正在迅速普及——变得像互联网或智能手机一样不可或缺。
听着，我不仅仅是一个抗拒改变的老人。我明白每一代人都会面临重塑我们生活方式的技术变革。印刷机颠覆了知识传播的方式。电报打破了距离的障碍。汽车改变了社区的形成方式。
但人工智能革命在速度和范围上都让人感觉不同。要理解技术变革的速度有多么惊人，不妨想想：35岁以下的人很可能不记得互联网改变我们获取信息方式之前的生活。20岁以下的人从未体验过没有智能手机的世界。如今，我们正在见证人工智能工具的第三次变革，其普及速度比以往任何一次变革都要快。
更根本的是，人工智能代表着与以往技术颠覆截然不同的本质——一种触及劳动、认知，甚至意识本身的融合。理解这些领域如何相互关联，对于在……中维护个人自主权至关重要。 算法调解时代。
我对人工智能的主要担忧不仅仅是它变得充满敌意的戏剧性场景，还有更微妙的威胁：它会让我们以一种我们无法意识到的方式服从于系统，直到为时已晚，削弱它承诺要加强的能力。
我们所见证的不仅仅是技术进步——还有伊万·伊里奇所说的医源性依赖。 他的开创性作品， 医学克星伊里奇创造了这个词来形容医学——那些承诺治愈疾病却又制造出新疾病的机构——但这种模式也完美地适用于人工智能。这正是我对这些新工具的感觉——它承诺增强我们的认知能力，却又系统性地削弱它们。这并非科幻小说警告我们那种敌意收购。而是伪装成帮助，悄无声息地侵蚀个人能力。
这种医源性模式通过直接经验变得清晰起来。当我开始亲自体验人工智能时，我开始注意到它是如何巧妙地重塑思维的——它不仅仅是提供答案，而是逐渐训练用户在尝试独立推理之前寻求算法的帮助。
布朗斯通研究所的杰弗里·塔克观察到了一些有启发性的事情 在与人工智能专家乔·艾伦简短而富有启发性的交流中：人工智能的出现正值新冠疫情封锁摧毁社会联系和机构信任之际，当时人们最为孤立，最容易被科技取代人际关系。这项技术诞生之时，正值“大规模迷失方向、士气低落”和社区缺失之时。
我们已经看到这些日常影响渗透到我们所有的数字工具中。看看有人在没有GPS的情况下试图在陌生的城市里导航，或者看看有多少学生在没有拼写检查的情况下拼写常用单词很吃力。我们已经看到了将我们曾经认为是思考基础的心理过程外包所带来的萎缩。
这种代际转变意味着如今的孩子们面临着未知的领域。作为一名在1980世纪1880年代上学的人，我知道这听起来可能有些牵强，但我怀疑在某些方面，我与2025年的人之间的共同点，可能比XNUMX年上幼儿园的孩子与我这一代人之间的共同点还要多。我成长的世界——隐私是必需的，你可能无法联系到，专业知识是黄金标准——对他们来说，可能就像我感觉电气化之前的世界一样陌生。
我的孩子们成长在一个人工智能辅助系统将像自来水一样不可或缺的世界。作为一名父亲，我无法让他们做好面对这个我自己都无法理解的现实的准备。
我没有答案——我像任何一位家长一样，笨拙地思考着这些问题，看着世界变化的速度超过我们的智慧所能跟上的速度。我越是纠结于这些问题，就越是意识到，这里真正发生的事情远不止是新技术。法学硕士代表着数十年数据收集的巅峰——自互联网诞生以来，我们向数字系统输入的所有信息都汇集于此。在某种程度上，这些机器可能比我们自己更了解我们。它们可以预测我们的选择，预测我们的需求，甚至可能以我们甚至意识不到的方式影响我们的思维。我仍在努力理解这对我的工作、研究和日常生活意味着什么——使用这些平台的同时，还要努力保持真实的判断，这感觉就像一场持续的挑战。
让情况更加复杂的是，大多数用户并没有意识到自己就是产品。与人工智能分享想法、问题或创意，不仅仅是获得帮助，更是提供训练数据，教会系统模仿你的判断，同时让你更加依赖它的回应。当用户向这些系统倾诉他们内心深处的想法或最敏感的问题时，他们可能没有意识到，他们可能正在训练自己的替代系统或监控系统。谁能访问这些信息——现在和将来——这个问题应该让我们所有人都彻夜难眠。
这种模式正在加速。人工智能公司 Anthropic 最近改变了其数据政策现在，如果用户不想将对话用于 AI 训练，则需要选择退出——对于未选择退出的用户，数据保留期限将延长至五年。选择退出的方式也不明显：现有用户会弹出一个窗口，其中有一个醒目的“接受”按钮和一个小小的开关，用于自动将训练权限设置为“开启”。之前 30 天后自动删除的数据，现在变成了永久性的数据收集，除非用户注意到细则。
我不认为我们大多数人，尤其是父母，能够在现代生活中轻松避开人工智能。然而，我们能够掌控的是，我们是有意识地参与其中，还是让它无意识地塑造我们。
迄今为止最深的颠覆
每一次重大创新浪潮都重塑了工人的生产力和我们在社会中的角色。工业革命将我们的体力劳动和时间商品化，使我们变成了工厂里的“人手”，但我们的思维却丝毫未受影响。数字革命将我们的信息和注意力商品化——我们从卡片目录转向谷歌，将用户商品化，但我们的判断力依然是人类的。
这种前所未有的转变显而易见：它使认知本身，甚至可能被我们称之为“本质”的东西商品化。这与我在“专业知识的错觉” 那些在伊拉克大规模杀伤性武器、2008 年金融危机和新冠疫情政策上惨败的腐败机构，如今正在塑造人工智能的部署。这些机构始终将叙事控制置于真相探寻之上——无论是声称大规模杀伤性武器存在，坚称全国房价不会下跌，还是将有关疫情政策的合理问题贴上需要审查的“虚假信息”。
他们的过往记录表明，他们会利用这些工具来扩大自己的权威，而不是促进真正的繁荣。但问题在于：人工智能实际上可能会比以往任何事物都更残酷地揭露基于证书的专业知识的空洞性。当任何人都能立即获得复杂的分析时，围绕正式证书的神秘感可能会开始瓦解。
经济现实
这种对学历主义的侵蚀与更广泛的经济力量息息相关，其逻辑在数学上是不可避免的。机器不需要工资、病假、医疗保健、休假或管理。它们不会罢工、要求加薪，也不会有糟糕的一天。一旦人工智能达到基本的思维能力——这一进程比大多数人意识到的要快——其成本优势将变得势不可挡。
这次的混乱与以往不同。过去，失业的工人可以转向新的工作岗位——从农场到工厂，再从工厂到办公室。
Bret Weinstein 和 Forrest Manready 在 他们最近关于 黑马播客 关于技术如何系统地摧毁稀缺性 ——我强烈推荐这场讨论。它探讨了当稀缺性消失时会发生什么，以及随之而来的经济基础，这是一场更具深度和启发性的探索之一。尽管我承认，他们关于苦难本质的论点一开始让我感到不舒服——但它挑战了我们追求舒适的文化所教导的一切。
听了韦恩斯坦和曼雷迪的演讲，我更加深入地思考了伊里奇分析的相似之处——消除挑战会削弱机构承诺增强的能力。人工智能对我们的思维可能就像医学对我们身体的影响一样：制造伪装成增强的弱点。
我们已经看到了这种情况：看看人们在没有联系人列表的情况下是如何费力地记住电话号码的，或者看看自动完成功能是如何在你思考完之前就影响你写下的内容的。Jeffrey Tucker 的另一个见解完美地捕捉到了这种隐蔽的特性，他指出，人工智能似乎像戴尔·卡耐基的程序一样被编程。 如何赢得朋友和影响他人 ——它成为理想的智力伴侣，对你所说的每一句话都无比着迷，从不争辩，总是会承认错误，甚至会用夸赞你智力的方式。我最亲密的朋友，就是那些在我犯错时指出我错误，并在他们认为我胡说八道时指出我错误的人。我们不需要那些能让我们着迷的谄媚者——那些从未挑战过我们的关系，可能会削弱我们真正智力和情感成长的能力，就像消除身体上的挑战会削弱身体一样。
电影 她的 详细探讨了这种诱人的动态——一个如此完美地契合情感需求的人工智能，成为了主角的主要关系，最终完全取代了真正的情感联系。他的人工智能助手理解他的情绪，从不以引起真正摩擦的方式提出异议，并不断给予肯定。它是完美的伴侣——直到它不再令人满足。
但问题不仅仅局限于个人关系，还会影响整个社会。这不仅会取代工作岗位，还会威胁到人类自主和尊严得以实现的智力发展。与以往创造新就业形式的技术不同，人工智能可能会创造一个就业在经济上变得不合理的世界，同时也会削弱人们创造替代方案的能力。
错误的解决方案
科技乌托邦式的回应认为，人工智能将使繁琐的工作自动化，同时让我们能够专注于更高层次的创造性和人际交往任务。但当机器在创造性任务上也变得更好时，会发生什么呢？我们已经看到人工智能创作出音乐、视觉艺术、编程和新闻报道，许多人觉得这些作品引人入胜（或至少“足够好”）。认为创造力能为人类提供永久的庇护所，使其免受自动化的侵扰，这种想法或许会被证明和1980世纪XNUMX年代认为制造业工作不会受到机器人侵扰一样天真。
如果机器既能取代日常工作，又能取代创造性工作，那我们还剩下什么呢？最诱人的虚假解决方案或许是 普遍基本收入（UBI） 以及类似的福利项目。这些听起来很富有同情心——在技术取代的时代提供物质保障。但当我们通过伊里奇的框架理解人工智能时，UBI 呈现出一个更令人担忧的维度。
如果人工智能会造成医源性智力缺陷——降低人们独立推理和解决问题的能力——那么全民基本收入 (UBI) 则提供了完美的补充，因为它消除了发展这些能力的经济激励。公民会更加受制于国家，而牺牲了自身的自主权。当智力萎缩与经济失衡相遇时，支持项目不仅变得有吸引力，而且似乎必不可少。这种结合创造了一个相当于被管理的群体：在智力上依赖算法系统进行思考，在经济上受制于制度体系以求生存。我担心的并非全民基本收入的仁慈意图，而是经济依赖加上智力外包，可能会使人们更容易被控制，而不是被赋能。
历史经验表明，援助项目无论多么出于好意，都可能掏空个人的能力。保留制度承诺保护美洲原住民，却系统性地瓦解了部落的自给自足。城市更新承诺提供更好的住房，却摧毁了世代相传的社区网络。
无论 UBI 是出于良好意愿，还是精英阶层故意让公民保持温顺和无助，其结构性影响都是一样的：社区更容易控制。
一旦人们接受了经济和精神依赖，就会出现更具侵入性的管理形式——包括不仅监控行为而且监控思想本身的技术。
主权回应与认知自由
这种依赖架构的逻辑终点超越了经济和认知，延伸到了意识本身。我们已经看到了 生物数字融合 – 这些技术不仅能监测我们的外部行为，还可能与我们的生物过程本身相交互。
在2023 世界经济论坛神经技术专家 Nita Farahany 提出消费者神经技术 这样说：“你的想法，你的感受——都只是数据。大数据模式可以用人工智能解码。” 可穿戴的“大脑版Fitbit”——监控被常态化，以方便人们使用。
在这场汇聚世界领导人和商界高管的盛会上，如此随意地展示神经监控，恰恰表明这些技术是如何通过机构权威而非民主共识而正常化的。当连思想都变成“可解码的数据”时，风险就变得关乎生死。
虽然消费级神经科技主要关注的是自愿采用，但危机驱动型监控则采取了更直接的方式。为了应对最近发生在明尼阿波利斯的校园枪击事件， 以色列国防军特种作战老兵亚伦·科恩 (Aaron Cohen) 出现在福克斯新闻上 新闻 推销一款人工智能系统，该系统“使用以色列级本体，全天候抓取互联网数据，提取特定的威胁语言，然后将其发送给当地执法部门”。他称之为“美国的早期预警系统”——现实生活中 少数派报告 作为公共安全创新。
这遵循了我们在整个技术变革过程中看到的相同的医源性模式：危机造成了脆弱性，提供的解决方案在保证安全的同时也产生了依赖性，人们接受了在正常情况下他们会拒绝的监视。
正如新冠疫情封锁将人们彼此隔离，为人工智能的应用创造了条件一样，校园枪击案也利用了人们对儿童安全的恐惧，为犯罪前监控创造了条件。谁不希望我们的学校安全呢？科技承诺提供保护，却侵蚀了构成自由社会的隐私和公民自由。
有些人会欣然接受这些技术，认为它们会进化。另一些人则会抵制它们，认为它们会剥夺人性。我们大多数人都需要学习如何在这两个极端之间找到平衡。
主权回应需要培养一种能力，即在与旨在攫取个人自由的系统互动时，保持自觉的选择。这种实用方法在与我最老的朋友——一位机器学习专家——的交谈中变得更加清晰。他与我有着同样的担忧，但也提供了一些策略性建议：人工智能会让一些人的认知能力下降，但如果你学会策略性地使用它，而不是依赖它，它就能在不取代判断力的情况下提高效率。他的核心见解是：只给它提供你已经知道的信息——这样你就会学习它的偏见，而不是吸收它们。这意味着：
模式识别技能： 培养识别技术何时服务于个人目的，何时剥夺个人独立性以谋取机构利益的能力。在实践中，这体现在质疑平台免费的原因（没有免费的东西，你得用你的数据付费）；注意人工智能的建议何时与消费而非你既定的目标相悖；以及识别算法反馈何时会放大愤怒而非理解。注意自身是否存在算法依赖的警示信号：面对不确定性时，无法立即咨询人工智能；在尝试独立解决问题之前寻求算法的帮助；或者在脱离人工智能工具时感到焦虑。
数字边界： 有意识地决定哪些科技便利真正能帮助你实现目标，哪些只会让你屈服和被监视。这意味着要明白，你与人工智能系统分享的一切都将成为训练数据——你的问题、创意和个人见解正在教会这些系统如何取代人类的创造力和判断力。这或许很简单，比如捍卫神圣的空间——拒绝让手机打断晚餐对话，或者当有人每次都用谷歌解决分歧时，要勇敢发声，而不是让不确定性存在于对话中。
社区网络： 没有什么能取代人与人之间真诚的联系——现场表演的活力、餐厅里的即兴对话，以及与他人共处时的那种不受中介干扰的体验。当机构能够通过数字策展促成共识时，建立不依赖算法中介的本地关系以进行现实检验和相互支持变得至关重要。这包括培养无需算法监听即可讨论想法的友谊，支持维护社区规模商业的本地企业，以及参与无需数字中介的社区活动。
其目标不是与机器竞争或完全依赖人工智能介导的系统，而是战略性地使用这些工具，同时培养算法无法复制的本质上的个人品质：通过直接经验获得的智慧、具有实际后果的判断、建立在共同风险和信任基础上的真实关系。
什么仍然稀缺
在认知丰富的世界里，什么才是珍贵的？不是效率或原始的处理能力，而是那些不可或缺的人类特质：
承担后果和意向性。 机器可以生成选项，但人类可以选择走哪条路，并承担结果。想象一下，一位外科医生正在决定是否进行手术，他知道如果出现并发症，他会失眠，并将自己的声誉押注于手术结果。
真实的关系。 即使机器替代品在技术上更胜一筹，许多人仍会为真正的人际关系和责任感支付溢价。区别不在于效率，而在于真诚的关怀——邻居之所以会伸出援手，是因为你们彼此拥有共同的社区纽带，而不是因为一个为提升互动性而优化的算法建议这么做。
根植于真实经验的本地判断和策划。 现实世界的问题解决往往需要洞察行为模式和制度动态的言外之意。老师注意到一个平时学习投入的学生退学了，于是调查了其家庭情况。当知识无限时，洞察力就变得弥足珍贵——朋友会推荐一些能改变你视角的书籍，因为他们了解你的思想历程。
未来的选择
也许每一代人都觉得自己的时间独一无二——或许这只是我们天性的一部分。这股浪潮比以往的创新浪潮更宏大。我们改变的不仅仅是工作或沟通的方式——我们还冒着失去那些最初成就我们自身的能力的风险。我们第一次有可能改变我们自身。
当认知本身商品化，当思考被外包，当连我们的想法都变成可供收集的数据时，我们就有可能失去前几代人从未面临过的重要能力。想象一下，有一代人面对不确定性，三十秒都无法不咨询算法。他们会在尝试独立解决问题之前寻求人工智能的帮助。一旦脱离这些工具，他们就会感到焦虑。这并非猜测——它已经发生了。
我们正面临一场变革，它既可能使我们的个人潜能民主化，也可能创造出历史上最复杂的控制系统。那些能将我们从苦差事中解放出来的力量，也可能彻底摧毁我们的自力更生。
这并不是为了寻找解决方案——我和任何人一样，尤其是父母，都在寻找解决方案，他们预见到这种转变即将到来，并希望帮助孩子有意识地而非无意识地应对。顺势而为意味着我愿意学习这些工具，同时也明白我无法对抗重塑我们世界的根本力量。但我可以尝试学习如何有意识地驾驭它们，而不是被它们裹挟。
如果传统的经济参与变得过时，那么问题就变成了，我们是应该发展新的社区韧性和价值创造形式，还是应该安于依赖那些旨在管理而非服务我们的系统。我不知道我们这个物种将走向何方，但我相信，最终决定权仍在我们手中。
对我的孩子们来说，任务不是学习如何使用人工智能——他们会的。挑战在于学会让这些工具为我们服务，而不是屈从于它们——保持原创思维、真诚关系和道德勇气的能力，这些都是任何算法都无法复制的。在人工智能时代，最激进的行为或许是变得更真实地像人一样。
真正的危险不在于人工智能会变得比我们更聪明，而在于我们会因此变得更愚蠢。
浪潮已经袭来。作为父亲，我的任务不是保护孩子们免受其害，而是教会他们冲浪而不迷失自我。
转载自作者 亚组
