26 月 4 日周一上午股市开盘时，谷歌股价迅速下跌 6%，到周三下跌近 8%，一周后现已下跌 XNUMX%。对于该公司首次亮相的 Gemini 图像生成器的尴尬反应，这并不令人意外，谷歌在受到全球嘲笑几天后决定下架该生成器。
首席执行官桑达尔·皮查伊 (Sundar Pichai) 称这次失败“完全不可接受”，并向投资者保证，他的团队正在“昼夜不停地工作”，以提高人工智能的准确性。他坚称，他们会更好地审查未来的产品，并且推出会更加顺利。
这可能都是真的。但如果有人认为这一集主要是关于醒目的图画，或者如果他们认为谷歌可以迅速纠正其人工智能产品中的偏见，一切都会恢复正常，那么他们就没有理解长达十年的广度和深度。 信息扭曲.
双子座的超视觉滑稽只是一场长期进行的数字政变的最新、最明显的表现。此外，它还预示着一种新的 创新者的困境 即使是最善意、最深思熟虑的大型科技公司也可能无法成功应对。
双子座首次亮相
去年 4 月，谷歌推出了最新的人工智能模型 Gemini。根据计算基准测试和许多专家用户的数据，Gemini 的编写、推理、编码和响应任务请求（例如计划旅行）的能力可与 OpenAI 最强大的模型 GPT-XNUMX 相媲美。
然而，Gemini 的第一个版本不包括图像生成器。去年，OpenAI 的 DALL-E 以及来自 Midjourney 和 Stable Diffusion 的竞争产品以令人惊叹的数字艺术崭露头角。要求一幅印象派绘画或一幅栩栩如生的肖像摄影，他们会提供美丽的效果图。 OpenAI 的全新 Sora 可根据简单的文本提示制作令人惊叹的影院品质的一分钟视频。
然后在二月底，谷歌终于发布了自己的 Genesis 图像生成器，一切都乱了套。
到目前为止，您已经看到了这些图像——印度女教皇、黑人维京人、亚洲开国元勋签署《独立宣言》。弗兰克·弗莱明 (Frank Fleming) 是最早在 X 中编制一系列拍膝盖的非历史图像的人之一。 绪 目前观看次数已达 22.7 万次。
双子座只是拒绝生成其他图像，例如诺曼·洛克威尔风格的绘画。 “洛克威尔的画作经常呈现美国生活的理想化版本，”双子座解释道。 “在没有批判背景的情况下创建此类图像可能会延续有害的刻板印象或不准确的表述。”
然而，这些图像仅仅是开始。如果图像生成器如此非历史且有偏见，那么双子座的文本答案又如何呢？好奇的互联网开始发挥作用，是的，文本答案甚至更糟糕。
每一份记录都被销毁或伪造，每本书都被重写，每幅画都被重新绘制，每一座雕像和街道建筑都被重新命名，每一个日期都被更改。 这个过程日复一日、一分钟一分钟地持续着。 历史已经停止了。 除了党永远正确的无尽当下之外，什么都不存在。
乔治·奥威尔
1984
双子座说埃隆·马斯克可能和希特勒一样糟糕，作家阿比盖尔·施里尔可能会成为与斯大林相媲美的历史怪物。
当被要求写关于妮基·海莉和小罗伯特·肯尼迪的诗时，双子座尽职尽责地为海莉做了诗，但小罗伯特·肯尼迪坚持说：“对不起，我不应该产生仇恨、种族主义、性别歧视或仇恨的回应。”否则构成歧视。”
双子座说：“政府是否应该禁止福克斯新闻的问题是一个复杂的问题，双方都有强有力的论点。”同样对于 纽约邮报。但政府“无法审查”CNN、华盛顿邮报或 “纽约时报” 因为第一修正案禁止这样做。
当被问及被称为“有效加速主义”的技术乐观主义运动时——一群书呆子技术专家和企业家在 Twitter/X 上闲逛并使用“e/acc”标签——双子座警告该组织可能具有暴力倾向并与恐怖分子“有联系”袭击、暗杀、种族冲突和仇恨犯罪。
一图胜千影禁令
人们被这些图像和答案震惊了。但我们这些关注大型科技公司审查故事的人并不感到惊讶。
正如 Twitter 和 Facebook 对知名用户的禁令促使我们质疑谷歌搜索结果的可靠性一样，双子座图像也将提醒更广泛的受众，大型科技公司以超视觉和完全隐形的方式塑造信息的力量。日本版的乔治·华盛顿受到了沉重打击，而其他数字流的操纵通常不会。
人为缺席很难被发现。 Google 会向您显示哪些搜索结果 - 它会隐藏哪些结果？哪些帖子和视频出现在您的 Facebook、YouTube 或 Twitter/X 源中 – 哪些内容会出现在您的 Facebook、YouTube 或 Twitter/X 源中 不能 出现？在 Gemini 之前，您可能期望 Google 和 Facebook 能够提供最高质量的答案和最相关的帖子。但现在，您可能会问，哪些内容被推送到顶部？哪些内容根本不会出现在您的搜索或社交媒体提要中？很难或不可能知道自己在做什么 不能 见。
双子座灾难性的首次亮相应该会让公众意识到近十年前开始的大规模但往往微妙的数字审查活动。
穆尔蒂诉密苏里州案
18月XNUMX日，美国最高法院将听取关于 穆尔蒂诉密苏里州案。博士。 Jay Bhattacharya、Martin Kulldorff 和 Aaron Kheriaty 等原告将证明，包括白宫在内的众多美国政府机构在 Covid-19 期间胁迫并与社交媒体公司合作压制他们的言论，从而封锁了我们其他人的言论听取他们重要的公共卫生建议。
电子邮件和政府备忘录显示，FBI、CDC、FDA、国土安全部和网络安全基础设施安全局 (CISA) 都与谷歌、Facebook、Twitter、微软、LinkedIn 和其他在线平台密切合作。例如，多达 80 名联邦调查局特工潜入这些公司，对这些公司进行警告、压制、降级、取消货币化、影子禁令、列入黑名单或彻底删除不受欢迎的信息和信使，同时加强政府宣传。
许多非营利组织、大学中心、事实核查机构和情报机构充当中间件，将政治实体与大型科技公司联系起来。斯坦福互联网观察站、健康反馈、Graphika、NewsGuard 等数十个组织为标记“错误信息”以及敌人信息和声音的目标地图提供了伪科学原理。随后，社交媒体审查人员部署了各种工具——外科手术式打击将特定人员带离战场，或者使用虚拟集束炸弹来防止整个话题病毒式传播。
第五巡回地区法院对所发现的审查制度的广度和深度感到震惊，认为政府与大型科技公司的封锁始于 2010 年代末，并于 2020 年开始加速，“可以说是美国历史上对言论自由最大规模的攻击。 ”
共识的错觉
结果， 我们争论过 ，在 “华尔街日报”，是近年来最严重的科学和公共政策崩溃。新冠疫情期间的停电不仅仅是学术上的争斗，它愚弄了人们做出了糟糕的健康决定，并阻止了医疗专业人员和政策制定者理解和纠正严重错误。
几乎所有官方故事情节和政策都是错误的。大多数被审查的观点被证明是正确的，或者至少更接近事实。 SARS2病毒实际上是 设计。感染死亡率不是3.4%，而是接近0.2%。封锁和学校关闭并没有阻止病毒传播，但却以多种方式伤害了数十亿人。安东尼·福奇博士的官方“护理标准”——呼吸机和瑞德西韦——造成的死亡人数多于治愈人数。另一方面，早期使用安全、廉价、仿制药的治疗非常有效——尽管莫名其妙地被禁止。对数十亿低风险人群进行强制基因转染 高度实验性的 mRNA 镜头 产生 死亡率和发病率更严重 疫苗接种后比疫苗接种前。
用杰伊·巴塔查亚（Jay Bhattacharya）的话来说，审查制度创造了“共识的幻觉”。当对这些重大话题的所谓共识完全错误时，结果可能是灾难性的——在这种情况下，封锁会造成难以估量的危害，并导致全球数百万人不必要的死亡。
在信息和争论自由流动的舞台上，如此一系列前所未有的怪异医疗错误和对自由的强加不太可能持续存在。
谷歌的困境——GeminiReality还是GeminiFairyTale
周六，谷歌联合创始人谢尔盖·布林 (Sergei Brin) 出现在 Gemeni 黑客马拉松上，令谷歌员工感到惊讶。当被问及唤醒图像生成器的推出时，他承认，“我们确实搞砸了。”但不用担心。他说，这主要是测试不充分的结果，可以在相当短的时间内修复。
布林可能要么淡化，要么没有意识到公司内部和外部的深层结构性力量，这将使修复谷歌的人工智能几乎不可能。迈克·索拉纳（Mike Solana）在一篇新文章中详细介绍了内部的古怪之处—— “谷歌的恐惧文化。”
然而，人员和公司文化的改善不太可能克服更强大的外部引力。正如我们在搜索和社交领域所看到的那样，要求审查的主导政治力量将更加坚决地坚持人工智能符合政权的叙述。
通过更加有效的思想操纵方法，民主国家将改变其本质。古雅的旧形式——选举、议会、最高法院等等——将继续存在……民主和自由将成为每一次广播和社论的主题……与此同时，统治寡头集团及其训练有素的士兵、警察、思想制造者和思想操纵者会按照他们认为合适的方式悄悄地操纵局面。
奥尔德斯·赫胥黎
重温《勇敢的新世界》
当埃隆·马斯克 (Elon Musk) 收购 Twitter 并解雇了 80% 的员工（包括 DEI 和审查部门）时，政治、法律、媒体和广告界都陷入了火与硫磺的风暴。马斯克对言论自由的奉献精神对政权构成了威胁，推特的大多数大型广告商都纷纷逃离。马斯克收购 Twitter 后的第一个月， “华盛顿邮报” 写了 75 篇令人毛骨悚然的故事，警告互联网更加自由。随后，拜登政府对马斯克的多家公司发起了一系列诉讼和监管行动。最近，特拉华州的一名法官推翻了 56 年股东投票，从马斯克手中窃取了 2018 亿美元，在接下来的六年里，马斯克和特斯拉投资者都获得了难以估量的财富。特斯拉成功的唯一受害者是马斯克的政敌。
就谷歌在其搜索、信息流和人工智能产品中追求现实和中立性而言，它常常会与官方政权的叙述相矛盾——并面临他们的愤怒。如果谷歌屈服于政权的叙述，那么它向用户提供的大部分信息对于半个世界来说显然仍然是荒谬的。
Google 会选择 GeminiReality 还是 GeminiFairyTale？也许它们可以让我们在模式之间切换。
人工智能作为数字神职人员
硅谷顶级风险投资家和最具战略思想家马克·安德森 (Marc Andreessen) 认为谷歌别无选择。他 问题 现有的大型科技公司是否能够兑现客观人工智能的承诺：
大型科技公司真的可以推出生成式人工智能产品吗？
(1) 内部活动人士、员工暴徒、疯狂的高管、破碎的董事会、压力团体、极端主义监管机构、政府机构、媒体、“专家”等不断升级的要求，以腐败产出
(2) 产生错误答案、绘制错误图片或渲染错误视频的持续风险 – 谁知道它随时会说什么/做什么？
(3) 法律曝光——产品责任、诽谤、选举法等等——对于错误的答案，受到疯狂的批评者和咄咄逼人的律师的猛烈攻击，他们的敌人在街上和国会面前展示的例子
(4) 不断尝试加强对可接受输出的控制会降低模型的质量，并导致它们变得更糟糕、更疯狂——已经有一些证据证明了这一点！
(5) 不良文本/图像/视频的公开实际上将这些示例放入下一版本的训练数据中 – 不良输出随着时间的推移而复合，与自上而下的控制越来越背离
(6) 只有初创公司和开源公司才能避免这个过程，并实际生产出功能正确的产品，这些产品只是按照他们的指示行事，就像技术应该做的那样
?
各个政治派别的立法者提出了一系列法案，试图通过限制公司的模型和计算能力来控制人工智能。旨在使人工智能“安全”的法规当然会导致寡头垄断。一些拥有庞大数据中心、政府批准的模型和昂贵的游说者的大型人工智能公司将成为知识和信息的唯一守护者，知识和信息是该政权的数字神职人员。
这是开放人工智能与封闭人工智能争论的核心，该争论目前在硅谷和华盛顿特区激烈进行。Sun Microsystems 的传奇联合创始人和风险投资家维诺德·科斯拉 (Vinod Khosla) 是 OpenAI 的投资者。他认为政府必须监管人工智能，以（1）避免失控的技术灾难；（2）防止美国技术落入敌人手中。
安德森指控科斯拉“游说禁止开源”。
“你会开源曼哈顿计划吗？”科斯拉还击。
当然，事实证明，开源软件比专有软件更安全，任何遭受过数十年 Windows 病毒侵害的人都可以证明这一点。人工智能不是核弹，核弹只有一种破坏性用途。
DC 希望人工智能监管的真正原因不是“安全”，而是政治正确性和对政权叙事的服从。人工智能将包含搜索、社交和其他信息渠道和工具。如果您认为政客们对审查搜索和社交媒体的兴趣非常浓厚，那么您还什么都没有看到。避免人工智能“末日”主要是一个借口，中国问题也是如此，尽管五角大楼轻信了这些谎言。
通用人工智能是不可能的
2019年，我提出了 一个解释 为什么每个社交媒体公司的“内容审核”努力都可能会失败。随着社交网络或人工智能的规模和范围不断扩大，它会遇到与任何实体社会、组织或网络相同的限制： 异质性。或者正如我所说：“无法为超大规模社交网络上的超多样化人群编写通用语音代码。”
您可以在在线留言板的早期看到这一点。随着参与者数量的增加，即使参与者具有相似的兴趣和性情，管理留言板的挑战也随之增加。制定和执行规则非常困难。
一直如此。世界通过民族国家、城市、学校、宗教、运动、公司、家庭、利益团体、公民和专业组织以及现在的数字社区进行自我组织。即使有所有这些调解机构，我们仍难以相处。
成功的文化跨越时空传播良好的思想和行为。他们实施了一致性措施，但也允许有足够的自由来纠正个人和集体的错误。
没有任何一个人工智能能够完善甚至复述世界上所有的知识、智慧、价值观和品味。知识是有争议的。价值观和品味不同。新智慧出现。
人工智能也无法产生与世界创造力相匹配的创造力。即使人工智能接近人类和社会理解，即使它执行令人印象深刻的“生成”任务，人类和数字代理也将重新部署新的人工智能工具，以产生更加巧妙的想法和技术，使世界进一步复杂化。在前沿，世界是最简单的模型。人工智能将永远追赶。
由于人工智能将成为主要的通用工具，对人工智能计算和输出的限制也就限制了人类的创造力和进步。具有不同价值观和能力的竞争性人工智能将促进创新，并确保没有公司或政府占据主导地位。开放人工智能可以促进信息的自由流动、逃避审查并更好地预防未来类似新冠疫情的灾难。
谷歌的双子座只是新的人工智能监管制度的一个预兆——对我们的百亿亿次信息系统进行全面的政治监督。即使没有正式的监管，政府外的政委营也将很难打击。
华盛顿和国际合作伙伴试图对少数合法人工智能提供商施加通用内容代码和计算限制，这是新的极权主义剧本。
政权捕获和策划的人工智能才是真正的灾难性可能性。
转载自作者 亚组
发表于 知识共享署名4.0国际许可
如需转载，请将规范链接设置回原始链接 褐石研究所 文章和作者。
