随着人工智能的发展，控制它的尝试也在增加。但是，如果我们能够区分真正的风险和虚假的风险，这项技术可以用来鼓励思想和想法的多样性。
摘录：
世界正在我们眼前发生变化。人工智能 （AI） 是一项范式转变的技术突破，但可能不是出于您可能认为或想象的原因。
你可能听说过类似“通用人工智能（AGI）即将到来”或“现在语言已经解决，下一步是有意识的AI”之类的话。
井。。。我在这里告诉你，这两个概念都是红鲱鱼。它们要么是相信上帝在电路中的技术人员的天真妄想，要么是别有用心的更恶毒的人故意煽动恐惧和歇斯底里。
我不认为AGI是一种威胁，或者我们有一个“人工智能安全问题”，或者我们即将从机器的某个奇点中脱颖而出。
但。。。
我确实相信这种技术范式转变对人类构成了重大威胁——事实上，这是我唯一能与主流达成某种共识的事情——但出于完全不同的原因。
要了解它们是什么，让我们首先尝试了解这里真正发生的事情。
技术是放大器。它使好的更好，使坏的变得更糟。
就像锤子是可以用来盖房子或打人头的技术一样，计算机可以用来记录改变世界的想法，或者它们可以用来操作中央银行数字货币（CDBC），将你奴役成在欧洲中央银行工作的疯狂的共产主义猫女。
人工智能也是如此。它是一种工具。它是一种技术。它不是一种新的生命形式，尽管那些呼吁进步的孤独书如此迫切地想要相信。
生成式人工智能之所以如此有趣，不是因为它是有知觉的，而是这是我们历史上第一次以连贯的方式与人类以外的事物“说话”或交流。在此之前，我们最接近这一点的是......鹦鹉。
是的：鹦鹉！
你可以训练一只鹦鹉说话，回话，你可以理解它，但因为我们知道它不是真正的人类，什么都不懂，所以我们没有那么深刻的印象。
但是生成式人工智能...嗯，那是另一回事了。我们已经熟悉它六个月了（在主流中），我们不知道它在引擎盖下是如何工作的。我们输入一些单词，它的反应就像你在课堂上认识的那个烦人的、政治正确的、助产士的书......或您的普通 Netflix 节目。
事实上，您甚至可能在给 Booking.com 或您必须拨入或网络聊天的任何其他服务期间与这样的人交谈过。因此，您会立即被这些反应震惊。
“天哪，”你告诉自己。“这东西说话像真人一样！”
英语完美无暇。没有拼写错误。句子有意义。它不仅在语法上准确，而且在语义上也是如此。
我靠！它一定是活的！
你几乎没有意识到你是在和一只非常老练、随机的鹦鹉说话。事实证明，语言比我们想象的更基于规则，概率引擎实际上可以通过语言的框架或管道在模拟智能方面做得非常出色。
大数定律再次袭来，数学再获胜利！
但。。。这是什么意思？我到底是什么意思？
这没有用吗？这证明它不是通往AGI的道路？
不一定，在这两个方面。
这样的工具有很多实用性。事实上，最大的效用可能在于它作为“MOT”或“助产士报废技术”的应用。醒来的记者和无数多年来一直在谈论很多但什么都不说的“内容创作者”，现在就像恐龙一样看着彗星焚烧周围的一切。这是一件美丽的事情。生活再次获胜。
当然，这些工具也非常适合构思、更快地编码、进行一些高级学习等。
但从AGI和意识的角度来看，谁知道呢？那里可能有一条路，但我的嗅觉告诉我，我们离得很远，所以我没有屏住呼吸。我认为意识要复杂得多，认为我们已经用概率机器把它变出来是无知、傲慢、天真和......井。。。空。
那么，我的问题到底是什么，风险是什么？
记住我所说的工具。
计算机可以说是人类建造的最强大的工具。计算机经历了以下演变：
“'屏幕'的问题实际上是一个非常古老的问题。在许多方面，它可以追溯到柏拉图的洞穴，也许深深植根于人类的状况，以至于它先于书面语言。这是因为当我们谈论屏幕时，我们实际上是在谈论以编辑形式传播虚幻的模型。
“诀窍是这样的：你会看到一个事物的图像（现在，它的声音），它的呈现者要么明确告诉你，要么强烈暗示它是通往真实的窗口。换句话说，影子和形式是相同的，前者就像你可以用感觉器官直接观察到的任何现实片段一样值得信任。
而且，对于那些认为“这在一段时间内不会发生”的人来说，这里是笨拙的傻瓜在做很好的尝试。
想象一下，你问的每一个问题，你要求的每一张图片，你变出的每一个视频，你寻求的每一点数据，都被一些不露面的“安全警察”认为是“安全的”、“负责任的”或“可接受的”方式返回的。
想象一下，你消费的每一点信息都被转化为一些不冷不热的中间版本的事实，你要求的每一个意见都不是真正的意见或观点，而是一些无伤大雅的、道歉的回应，实际上并没有告诉你任何事情（这是良性的、烦人的版本）或者更糟糕的是，是某种意识形态包裹在回应中，这样你所知道的一切都变成了所说的“安全人工智能”制造商想要的某种变体。你去思考和知道。
想象一下，你有现代的迪斯尼角色，比如电影《永恒族》中的那些小丑，作为你永远存在的智力助手。这会让你“哑巴平方”。
《非共产主义宣言》将乌托邦共产主义梦想概括为人的大同质化：
如果每个人都是电子表格上的一系列数字，或者具有相同观点的自动机，那么拥有地球上的天堂就会容易得多。你可以为每个人配给足够的食物，然后我们都会成为同样悲惨的无产阶级。
这就像乔治·奥威尔（George Orwell）的思想警察与《盗梦空间》交叉，因为你的每一个问题都会被完美地捕捉和监控，人工智能的每一个反应都可能在你脑海中植入一种意识形态。事实上，当你考虑它时，这就是信息的作用。它在你的脑海中播下种子。
这就是为什么你需要在男人的头脑中拥有一套多样化的想法！你想要一片繁荣的热带雨林，而不是一些单一的小麦田，土壤恶化，易受天气和昆虫的影响，完全依赖孟山都（或Open AI或辉瑞）生存。你希望你的思想蓬勃发展，为此你需要思想。
这就是互联网的承诺。一个任何人都可以说任何事情的地方。互联网一直是一股向善的力量，但它正受到攻击。无论是像Twitter和Facebook上的社交资料那样的去匿名化，还是各种在线平台上的KYC，还是平台本身喷出的算法呕吐物。从 2020 年开始，我们尝到了它的所有荣耀。而且情况似乎只会变得更糟。
类似世界经济论坛的组织推动为在线身份建立KYC，并将其与CBDC和你的虹膜联系起来是一种选择，但它有点公开和明确。在最近对医学实验的抵制之后，这样的举动可能更难实现。一个更简单的举措可能是允许LUI接管（因为他们会这样做，因为它们具有卓越的用户体验），同时创建一个“AI安全委员会”，在所有主要的大型语言模型（LLM）上建立“安全”过滤器。
不相信我？我们的G7霸主已经在讨论这个问题了。
今天，网络仍然由网页组成，如果你足够好奇，你可以找到分歧的深邃、黑暗的角落和缝隙。您仍然可以上网冲浪。主要。但是，当所有内容都只能通过这些模型访问时，您就不再冲浪了。你只是得到了一个已经通过所有必要的过滤器和审查器的响应的综合。
那里可能会有一点真相，但它会被包裹在如此多的“安全”中，以至于 99.9% 的人不会听到或知道它。真相将成为模型所说的。
我不确定当信息的可发现性从根本上改变时，大部分互联网会发生什么。我可以想象，随着大多数应用程序过渡到某种形式的语言界面，将很难找到您正在使用的“门户”认为不安全或未经批准的东西。
当然，有人可能会说，就像你需要坚韧和好奇心来找到网络上的持不同政见者的缝隙一样，你需要学会在这些平台上提示和破解你的方式获得更好的答案。
这可能是真的，但在我看来，每次你发现“不安全”的东西时，这条路线就会被修补或封锁。
然后你可以争辩说“这可能会适得其反，因为会降低工具的效用。
再一次，我可能会同意。在自由市场中，这种愚蠢会为更好的工具让路。
但是，当然，自由市场正在成为过去。我们从这些歇斯底里的推动“安全”的尝试中看到的是，他们有意或无意地为压制可能的替代方案铺平了道路。
在创建“监管”这些平台的“安全”委员会（阅读：规范言论）时，未通过此类“安全或毒性过滤器”运行的新模型将无法供消费者使用，或者它们可能被定为非法或难以发现。还有多少人使用 Tor？还是鸭鸭去？
如果你认为这没有发生，这里有一些关于大多数LLM已经插入的当前毒性过滤器的信息。这种过滤器变得像金融应用程序的KYC要求只是时间问题。一个新的顺从附属物，像公牛的山雀一样绑在语言模型上。
无论对这种同质化尝试的反驳是什么，两者都实际上支持我的观点，即我们需要建立替代方案，我们现在需要开始这个过程。
对于那些仍然倾向于相信AGI即将到来并且LLM是朝着这个方向迈出的重要一步的人来说，无论如何，你可以自由地相信你想要的，但这并不能否定这篇文章的观点。
如果语言是新的“屏幕”，我们看到或听到的所有语言都必须通过批准的过滤器运行，那么我们消费的信息，我们的学习方式，我们的想法，都将缩小到一个非常小的奥弗顿窗口。
我认为这对人类来说是一个巨大的风险。
社交媒体算法为我们提供平台认为我们应该知道的东西，我们已经变得足够愚蠢了。当他们想打开歇斯底里时，这很容易。语言用户界面是社交媒体乘以100。
想象一下，下次所谓的“危机”来袭时，他们能做些什么？
它不会很漂亮。
思想市场对于一个健康和有效的社会是必要的。这就是我想要的。
他们狭隘的思想不会长期奏效，因为它是反生命的。最终，它将失败，就像所有其他试图掩盖真相并忽视它的尝试一样。但每一次尝试都会带来不必要的伤害、痛苦、损失和灾难。这就是我试图避免并帮助敲响钟声的。
如果我们不积极主动，整个人工智能革命可能会成为“大同质化”。为了避免这种情况，我们必须做两件主要的事情：
如果我们这样做，我们就可以拥有一个真正多样化的世界——而不是那种醒来的废话。我的意思是思想的多样性，思想的多样性，观点的多样性和真正的思想市场。
一个想法的改变。互联网的最初承诺是什么。并且不受打字和点击的低带宽的约束。
**作者：Brian Shillhavy
浙公网安备 33020502000017号
GMT+8, 2024-4-27 14:56 , Processed in 0.051671 second(s), 14 queries , Gzip On.
Powered by Discuz! X3.5
© 2001-2024 Discuz! Team.
