算法很难理解人类思想的复杂和模棱两可，但这正巧为AI时代黑客攻击提供了方便。

对于人工智能来说，如果开始优化一个解决方案，环境的所有规则都必须以计算机能够理解的方式进行优化。需要设定目标、建立规则并不断反馈结果，人工智能需要某种关于它做得如何的反馈，以便它可以提高自身的性能。

有时候这是一件小事。对于像围棋这样的游戏，规则、目标和反馈——赢了还是输了——都被精确地定义，除此之外没有任何东西可以掺杂其中。GPT- 3 AI可以写出连贯的文章，因为它的“世界”就是文本。这就是为什么目前大多数受攻击目标和奖励黑客攻击的案例都来自模拟环境。这些是人为和受约束的，所有规则都很明确。

重要的是系统中模棱两可部分的数量。我们可以想象让AI学习税法，因为税法由确定应纳税额的公式组成。甚至还有一种编程语言 Catala，它针对编码法进行了优化。即便如此，所有法律都包含许多自由裁量的部分。这种模糊部分很难转化为代码，因此AI很难处理它。尽管有人工智能，但在可预见的未来，税务律师仍不会被AI取代。

大多数人类系统甚至更加模棱两可。很难想象AI会想出像曲棍球这样的现实世界运动技巧。人工智能不仅要了解游戏规则，还要了解人体生理学、棍子和球的空气动力学等。这并非不可能，但比提出新的围棋着法要困难得多。

在复杂的社会系统中，这种潜在的模糊性提供了一种针对AI黑客的近期安全防御。在AI能够建模和模拟人们的工作方式之前，它们还需要很长时间才能像人类一样设计出破解程序的新方法。虽然充满AI黑客的世界仍然是一个科幻小说中的情节，但这并不是一个简单的科幻小说问题。AI的进步来得又快又猛，能力的提升不是稳定连续的。

虽然AI黑客可能主要还是明天的问题，但我们今天已经看到了它的先兆。我们需要开始考虑可执行的、可理解的和合乎道德的解决方案，因为如果我们可以对AI有任何期望，那就是我们将比预期更快地需要这些解决方案。

在短期内，我们更有可能看到协作式人工智能——人类黑客。几乎在整个历史中，黑客攻击都是人类的活动。寻找新的技巧需要专业知识、时间、创造力和运气。当AI 开始黑客攻击时，情况会发生改变。AI不会受到与人相同的限制。它们不需要睡觉，会像外星人一样思考，并以我们无法预料的方式入侵系统。

计算机在四个方面加速了黑客攻击：速度、规模、范围和复杂性。人工智能将进一步加剧这些趋势。

首先是速度：有时需要数月或数年的人类黑客攻击过程可能会被压缩到数天、数小时甚至数秒。其次是规模：一旦AI系统开始启动黑客攻击，它们将能够以我们根本没有准备好的规模来让攻击发生。再者是范围：我们有应对黑客攻击的社会系统，但这些系统是在黑客还是人类的时候发展起来的，而AI黑客攻击则不然。最后是复杂性：AI辅助黑客打开了通向复杂策略的大门，这些策略超出了人类独立思维所能设计的策略。

以计算机的速度、规模、范围和复杂程度，黑客攻击很可能成为我们社会无法解决的问题。

在缺乏任何有效监管的情况下，我们真的无法阻止AI黑客攻击的发生。我们要接受这是不可避免的，并建立健全的治理结构，通过规范对系统有益的黑客攻击并消除恶意或无意中造成破坏的黑客攻击，来快速有效地做出响应。

相比AI将如何发展或如何应对，我们正面临更深层次的问题：什么黑客是有益的，哪些是有害的，并且由谁来决定？如果坚持预防优先原则，我们希望业内专家尽可能多地在黑客被纳入社会系统之前对其进行监测和识别。甚至可以将该原则应用到更上游的地方，即那些易受黑客攻击的机构和组织。

此外，AI黑客治理问题应该在本地还是在全球范围内进行，由管理员负责还是投票决策，或者有什么办法可以让市场或民间社会团体来决定（目前将治理模型应用于算法的努力是针对这一问题将如何发展的早期目标）？我们设计的治理结构将赋予一些人和组织权力，来决定塑造未来的黑客。然而，我们仍需确保这种权力不被滥用。

本文首发于《连线》（Wired）杂志，原文内容摘自《黑客的思想：强大的社会规则如何改变》（A Hacker’s Mind: How the Powerful Bend Society’s Rules，and How to Bend Them Back），作者为布鲁斯·施耐尔（Bruce Schneier），由方正梁翻译。