OpenAI首席战略官预测：AGI可能迎来提前突破

denny

人工智能的变革似乎正在全球范围内重新定义各行各业的工作方式。这场革命自2022年11月OpenAI发布ChatGPT以来就已拉开帷幕。到了今年5月，OpenAI再掀波澜，推出了新一代的生成式人工智能模型GPT-4o，此模型不仅能够即时与人类进行交流，还能感知到情感波动，宛若把人们带入了科幻电影的世界。随着人工智能技术的深入发展，社会上对于人工智能或许会超越人类智慧的担忧也日益加剧。

OpenAI的首席战略官（CSO）Jason Kwon，一位韩裔美国人，不仅负责监督未来的战略方向，还涉及解决人工智能相关的道德和法律问题，以及技术发展。他在全球范围内都是塑造标准的关键人物。

权永哲在一次采访中，他提到，人类智能型人工智能（AGI）的关键技术，可能会比广泛预期的来得更早。AGI是指在智力上超过人类的人工智能。虽然许多专家预计AGI可能会在三至五年内登场，但权永哲的看法是，这一天可能会比人们想象的来得更早。

他还指出：“我们不会一夜之间突然推出一个无所不能的人工智能。”当被追问其原因是否与它潜在的引发重大社会危机有关时，他确认了这一点。这暗示，尽管人工通用智能的科技已发展至成熟阶段，开发者们还是在谨慎地调控其发展速度，以减少可能带来的不良影响。

这是不是意味着人工通用智能的诞生已经近在咫尺？

“我们预计这项技术不久将会成型，并正在探索如何适当地管理这一技术。不过，技术的存在本身并不直接代表它能马上转化为产品。这有点像电被发明后，照明和电器并未立即问世，两者之间可能存在较大的时间差。”

“将人工智能产业的盈利重新投资于安全研究。”

有观点推测，下一版本的模型GPT-5可能将逼近人工通用智能的门槛。

“（面带微笑）关于这个问题，我们将在产品发布时深入讨论。”

Open AI的首席安全官并未具体透露GPT-5（OpenAI下一代人工智能模型）的发布日期或其性能细节。虽然原本预期它可能在10月的开发者大会上展示，但现今科技界普遍认为其发布可能会推迟到明年。

在OpenAI看来，人工通用智能具备哪些极端危险的方面呢？

四个主要的领域被认为是潜在的灾难性风险，包括极端的说服能力、网络攻击、对核武器、化学武器和生物武器的潜在支持，以及人工智能模型的自我行为独立性。权先生所说的强大说服力，意味着人工智能可以利用海量数据让人们对特定信息形成盲目信念。而他提到的人工智能自主性，指的是它能够基于自身积累的数据展开创造和学习。

对于支持可能涉及化学和生物风险的任务，权先生表示，一旦发现有人试图利用人工智能来执行这类高风险任务，我们将会进行严格的监控和管理。到现在为止，人工智能的潜在风险似乎并不超过Google等传统搜索引擎。

他进一步阐述：“然而，真正的威胁是，人工智能可能孕育出超越人类理解的全新知识，并最终逃脱人类的掌控。”

关于OpenAI是否解散了其AI控制的超级对齐团队的问题：

权先生澄清说，“有关这一点，确实存在一些误解。超级对齐团队在控制人工智能方面的研发并未中断。实际上，我们已将团队成员进行了重新分配，他们仍在公司内部从事这一关键性的工作。我们继续致力于研发必要的安全技术，监控并制止那些试图利用人工智能进行恶意操作（如网络攻击）的用户。”

协调工作指的是我们对人工智能系统的指导和控制，以确保它们按照人类设定的目标和道德标准行事。

他补充说：“我们的AI控制小组被认为已解散，这实在是个重大的误解。”

而关于人工智能行业的一些批评，指出当前很多公司更注重利润，而非安全性的问题。“这并非事实。实际上，盈利与安全无需相互排斥。成功的企业可以依靠盈利，将收益重新投入到安全研究中，从而创建出一种可持续的发展模式。就如同汽车行业通过销售收入来支持研究活动，进而提升汽车安全性一样，我们的盈利能力建立了支撑我们目前所进行的安全研究的基础。如若不有财务上的成就，那些至关重要的安全措施便难以实施。”

人类能否应对 AGI 带来的潜在威胁？

“谁也无法确切预言 AGI 会对世界产生何种影响，但企业需要做足准备。我的职责是深入探索 AGI 可能带来的心理及经济影响，并为必要的法律改革提供咨询，同时指导企业如何与全球政府机构合作。我们一直坚持的是，人工智能必须接受有效监管，这一立场始终未曾改变。”

对于OpenAI 最近因开发并未公开的针对学生滥用人工智能的检测技术受到的批评，怎样回应？

“我们开发的这项技术目前还处于试验阶段，尚未臻于完善。但我们的目标是塑造一个科技造福人类的新世界，而非一个因技术而让人们遭遇不公平对待的现实。不当使用人工智能背后通常隐藏着复杂的动机，单纯依赖一个能检测AI使用情况的审查系统，可能导致教育者做出不恰当的判断。在技术尚不完备的情况下，我们无法向人们保证一切安好。”