超级人类什么时候正式上线（英雄联盟手游什么时候正式上线）
编辑：编辑部
【新智元导读】OpenAI出手了！为了不让超级智能失控，首席科学家Ilya Sutskever和Jan Leike将共同领导团队在未来4年投入20%算力，解决超智能AI对齐问题。
Stability AI的CEO表示，使AGI与ASI保持一致是我们的计划。
我的观点（提出你的意见）：我们不可能在没有拿走自由的情况下绝对地对齐一个超级智能体。对齐和自由是正交的。我们不要建造那些可能会对人类造成 I）生存威胁和 II）剥夺人类权力的人工智能。
根据OpenAI博客介绍，未来要投入20%算力去做这件事，却受到网友的质疑。
现在是时候有人考虑超级智能的安全问题了。但让我们现实一点，20%的计算量真的能解决问题吗？对于这样一个巨大的问题，似乎只是杯水车薪。
OpenAI的对齐团队领导人Jan Leike解释道，
20%的计算量不是一个小数目，我对OpenAI愿意以这种规模分配资源感到非常印象深刻。
这是有史以来对对齐的最大投资，它可能比人类到目前为止在对齐研究上的总花费还要多。
OpenAI将用4年的时间去完成这项任务，如何判断是否失败了，或者进展不够快？
我们会关注即将到来的实证数据：
1. 我们可以在本地衡量研究路线图的各部分进展（例如，可扩展的监督）
2. 我们可以看到GpT-5的对齐效果如何
3. 我们将密切关注技术的发展速度
其实大多数人还是很想知道，OpenAI是不是在真正解决对齐研究之前，不会再研发超级AI了。
其实，Jan Leike的话中，早已透露出了GpT-5正在研发中。
许多人还是比较支持OpenAI这么做的。
网友表示，希望机器的可解释性是战略的一部分，ASI不应该是一个黑盒子。如果我们有一天在不了解它是如何工作的情况下建立一个ASI，我们将有很大的麻烦。
参考资料：
https://openai.com/blog/introducing-superalignment
https://the-decoder.com/openai-launches-new-team-to-tackle-superintelligence-alignment/
以上是 超级人类什么时候正式上线（英雄联盟手游什么时候正式上线） 的全部内容， 来源链接： utcz.com/qa/954559.html
