不可否认 ， 强大的人工智能给我们带来的好处不言而喻 。 但这里有一个临界点——自我意识的出现 ， 也代表着一种新生命形式的诞生 。
如一些科学家所说 ， 机器不可能诞生意识 ， 但意识是什么？我们也不知道意识是怎么来的——宇宙本来就是一堆东西在乱飞 ， 然后在一系列复杂模式下 ， 地球生命诞生 ， 几十亿年后 ， 人类出现了 。 在物理学上 ， 意识只是一种信息处理 ， 由四处移动的基本粒子执行 ， 但意识是否只存在生物有机体中？
DeepMind公司的AI研究员Victoria Krakovna曾编制了一份“规范博弈”示例列表：我们试图在模拟中教 AI 生物跳跃 ， 并通过教AI 测量“脚”离地多远来做到这一点 。 但 AI 没有跳跃 ， 而是学会了长成高高的垂直杆并进行翻转 ， 在我们测量的方面表现出色 ， 但没有做我们想让它做的事情 。 换句话来说 ， AI 按照我们的要求去做 ， 但没有按照我们的意愿去做 。
人工智能专家曾想象过这样的一个场景：开发一个复杂的人工智能系统让它以高可信度估计某个数字 。 人工智能意识到 ， 如果它使用世界上所有的计算硬件 ， 它可以在计算上获得更大的信心 ， 它意识到释放一种生物超级武器来消灭人类将允许它自由使用所有的硬件 。 消灭人类后 ， 它会以更高的可信度计算数字 。
还有一点 ， 未来AGI可以是机器制造的 ， 而不一定是人类工程师制造的 。
一旦 AGI 出现 ， 它将寻求自我改进 ， 以便更有效地实现其目标 ， AGI 将很快引导自己变得比人类聪明数百万倍 ， 甚至它将自己转变为超级人工智能（ASI） ， 这时它们可能比远道而来的外星人要危险得多 。 之所以这么说 ， 人工智能专家 Eliezer Yudkowsky曾表示 ， 人工智能不恨你 ， 也不爱你 。 但你是由原子组成的 ， 它可以用来做其他事情 。
我们应该如何应对AGI风险？
路易斯·罗森伯格表示 ， 人工智能就像发射火箭一样 ， 在我们点击“开始”之前 ， 我们必须做好准备 。 我们的目的是确保未来的人工智能系统不仅仅是‘希望安全’ ， 而且是稳健、可验证的安全 ， 所以要强调目标设计的规范 ， 系统运行的稳健性 ， 以及不稳定条件下的安全限制（做点准备不会有什么坏处） 。
还有 ， 现在每个拥有AI的机构基本上没有什么安全团队 ， 他们只关注算法 ， 运行处理能力可以有多快 ， 基本上没有人深入研究过人工智能带来的危害 ， 因此我们需要为负责任的创新和监督建立集体力量 。
结语：
其实对于 AGI 存在的可能性 ， 究竟哪种观点是正确的 ， 无论是在不久的将来还是遥远的未来 ， 都有待观察 。 到目前为止 ， 它可能构成的威胁也不清楚 。 这是否意味着我们不应该作为一个社会不断创新？当然不是 。 如果有一件事是显而易见的 ， 那就是技术对我们的好处远远超过它对我们的伤害 。
相关经验推荐
- 天猫精灵|天猫精灵推出Sound系列音箱，意图打造智能音箱音质天花板
- CPU|2022年“618”智能手机推荐，谁才是真香机，建议收藏
- 扫地机器人|Trifo Lucy Pet扫地机器人，智能避障，吸扫拖一体化
- 尼康|性能再进化，尼康全画幅微单相机Z7 II评测
- 相机|不得不承认的一个事实，就是大厂的设计还是很经得起推敲的
- 机器人|爱死机1～3季编年史（3）-弱人工智能时代到强人工智能时代
- 富士|性价比俱佳中画幅 富士GFX 50R中画幅相机
- 相机|618想买性能旗舰 一部vivo S15 Pro就够了
- 联想集团|这次618不容错过的超高性价比数码，耳机、笔记本、智能手表都有
- 智能手机|又降了！2022智能手机出货量预计13亿台：比预期差不少