马化腾|马化腾悬赏2万:谁能打赢AI,拿走!结局意外( 三 )


一旦我们变成羔羊 , 我们如何保证人工智能不会取代人类呢?
在《黑客帝国》 , 人工智能就发展到了失控的地步 , 它们将人类圈养 , 只留意识在虚拟世界的梦境中醉生梦死 。 毫无疑问 , 人工智能的最终发展始终是一个谜 。 随着人工智能越来越强大 , 我们在依靠人工智能带来的方便之时 , 也会感觉到深深的担忧甚至恐惧 。
人工智能应该在限制下发展在人工智能发展仍然不确定的情况下 , 我们应该持保守态度 , 让人工智能在限制下发展 , 永远保持人工智能可控且安全稳定 。
目前人工智能还在快速发展中 , 并且已经成为未来发展绕不开的话题 。 抛开我们今天所讨论的隐患 , 人工智能在市场上的表现越来越强劲 。 无论是上游的半导体芯片还是下游的各种智能产品 , 人工智能越来越受到人们的追捧 。 比如说现在市场上大火的新能源汽车 , 也是将人工智能的无人驾驶技术视作为核心竞争力之一 。
而与人工智能飞速发展相对应的是 , 目前人类似乎并没有特别有意识地限制人工智能 。 所以我们现在应该警醒了 , 人工智能如果保持现在的发展速度 , 在未来并不是绝对可控的 , 失控般发展人工智能很可能会使得人工智能在未来有一天会走向人类的对立面 。
限制人工智能 , 最重要的时控制人工智能的发展水平和合理的价值观输入 。 前者保证人工智能不会脱离掌控 , 后者保证人工智能的价值观永远为人类服务 , 不会伤害到人类 。
控制人工智能发展水平 , 需要全世界的努力 , 制定一个共同的标准 , 对超出限制的行为严厉打击;而价值观输入 , 则是需要在发展更具智慧的人工智能时 , 将以不会违逆人类作为核心 。
关乎人工智能 , 我们应该谨慎谨慎再谨慎 。 人工智能具备能够瓦解人类文明的发展潜力 , 我们应该时刻警惕 , 避免悲剧真实上演 。
【马化腾|马化腾悬赏2万:谁能打赢AI,拿走!结局意外】

相关经验推荐