让“机器学习”不失控《人机对齐》中文版首发

新湖南客户端 2023-06-11 12:13:58

湖南日报·新湖南客户端6月11日讯(记者黄煌 ) 如今的“机器学习”系统已具备非凡能力，能够在各种场合代替我们看和听，并代表我们做决定。但随着机器学习飞速发展，人们的担忧也在与日俱增。如果我们训练的人工智能（AI）做的事情与我们真正的目的不符，就会引发潜在的风险和伦理问题。研究人员称之为对齐问题。6月9日-10日，人工智能领域综合性大会2023年北京智源大会召开。会上，科学作家布莱恩·克里斯汀的最新作品《人机对齐》中文版首发。

会上，布莱恩·克里斯汀在线上对《人机对齐》的主要内容做了简要介绍：该书共分为三篇，第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨，第二篇名为自主，焦点从监督和自监督学习转移到强化学习，第三篇探讨我们如何在现实世界中对齐复杂的AI系统。该书不仅对研究人员起到帮助，更能有助于非专业人士走进这个领域。

据了解，《人机对齐》由湖南科学技术出版社引进出版，在书中，读者将认识第一批积极应对对齐问题的学者，了解他们为了避免AI 发展的局面失控付出的努力。克里斯汀不仅精练地描绘了机器学习的发展史，并且深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展。读者可以清晰认识到，对齐问题研究的成败，将对人类的未来产生决定性影响。

责编：黄煌

一审：黄煌

二审：易禹琳

三审：杨又华

来源：新湖南客户端

我要问