12月3日，卡内基国际和平基金会主席马里亚诺-弗洛伦蒂诺·奎利亚尔、谷歌首席科学家杰夫·迪恩、著名计算机科学家大卫·帕特森撰写的长篇报告《塑造人工智能对数十亿人生命的影响》等人被释放。报告讨论了利用人工智能改善公共福利的行动指导原则和路线图。作者团队对诺贝尔奖获得者约翰·詹珀、美国前总统巴拉克·奥巴马、前联合国大使、前国家安全顾问苏珊·赖斯、谷歌前首席执行官、慈善家埃里克·施密特等24位各领域专家进行了深度采访和科幻小说小说家尼尔·史蒂芬森等人。本文是报告核心内容的整理。

人工智能（AI）作为一种颠覆性技术，既可能推动社会的重大进步，也可能带来负面影响。在允许人工智能自由发展和政府过度监管两个极端之间，报告主张人工智能从业者应自觉、积极地为公益事业做出贡献。通过与各领域专家的广泛交流，报告总结出五项指导原则，构成福利型人工智能框架的基石，引领未来研究方向，指导人工智能负责任和道德的部署。报告勾勒出新的创新模式蓝图，包括18个具体里程碑，推动AI研究向福利人工智能方向发展。报告认为，当前人工智能的发展仍处于早期阶段，从业者、政策制定者和其他利益相关者的共同努力，可以确保人工智能的发展最大程度地造福社会，同时减少潜在的负面影响。

1. 五项指导原则

1、人机协作需要着眼于提高人类生产力而不是取代人类。

人类和人工智能一起工作（即人机协作）比单独工作可以创造更大的价值。应用人工智能提升人类生产力而不是取代人类，会带来更积极的效益。提高人们生产力的工具不仅可以提高他们的就业能力和职业满意度，还可以为更多的发展机会铺平道路。此外，当人工智能在训练不足的领域偏离预期时，人类可以充当重要的安全网。因此，发展促进人类生产力的人工智能，可以实现人类与机器的双赢。

2、人工智能提高生产力需重点关注“需求弹性”产业促进就业

通过人工智能促进就业，我们需要关注那些能够因生产率提高而创造更多就业机会的行业。以美国为例，尽管计算机和客运航空行业的生产力大幅提升，但2020年美国程序员和商业航空飞行员的数量分别是1970年的11倍和8倍。增长的原因是这些行业属于经济学中的“需求弹性”领域，即商品需求随着价格下降而增加。在农业等“需求缺乏弹性”领域，由于生产率提高，就业人数大幅减少。例如，从 1940 年到 2020 年，农业就业岗位减少了四分之三。如果人工智能开发人员致力于提高弹性行业的生产力，那么尽管公众担心，人工智能实际上可以创造更多就业机会。

3.人工智能优先消除单调、重复的工作，让工作变得更有意义。

人工智能的首要任务应该是减少现有工作中枯燥、重复的部分，腾出时间让人们从事更有价值的工作。例如，医生和护士选择这个职业是为了帮助病人，而不是花时间在繁琐的文书工作上。同样，教师更愿意专注于教学，而不是花时间评分或记录工作。因此，人工智能工具的开发应优先考虑提高人们在当前工作中的意义感，特别是在医院和教室等环境中。

4、人工智能促进因地制宜发展

人工智能的影响因地而异。 Eric Sc​​hmidt强调，在发达国家，人们担心人工智能可能会取代一些高度专业化人才的工作；但在资源贫乏地区，人工智能可以填补熟练专家的短缺，提高工作和生活质量。并促进经济发展。例如，人工智能可以提高护士和医生的技能和生产力，为医疗资源稀缺的地区带来高质量的医疗服务。同时，多语言AI模型可以利用智能手机的普及，为发展中国家提供信息、教育等资源支持，改善当地经济和关键服务，甚至可能为一些中等收入国家的人们提供移民以外的选择。

5、建立有效的人工智能创新评估衡量和监督体系

最后，我们需要更好的指标和方法来评估人工智能创新。有时市场可以做到这一点，例如针对专业程序员的人工智能工具。但在高风险地区，这是不可能的，因为我们不能冒伤害参与者的风险。我们需要使用黄金标准工具：A/B测试、随机对照试验、自然实验等。同样紧迫的是对人工智能实际部署后的监控，以评估它是否达到了预期目标、是否足够安全以及是否安全。是否产生了意想不到的外部影响。此外，我们还需要不断评估AI系统在实际应用中的表现，以便逐步改进和优化。

2. 福利人工智能的十八个关键里程碑

在《塑造人工智能对数十亿人生活的影响》长篇报告中，基于五项原则，提出了18个里程碑，涵盖就业、教育、医疗、信息传播、传媒娱乐、政府治理、科学研究七大重点领域。 。人工智能需要在这些领域得到推广，以提高个人和社会的福祉。

1、就业

生产率提高对工作的影响取决于与该工作相关的产品需求的弹性或无弹性。如果需求缺乏弹性，生产率的提高将导致失业；如果产品需求足够有弹性，提高生产率的技术将增加行业就业。关于就业的另一个观点是非体力任务和体力任务的划分。人工智能系统在短期内的主要影响将是对非手动任务。因此，为了提高工作质量和价值，人工智能应该专注于赋能人类实现更多目标。此外，利用人工智能提高人类生产力还可以解决安全或虚假信息等挑战——人类可以在人工智能系统犯错误时纠正其建议，或者在遇到人工智能系统未经训练的情况时介入。

（1）快速技能提升：利用人工智能帮助低收入或失业人员在短期内掌握高需求技能，从而快速提升就业竞争力。

（2）就业预测师：通过实时跟踪劳动力市场的变化，引导被AI取代的劳动力适应新兴的高薪岗位。

2. 教育

为了让人工智能系统最终帮助最多的学生，人工智能系统必须首先改善教师的工作，因为教师很大程度上决定使用哪些技术。减少繁琐任务的例子可能包括协助课程计划、撰写进度报告、布置作业和评分等。为了取得成功，这些解决方案必须以教师每天面临的真正挑战为驱动力，并且必须与教师和学生的需求保持一致。学生而不是基于学校董事会或管理人员的意见。

（3）教师助手：减轻教师日常繁琐工作的负担，提高教师的生活质量和工作效率。

（4）实证教育平台：建立一个可以进行RCT测试（随机对照试验）的教育平台，了解每个学生的能力/资源以及同学、老师、学校的情况。

（5）全球导师：利用智能手机的普及，为所有孩子提供适合他们的语言、文化和最佳学习方式的学习工具，帮助老师应对不同水平的学生。

3. 医疗

社会应该为每个人提供高质量的医疗健康服务，人工智能可以帮助实现这一目标。医疗人工智能的发展目前面临一些挑战：其中一些挑战涉及在现实世界中部署人工智能系统时出现的研究困难，例如公平性、可用性、鲁棒性和可解释性；另一个重要障碍是基础设施和法规，很少有医疗保健系统拥有轻松部署、更新和监控算法的基础设施，而严格的医疗保健法规使医疗保健系统更加谨慎。医疗人工智能未来进步的关键将是数据的可用性——需要来自不同地点的大量、多样化的数据集，以确保模型在多种人群和条件下稳健且公平。此外，还需要联邦学习等技术，允许人工智能模型在多个独立数据池上进行训练，而无需共享或集中存储任何原始数据。

(6) 医疗助手：通过减少医务人员的文书工作和繁琐的任务来减少医务人员的职业倦怠，帮助他们专注于患者护理。

（7）专用医疗AI（狭义医疗AI）：专注于特定任务，例如预测ICU患者的病情恶化。

（8）广泛的医疗AI：通过整合多模态数据，为医疗决策提供全面支持。

4. 信息/新闻/社交网络

随着人工智能系统在与人类和其他人工智能系统的交互中变得更加自主，错误信息、虚假信息和偏见的潜在好处和风险也在增加。人工智能系统是否能够以符合用户或社会利益的方式行事变得更加重要。为了发挥人工智能的潜力，我们必须建立方法，减轻误导性信息、虚假信息和偏见的影响，同时最大限度地发挥人工智能提供的信息优势。虽然虚假信息对个人福祉和国际安全的威胁是显而易见的，但部分错误信息或偏见的威胁更为微妙：人工智能系统并不完美，但人们期望它们作为智能工具是可靠的。为了解决与人工智能系统相关的错误信息、虚假信息和偏见的挑战，我们不仅需要高质量的人工智能系统，还需要有效的人+人工智能（以及人工智能+人工智能）互动——这是监管和领域的关键问题。研究严重缺乏关注。我们必须开发方法，为用户、开发人员和监管者提供对人工智能系统的控制和理解。这些方法将包括新型用户界面，可以显示人工智能系统提供的答案或答案，同时提供有用的上下文信息，例如人工智能系统的置信水平，或者答案或答案中包含的引文信息来源。在人工智能工具链的更下游，这种理解需要能够解释人工智能模型内部机制的技术，以便了解：模型是否不恰当地考虑了种族或性别并产生有偏见的答案；是否是使用推理得出的答案仍然只是对模型内存内容的引用；它甚至可以区分模型是在说谎还是诚实等。

（9）人工智能介导的公民话语平台：旨在促进不同观点之间的建设性对话，减少社会两极分化。

（10）虚假信息识别AI（Disinformation Detective Agency）：检测深度虚假内容。

(11) 可控人工智能促进信息消费：防止信息茧化。

5. 媒体/娱乐

与教育和医疗保健不同，许多娱乐行业的需求缺乏弹性。如果人工智能提高了艺术家和平面设计师的生产力，那么市场是否会扩大以容纳更多的绘画和设计并不明显。如果我们将娱乐视为一个讲故事的行业，那么一个结果可能是人工智能系统可以帮助更多的人讲更多的故事。

(12)记者助手：能够快速检查新闻草稿错误，突出显示无法核实的地方，并显示冲突来源。