【OpenAI五大原则】IT之家4月27日消息，OpenAI CEO萨姆·奥尔特曼（Sam Altman）于当地时间4月26日发文，阐述了该公司在人工智能发展过程中的核心原则与长期目标。

他表示，AI有潜力帮助人类社会在许多领域实现显著改善，人们借助AI所能完成的事情将远超蒸汽机或电力带来的变革。

但他同时指出，这一结果并非必然：未来技术权力可能集中在少数掌握超级智能的公司手中，也可能以去中心化的方式掌握在公众手里。OpenAI的目标是将真正的通用人工智能交到尽可能多的人手中。

OpenAI的使命是确保AGI惠及全人类，并据此制定了五项原则：

第一，民主化。OpenAI将抵制该技术将权力集中在少数人手中的可能性。这意味着除了让每个人都能使用AI之外，还需要确保关于AI的关键决策通过民主程序和公平原则制定，而不仅仅由AI实验室决定。

第二，赋能。OpenAI相信AI可以赋能每个人实现目标、学习更多、更快乐、更充实，并追求自己的梦想，整个社会都将从中受益。用户应能可靠地利用其服务完成越来越有价值的任务。OpenAI希望给予用户广泛的自主权，同时有责任以最小化伤害的方式构建和部署AI。

第三，普惠繁荣。OpenAI希望未来每个人都能拥有优质生活。通过将易于使用且具备强大计算能力的AI系统交到每个人手中，人们将找到创造价值的新方法，大幅改善生活质量，尤其是在新科学发现方面。为实现广泛共享的繁荣，奥尔特曼认为政府可能需要考虑新的经济模式，同时需要建设大量AI基础设施并开发新技术以大幅降低成本。

第四，韧性。AI的爆发必然会引出新的风险，OpenAI将与其他公司、政府及社会各方合作解决这些问题，包括生物安全与网络安全等领域。OpenAI将延续其迭代部署策略，让社会逐步应对每一级AI能力。同时，OpenAI也预期在某些时期需要与政府、国际机构及其他AGI项目协作，确保在充分解决严重的安全或社会问题后再继续推进工作。

第五，适应性。OpenAI认为应对不可预测未来的唯一方法是根据学到的新知识持续调整自身策略，并将在运营原则发生变化时保持透明。

奥尔特曼回顾称，不久之前OpenAI还因不确定对社会的影响而对发布GPT-2的权重感到紧张。事后看这种担忧有些多余，但正是这一过程促使他们发现了迭代部署策略——这是他们摸索出的最重要的方法之一。

奥尔特曼表示他们正进入一个技术持续进步且影响深远的阶段，每一项决策都值得被审视，他们不可能做到事事正确，但会快速学习并修正方向，并致力于推动技术发展带来更积极的社会影响。各位网友，您怎么看？（IT之家）