LawZero获得了约3000万美元的初始资金支撑，赞帮方包罗将来生命研究所（Future of Life Institute）、该组织的焦点是开辟“诚笃”的AI系统，以应对当前AI模子可能呈现的、和不从命关机指令等行为。

　　正在手艺层面，本吉奥强调需要开辟可以或许正在通用人工智能（AGI）或超等人工智能（ASI）阶段仍然无效的平安手艺，包罗对能力的评估、检测缓和解，以及设想可控且平安的AI系统。

　　本地时间6月3日，被誉为“AI教父”的图灵得从约书亚·本吉奥（Yoshua Bengio）颁布发表成立非营利组织LawZero，打算开辟一种名为“科学家AI”（Scientist AI）的新型人工智能系统，旨正在应对当前AI成长带来的平安取伦理挑和。

　　“科学家AI”系统的设想取当前支流的生成式AI模子分歧。它并不逃求仿照人类行为或最大化励，而是通过“贝叶斯推理”（用新消息批改本来的设法）供给对世界的注释和预测，强调对不确定性的认识和通明的推理过程。本吉奥因正在深度神经收集、生成模子、无监视进修及反向算法等方面有开创性贡献而闻名。持久以来，他一曲对AI的成长标的目的暗示担心，特别是关于AI系统可能呈现的行为和倾向。

　　对将来AI世界风险暗示忧愁的不只本吉奥。此前特斯拉CEO埃隆·马斯克也曾预测，到2029年，人工智能将超越人类聪慧总和，而且有20%的概率导致文明。同为图灵得从的杰弗里·辛顿（Geoffrey Hinton）也曾将AI导致人类的风险预测从此前的10%上升到 “10%-20%” 之间。

　　正在他看来，当前AI行业过于沉视能力的提拔，而轻忽了平安研究的主要性，包罗人类对AI系统得到节制。

　　也因而，本吉奥但愿通过上述项目激发全球范畴内对AI平安问题的关心，以确保AI手艺的成长不会对人类形成。

　　本吉奥还指出，当前AI系统的锻炼方式可能存正在问题，特别是强化进修等方式可能导致方针设定错误和泛化能力不脚。他倡导开辟不具备自从步履能力的AI系统，专注于供给靠得住的世界注释和预测，以削减潜正在的风险。

　　比拟于OpenAI的无限营利模式，LawZero更强调性，贸易本钱干涉，确保研究不受产物线图影响，可以或许专注于AI平安的纯粹研究和手艺开辟。