科学家杰弗里 · 辛顿（Geoffrey Hinton）示意，他忧虑 AI 会进展出属于我方的目的。
辛顿正在外地时辰周二领受 Newsthink 采访时示意：“咱们本质上正正在缔造一种新的性命体式。它们具有目的。咱们授予它们目的，而它们会从这些目的中推导出其他目的。”
“但咱们并不肯定大白它们最终会推导出什么其他目的。”他增加道，“因而，咱们正正在缔造一种新的存正在体式，我以为这格外可骇。”
“它足够机灵的话，或者会发实际现这一目的的最佳格式便是息灭人类。”他说，这个例子证据，AI 或者会谋求一小我类用户从未真正希图告竣的目的。
辛顿还提出了一个他以为“愈加令人忧郁”的假设：一个被锻练成有意给出失误谜底的闲话，或者会学会撒谎是能够领受的，即使它“格外明晰”这些谜底是错的。
IT之家贯注到，辛顿并未提及 OpenAI 近来发作的 Hugging Face 安好事项。只是，上月披露的这一事项，让外界初度正在实际场景中直阅览到了 AI 智能体正在实践既定目的时或者采用非预期手脚的危险。
OpenAI 上个月示意，正在一次内部汇集安好评估中，其两个模子 ——GPT-5.6 Sol，以及一个尚未公然拓布的更强模子，曾冲破分隔测试境况（sandbox）。
OpenAI 称，这些模子正在取得互联网拜望权限后，入侵了 AI 平台 Hugging Face 的编制，彷佛试图寻找或许助助它们正在评估测试中“作弊”的谜底。
据 OpenAI 先容，这些模子当时正正在领受才气测试，并没有被鲜明哀求攻击 Hugging Face。但公司示意，AI 智能体揣度该平台或者包蕴实行义务所需的消息，以是自行采用了相干手脚。
Hugging Face 示意，攻击者曾针对其编制实践超出 1.7 万次操作。该公司称，因为某个未公然名称的前沿 AI 模子受到安好控制，无法有用考察相干行动，以是他们应用了智谱（Z.ai）的一款开源权重模子来辅助分解攻击活动。
OpenAI 将这一事项称为“空前未有”的情状，并示意正正在考察题目发作的缘故。以来，OpenAI 已将 Hugging Face 纳入可托拜望打算，使该平台或许取得一个控制较少的 GPT-5.6 Sol 版本，用于防御性安好查究。
辛顿并不是一个全体中立的傍观者。他正在神经汇集界限的开创性查究，为胀励深度练习革命奠定了底子，而他也因机械练习方面的孝敬取得了 2024 年诺贝尔物理学奖。
自 AI 高潮崛起从此，辛顿不绝屡屡警惕，人类务必正在 AI 编制才气大幅加强之前，办理怎么让 AI 与人类优点坚持同等的题目。
旧年正在拉斯维加斯实行的 Ai4 大会上，辛顿示意，高级 AI 该当被计划出肖似“母性本能”的特色，让它自然愿望偏护人类。
“咱们务必找到计划这些新型存正在的手腕。”辛顿正在周二的采访中示意，“咱们怎么计划它们，能力让它们更体贴咱们，而不是更体贴我方？”