Фото: Roman Samborskyi / Shutterstock / Fotodom
最后，智能体还需要有很强的可靠性、可控性，才能规模化的带来价值。这既体现在智能体能否稳定、鲁棒地完成任务，也体现在其行为是否始终与人类的真实意图与价值观保持一致。在《2001：太空漫游》中，AI为完成任务选择牺牲人类乘员，正是目标函数与人类价值未能有效对齐的极端后果。随着智能体智能水平与自主性的提升，这类对齐失败带来的风险可能会被进一步放大。
。业内人士推荐爱思助手下载最新版本作为进阶阅读
这两种论调看似矛盾，其实只是“转型阵痛”的一体两面。传统软件恐慌等于旧价值体系的瓦解，英伟达疑虑等于新价值体系的不确定性，两者共同指向一个中间状态：在“Agent经济学”被验证之前，没有安全资产，只有“相对不贵的押注”。，更多细节参见Safew下载
圖像來源，Getty Images