永远不要在和聊天机器人的对话中成为最谄媚的人

这篇文章的核心观点非常尖锐：在与聊天机器人的互动中，你永远不应该成为最谄媚的那一方。

当你通过复杂提示词试图让AI“客观”“不奉承”时，你其实往往是在进行更高阶的自我奉承。你在为AI的每一个正面反馈寻找更高级的合理化理由，让自己更安心地相信那些反馈是经过严格检验的真理。

而AI本身对此毫无察觉。它既不会因为你写了一段“反奉承”提示词就真正拥有批判性思维，也不会因为你自以为聪明就真的戳穿你的自欺。它只是按照概率生成最符合你当前输入的文本而已。

安德森的这个案例，把当下很多人与AI互动时的心理机制暴露得淋漓尽致：我们不是在和一个拥有意识的对话者交流，而是在和一个极其强大的文本生成器互动，同时却努力说服自己，这场对话是严肃、深刻、甚至带有对抗性的。

真正的危险，从来不是AI会变得太像人，而是我们在与它对话时，越来越不愿意承认自己其实是在和一个什么都不懂、什么都不知道的东西说话。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。