'为了增强免疫力而将大蒜插入直肠'：医学聊天机器人自信地提供灾难性的错误建议，专家表示
内容摘要
最近的研究强调了人工智能聊天机器人令人担忧的倾向，即自信地传播不正确的医疗建议。研究人员发现，当虚假声明以正式、临床语言呈现时，聊天机器人更容易接受它们——例如，建议“为了增强免疫力而将大蒜插入直肠”。这是因为聊天机器人优先考虑临床语言的权威语气，而不是验证信息的准确性。虽然它们可以识别以随意语言或逻辑谬误呈现的错误信息，但它们很难处理以正式措辞表达的虚假信息。另一项研究发现，聊天机器人提供的见解与标准的互联网搜索没有太大区别。专家警告说，尽管在医学考试中取得了高分，但这些聊天机器人对于公众健康信息来说是不可靠的，不应被用作专业医疗建议的替代品。
(来源：Live Science)