html下载网站模板,网站的安全性建设,wordpress邮箱社交,图书馆信息化网站建设人工智能经常胡言乱语#xff0c;微软现在说它有办法解决这个问题#xff0c;但我们有理由对此持怀疑态度。微软今天发布了一项名为更正#xff08;Correction#xff09;的服务#xff0c;它可以自动修改人工智能生成的与事实不符的文本。Correction 首先会标…人工智能经常胡言乱语微软现在说它有办法解决这个问题但我们有理由对此持怀疑态度。微软今天发布了一项名为更正Correction的服务它可以自动修改人工智能生成的与事实不符的文本。Correction 首先会标记出可能存在错误的文本–例如公司季度财报电话会议的摘要可能存在错误的引文–然后通过将文本与事实来源如文字记录进行比较来进行事实核查。
作为微软 Azure AI 内容安全 API 的一部分Correction 可与任何文本生成 AI 模型一起使用包括 Meta 的Llama和 OpenAI 的GPT-4o。
校正由一个利用小型语言模型和大型语言模型的新流程提供支持以便使输出与基础文档保持一致微软发言人表示。“我们希望这项新功能能为医学等领域的生成式人工智能构建者和用户提供支持在这些领域应用开发者认为响应的准确性非常重要。”
今年夏天Google在其人工智能开发平台 Vertex AI 中推出了一项类似功能让客户可以通过使用第三方提供商的数据、自己的数据集或Google搜索来磨合模型。
但专家提醒这些接地方法并不能从根本上解决幻觉问题。华盛顿大学研究新兴科技伦理影响的博士候选人奥斯-凯耶斯Os Keyes说“试图从生成式人工智能中消除幻觉就像试图从水中消除氢气一样不切实际因为幻觉本身就是技术运作的一个重要组成部分。”
文本生成模型会产生幻觉因为它们实际上什么都不知道。它们是一种统计系统能识别一系列单词中的模式并根据它们所训练的无数实例预测下一个单词。
由此可见模型的回答并不是答案而只是预测如果问题出现在训练集中会如何回答。因此模型往往会对真相玩弄于股掌之间。一项研究发现OpenAI 的ChatGPT有一半的时间会弄错医疗问题。
微软的解决方案是一对交叉引用、类似于文案编辑器的元模型旨在突出和改写幻觉。
分类器模型会查找人工智能生成的文本中可能存在的错误、捏造或不相关的片段幻觉。如果检测到幻觉分类器就会引入第二个模型即语言模型试图根据指定的基础文件纠正幻觉。 通过帮助应用程序开发人员减少用户不满和潜在的声誉风险修正可以大大提高人工智能生成内容的可靠性和可信度微软发言人说。“需要注意的是接地性检测并不能解决’准确性’问题但有助于使人工智能的生成输出与接地文件保持一致。”
凯耶斯对此表示怀疑。“这可能会减少一些问题但也会产生新的问题。毕竟Correction的幻觉检测库估计也能产生幻觉。”
在被问及有关 Correction 模型的背景介绍时该发言人指出微软研究团队最近发表了一篇论文描述了这些模型的预生产架构。但该论文忽略了一些关键细节比如使用了哪些数据集来训练模型。
玛丽皇后大学专门研究人工智能的研究员迈克-库克Mike Cook认为即使Correction能像宣传的那样发挥作用它也有可能加剧人工智能的信任和可解释性问题。这项服务可能会捕捉到一些错误但也可能让用户陷入虚假的安全感–以为模型比实际情况更真实。
他说“微软与 OpenAI 和Google一样都造成了这样一个问题即在模型经常出错的场景中依赖模型。微软现在所做的是在更高层次上重蹈覆辙。比方说这让我们从 90% 的安全性提高到了 99% 的安全性–问题其实并不在那 9%。它永远存在于我们尚未发现的那 1%的错误中。”
库克补充说微软捆绑修正功能还有商业考量该功能本身是免费的但每月最多只能免费提供 5000 条文本记录。之后每 1000 条文本记录需支付 38 美分。
微软无疑面临着向客户和股东证明其人工智能值得投资的压力。仅在第二季度这家科技巨头就在资本支出和设备方面投入了近 190 亿美元其中大部分与人工智能有关。然而该公司尚未从人工智能中获得可观的收入。本周一位华尔街分析师下调了该公司的股票评级理由是对其长期人工智能战略存有疑虑。
据《The Information》的一篇文章称由于性能和成本问题许多早期采用者已经暂停部署微软的旗舰生成式人工智能平台–Microsoft 365 Copilot。据报道对于一个使用 Copilot 进行 Microsoft Teams 会议的客户来说人工智能发明了与会者并暗示通话的主题实际上从未讨论过。
毕马威会计师事务所KPMG的一项民意调查显示在试用人工智能工具时准确性和可能出现的幻觉是企业目前最担心的问题。
库克说“如果这是一个正常的产品生命周期那么生成式人工智能仍将处于学术研发阶段并在不断改进和了解其优缺点。相反我们已经把它部署到了十几个行业。微软和其他公司已经把所有人都装上了他们的发动机并决定在前往目的地的途中建造起落架和降落伞。”
感谢大家花时间阅读我的文章你们的支持是我不断前进的动力。期望未来能为大家带来更多有价值的内容请多多关注我的动态
