极客网·极客观察1月10日 苹果在iPhone上增加一个新AI功能，它可以生成新闻提示（News Alerts）。这看起来很美好，但推出之后却发现，AI生成的提示信息并不准确，很多人要求苹果撤销该功能。
当出现突发新闻时，AI会摘取新闻，但它老是犯错。BBC抱怨称，去年12月份苹果在转述BBC报道时出现错误，BBC要求修正，苹果直到本周才给出回应。
《卫报》前员工Alan Rusbridger认为，苹果AI新闻摘要产品明显没有准备好，还要继续努力。他还认为，苹果的新AI技术明显失控，会给社会带来传播虚假信息的风险。
英国NUJ（The National Union of Journalists，全国记者联盟）认为，苹果应该快速行动，剔除Apple Intelligence，防止信息误导公众。
NUJ管理人员Laura Davison称：“获得精准报道已经变得越来越重要，当公众接收到新闻后，不应该让他们在事后猜测新闻的真实性。”
无国界记者组织（RSF）认为，苹果的调查不够充分，它一再强调苹果应该将产品下架。
AI新闻摘要频繁出错，苹果AI远未成熟
上个月，苹果AI对一条新闻进行加工，告诉读者Luigi Mangione已经自杀。Luigi Mangione是一位美国男子，他涉嫌谋杀联合健康保险（United Healthcare）的CEO。然而，Luigi Mangione并没有自杀，苹果汇总的新闻通报出现严重错误。
上周五，苹果AI对BBC内容进行加工，宣称Luke Littler拿到了飞镖大赛的冠军（PDC World Darts Championship），当时决赛还没有开始。苹果还说巴西网球运动员Rafael Nadal是同性恋。
BBC回应称：“苹果AI摘要功能给出的内容未能反映BBC内容的本意，有时甚至是完全矛盾的。苹果应该迅速解决这些问题，因为保持新闻的准确性对于BBC维持用户的信赖极为重要。”
不只有BBC受到影响。例如，11月份苹果AI功能摘取《纽约时报》APP的新闻，暗示以色列总理内塔尼亚湖被捕。
RSF认为，Luigi Mangione谋杀事件影响巨大，苹果AI生成错误信息，说明生成式AI服务远没有成熟，它无法生成可靠信息。
为了解决问题，苹果准备升级AI功能，升级后会告知用户新闻提示是AI生成的，但这样做并不能解决所有问题。
RSF高管Vincent Berthier说：“苹果只是将责任推给用户，用户早就被充满困惑的信息搞得头昏脑胀，现在还要检查信息的真实性。”
苹果声称是测试版本，未来会不断优化
苹果称，未来几周就会对功能进行更新。
苹果AI的初衷很好，它会汇总多个新闻APP的通知内容并进行重写，然后在苹果的锁屏上显示，只需要一条通知就能显示全部内容。苹果认为，新闻提示摘要功能可以让用户查看更详细的细节。
周一时，苹果在声明中表示：“Apple Intelligence目前仍是测试版本，我们会根据用户的反馈不断优化。”它还说，是否接收这些摘要通知由用户决定，用户不想要可以关闭。
苹果称：“未来几周我们会升级软件，当展示的文本是由Apple Intelligence摘要而来时，我们会进一步澄清说明。如果用户发现存在意料之外的通知摘要，希望能及时报告。”
为了赶上AI潮流，苹果推出很多AI功能，12月份这些功能正式进入英国。新功能目前只支持iPhone 16、iPhone 15 Pro和Pro Max，而且系统必须达到ios 18.1，一些iPad和Mac也支持。
受挑战的不止苹果，AI幻觉难以根除
谷歌也推出了AI摘要功能，当用户在谷歌搜索查询内容时，结果页最顶部会显示摘要信息，这些内容也不完美，经常会显示错误信息。当时谷歌新闻发言人曾表示，这些只是孤例，未来摘要功能会更好。
一些AI专家担忧，苹果AI功能出现的问题可能就是“幻觉”，AI在生成内容时会保留错误、误导信息。
市场咨询公司CCS Insights的分析师Ben Wood指出：“在AI生成内容时，我怀疑遇到挑战的不只有苹果。我看到过无数案例，AI服务总是充满自信地传播不实信息，也就是所谓的‘幻觉’信息。”
苹果AI只是将其它媒体的报道摘要一下，抽取一些基本信息，然后呈现给读者。实际上，苹果抽取的内容是不准确的，但在传播时却充满自信，AI深信自己描述的就是事实。
Ben Wood称：“苹果试图将内容进行压缩，将它变成更简短的摘要，这样做会增加复杂性，最终可能输出的是错误信息。苹果肯定会尽快解决问题，竞争对手肯定也会关注苹果的做法。”
当用户向AI提问时，AI可能并不知道答案，但它会一本正经胡说，装出知道答案的样子，实际上却是在撒谎。
华盛顿大学信息科学教授Chirag Shah认为，苹果AI功能遇到挫折实际上反应了更严重的问题，也就是“幻觉”，AI会生成内容，但会犯错。你无法简单通过调试解决此问题，因为“幻觉”是LLM的属性之一，AI就是伴随着“幻觉”运行的。
Chirag Shah还说，苹果如果只是提醒用户内容是AI生成的，这样的补救远远不够。他说：“大多人并不知道摘要、合成内容是怎样生成的，没有什么快速的修补方法。最正确的选择是不要使用，直到进一步优化、缓解问题后再让它上线。”
美国东北大学AI顾问Michael Bennett认为，充满“幻觉”的AI摘要功能让苹果尴尬。在Apple Intelligence推出之前，市场普遍认为苹果在AI领域落后了，Apple Intelligence可以让苹果回到正轨，但现在看来问题还有很多。
生成海报
