咨询巨头麦肯锡出手AIGC，为员工推出生成式AI工具Lilli

麦肯锡公司或许大家都听说过，是一家拥有近百年历史的公司，也是世界上最大的咨询机构之一。

作为咨询公司，当然得对先进的AI技术和趋势更加敏感。今年早些时候因其对生成式人工智能工具的迅速采用而成为头条新闻，该公司在 6 月份表示，其 30,000 名员工中近一半正在使用生成式人工智能工具和技术。

现在，该公司正在推出自己的新一代人工智能工具：Lilli，这是一款由麦肯锡首席技术官 (CTO) Jacky Wright 领导的“ ClienTech ”团队为员工设计的新聊天应用程序。该工具提供信息、见解、数据、计划，甚至推荐最适合咨询项目的内部专家，所有这些都基于超过 100,000 份文档和访谈记录。

生成式人工智能时代正在推动所有行业领域的经济体和公司的生产力前沿，尤其是营销和销售。麦肯锡最近的研究估计，生成式人工智能有潜力在未来几十年内释放 4.4 万亿美元的全球生产力，并有可能推动营销总支出增加 5-15%，销售生产力激增 3-5%。

麦肯锡的研究还显示，40%的企业计划投资生成式人工智能。此次合作将帮助企业通过部署 Salesforce 和麦肯锡软件、数据资产以及专注于构建大规模运行的生成式 AI 解决方案的实施方法来实现可衡量的成果。

“这是我们自己为同事提供的生成式人工智能解决方案。该平台可以对公司丰富的知识库进行简化、公正的搜索和综合，从而快速有效地为客户带来我们最好的见解。”他们内容这样定义这个AI产品。

“如果你可以向麦肯锡的全部知识提出一个问题，并且[人工智能]可以回答，这会对公司产生什么影响？这正是 Lilli 的本质。”负责该产品开发的麦肯锡高级合伙人埃里克·罗斯 (Erik Roth) 在采访时表示。

Lilli 以 1945 年麦肯锡聘请的第一位担任专业服务职位的女性Lillian Dombrowski 命名，自 2023 年 6 月以来一直处于测试阶段，并于今年秋天在麦肯锡全面推出。

Roth 和他在麦肯锡的合作者透露，Lilli 已经被大约 7000 名员工用作“最小可行产品”(MVP)，并且已经将用于研究和规划工作的时间从几周减少到几个小时，并且在其他方面案例，从几小时缩减到几分钟。

“仅在过去两周内，Lilli 就回答了 5万 个问题，”Roth 说。“百分之六十六的用户每周会多次返回该网站。”

▌麦肯锡的 Lilli AI 的工作原理

Roth 提供了 Lilli 的独家演示，展示了界面和它生成的响应的几个示例。

对于那些使用过其他面向公众的基于文本到文本的 gen AI 工具（例如OpenAI 的 ChatGPT和Anthropic 的 Claude 2）的人来说，该界面看起来很熟悉。

Lilli 在其主窗口底部包含一个文本输入框，供用户输入问题、搜索和提示，并在上方按时间顺序的聊天中生成其响应，显示用户的提示和 Lilli 的响应。

然而，有几个功能在附加实用性方面立即脱颖而出：Lilli 还包含一个可扩展的左侧边栏，其中包含已保存的提示，用户可以复制并粘贴并根据自己的喜好进行修改。罗斯表示，这些提示的类别也很快就会出现在该平台上。

Gen AI聊天和客户端能力功能

该界面包括两个选项卡，用户可以在两个选项卡之间切换，一个是“GenAI Chat”，它从更通用的大型语言模型 (LLM) 后端获取数据，另一个是“客户端功能”，它从麦肯锡超过 10万个语料库中获取响应文件、成绩单和演示文稿。

罗斯表示，“我们特意创造了这两种体验，以了解并将我们内部的内容与公开的内容进行比较。”

另一个区别在于来源：虽然许多大语言模型不会专门引用或链接到他们做出回应的来源 ，由OpenAI GPT-4提供支持的Microsoft Bing Chat是一个明显的例外 。 Lilli 在每个项目下面提供了一个完整独立的“来源”部分单个响应，以及模型从中得出响应的特定页面的链接甚至页码。

“我们进行全面归因”罗斯说。“与我交谈过的客户对此感到非常兴奋。”

麦肯锡的 Lilli 可以用来做什么

有了如此多的信息，麦肯锡的新 Lilli AI 最适合完成什么类型的任务？

罗斯表示，他预计麦肯锡顾问将在与客户合作的几乎每一步中都使用 Lilli，从收集有关客户行业和竞争对手或类似公司的初步研究，到起草客户如何实施特定项目的计划。

在 Lilli 演示展示了这种多功能性：Lilli 能够提供有资格谈论大型电子商务零售商的麦肯锡内部专家名单，以及美国未来十年清洁能源的前景和在 10 周内建造一座新能源工厂的计划。

在整个过程中，人工智能在底部明确引用了其来源。

罗斯表示，虽然回复有时比领先的商业法学大模型慢几秒钟，但麦肯锡正在不断更新速度，并且优先考虑信息质量而不是速度。

此外，罗斯表示，该公司正在尝试启用一项功能，用于上传客户信息和文档，以便在麦肯锡服务器上进行安全、私密的分析，但表示该功能仍在开发中，在完善之前不会部署。

“Lilli 有能力以非常安全的方式上传客户数据，”罗斯解释道。“我们可以考虑未来的用例，将我们的数据与客户数据结合起来，或者只是在同一平台上使用客户的数据进行更好的综合和探索。我们加载到 Lilli 中的任何内容都会经过广泛的处理。合规风险评估，包括我们自己的数据。”

幕后技术

Lilli 利用当前可用的大语言模型LLM（包括麦肯锡合作伙伴 Cohere开发的LLM以及 Microsoft Azure 平台上的 OpenAI）来告知其 GenAI Chat 和自然语言处理 (NLP) 功能。

然而，该应用程序是由麦肯锡构建的，充当用户和底层数据之间的安全层。

“我们将 Lilli 视为自己的堆栈，”罗斯说。“所以它自己的层位于语料库和大语言模型之间。它确实具有深度学习功能，它确实具有可训练的模块，但它是共同创建堆栈的技术组合。”

罗斯强调，麦肯锡“与LLM无关”，并不断探索新的大语言模型和人工智能模型，看看哪种提供了最大的实用性，包括仍在维护的旧版本。

虽然该公司希望将其使用范围扩大到所有员工，但罗斯还表示，麦肯锡并不排除为 Lilli 贴上白标或将其转变为面向外部的产品，供麦肯锡客户或其他公司完全使用。

“目前，所有讨论都在进行中，”罗斯说。“我个人认为每个组织都需要一个版本的 Lilli。”

此外，我们还注意到，麦肯锡和 Salesforce 最新宣布了一项新的合作，以加速在销售、营销、商业和服务领域引入可信的生成式人工智能。

此次合作将把包括Einstein和Data Cloud在内的 Salesforce 客户关系管理 (CRM) 技术与麦肯锡专有的人工智能和数据模型、资产和能力建设能力结合在一起 。麦肯锡和 Salesforce 将帮助企业整合相关的结构化和非结构化数据，以改善客户购买体验、提高销售效率、个性化数字营销活动并减少呼叫解决时间。

可见麦肯锡的生成式人工智能正在阔步推进，我们也持续围观为咨询和商业战略带来的新AI方案。