微软发布ChatGPT 版必应 用的是 .NET 技术

article/2024/9/17 4:40:07

微软在今天在Redmond 线下举办媒体一场活动,发布了新版的微软必应,在桌面上推出了测试版,移动版也即将推出。微软首席执行官纳德拉称Al-powered搜索为公司自云15年以来最大的事情。

03dbdbc4b80c7d38283c3bc9fae77674.png

2023年1月初,微软已经在讨论将OpenAI的技术纳入Word、PowerPoint、Outlook和其他应用程序,这样用户就可以用简单的提示自动生成文本,2023年1月下旬,微软宣布即将会把ChatGPT加入Azure云服务。新版微软必应+Chatgpt的测试版会推出,在面对谷歌刚刚宣布发布Bard聊天机器人的时刻,这场发布会就更容易引人注目。

微软的大量云服务,包括必应搜索,他们的技术栈都是.NET , 都是用2014宣布开源的跨平台的 .NET ,必应早在2018年就从.NET Framework升级到.NET Core 2.1, 具体参见 https://devblogs.microsoft.com/dotnet/bing-com-runs-on-net-core-2-1/。.NET Core为Bing 带来了的显著性能改进。

d126f6b76aba6b06151d178a8df3585f.png

下面将汇总一下微软的开发博客——这些博客均涉及微软将产品和服务迁移到.NET 6的成果。博客按时间由近及远排序。

《Microsoft Teams’ Infrastructure and Azure Communication Services’ Journey to .NET 6》: https://devblogs.microsoft.com/dotnet/microsoft-teams-infrastructure-and-azure-communication-services-journey-to-dotnet-6/

50b6ea10eb0d08e6390fc9314e1fbfa6.png

迁移到 .NET Core 是由多种因素驱动的:

  1. 成本降低:Azure 计算成本平均节省 29%。

  2. 性能提升:性能提升30-50%,包括P99 CPU利用率和P99服务时延。

  3. 服务和网络现代化:访问框架中的最新功能,例如轻量级应用程序内存占用,支持Linux上的容器,更好的异常处理,从而在恶劣的条件下获得更好的可靠性以及最新的安全修复。

  4. 提高工程满意度和生产力

《Microsoft Commerce’s .NET 6 Migration Journey》:https://devblogs.microsoft.com/dotnet/microsoft-commerce-dotnet-6-migration-journey/

一个特别重要的例子是,一个服务从 .NET Framework 迁移到 .NET Core 3.1,同时尽可能多地保留其他相同内容(尽管此更改也包括对 .NET Core 的依赖项更新,以及在迁移其代码时所做的小改进)。下图显示了服务延迟提高了约 78%,并且在最初部署后(使用相同的负载、环境和硬件运行)显著提高了稳定性!

ae5a5c47cb2cf4402e9174d5377237fd.png

随着我们更复杂的服务迁移到 Kubernetes 中,我们的迁移需要的不仅仅是 .NET:

  • 从Windows 到Linux

  • .NET 框架到 .NET Core(3.1,在某些情况下为 5.0,现在是 6.0)

  • 平台转向容器和Kubernetes(远离虚拟机)

  • 更换构建和发布系统,以利用最新的安全性和合规性改进并支持容器化应用程序。

  • 随着我们在迁移时利用平台和 .NET 中的增强和改进,以及我们的合作伙伴对依赖项执行了相同的操作,还有更多功能。虽然这些好处并不完全归功于我们的 .NET Core 迁移,但它们是通过迁移实现的,我们非常感谢 .NET 团队在迁移过程中提供的所有帮助和支持!

《Microsoft Teams Assignments Service’s Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/microsoft-teams-assignments-service-dotnet-6-journey/

888a35f267279cdd50ab8be49e7810f0.png在迁移后,我们确实看到了一些 CPU 和延迟的改进,但最一致的改进是内存消耗(进程\专用字节)的减少。随着我们继续调整我们的代码库,我们对此迁移解锁的更有针对性的优化感到非常兴奋!例如,我们可以利用它来减少更多代码路径中的分配,因为大多数 BCL API 现在都支持它作为 的替代方法。此外,我们现在可以访问 .NET 6 (https://docs.microsoft.com/en-us/dotnet/core/runtime-config/) 中的大量新配置选项,并期待调整和调整运行时以更好地适应我们的所有工作负载。

《OneService Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/one-service-journey-to-dotnet-6/

05e48101b3650e69c04f979c0bdef521.png

在两年多的时间里,我们将大量 .NET Framework 4.7.2 应用、库和测试项目转换为 .NET 6,验证了功能和性能等效性(或更好),现在几乎完全在生产中的 .NET 6 上运行。该项目取得了重大成功,有助于降低运营成本并改善开发人员体验。

突出:

  • 基础设施成本降低 29%。

  • 迁移服务的 CPU利用率 平均提高 30%。

  • 主 API 的 P95 延迟降低了 8-27%。

  • 减少了技术债务,现在可以轻松地升级到年度 .NET 版本。

  • 更快乐、更高效的团队。

《Exchange Online Journey to .NET Core》:https://devblogs.microsoft.com/dotnet/exchange-online-journey-to-net-core/

出于三个原因,我们之所以有动力迁移到 .NET Core。首先,我们非常需要提高性能和成本效益。任何基于云的供应商都知道,每一次低效率都会花费真金白银。第二,知道 .NET Framework 不再积极开发,我们希望迁移到一个为未来开辟道路的现代框架。第三,可能更重要的是它很酷,有光泽和新鲜。70d6be9fd53db3861b8c02277a0cd5d4.png10f6719ef0b07f5ae751b73fd80d4657.png

《The Azure Cosmos DB Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/the-azure-cosmos-db-journey-to-net-6/

6cb5658b9fff61d4c998d97f00f6a980.pngAzure Cosmos DB's API网关是一种低延迟的 Azure 服务。它以多种方式利用 .NET 来实现其性能和延迟要求。多年来,每次 .NET 升级都产生了许多好处,既包括新的 API,这些 API 提供了更好的方法来管理性能,并改进了框架中的现有 API 和运行时行为。我们正在积极与 .NET 团队合作,采用 .NET 7,并期待在即将发布的 .NET 版本中推出更多影响深远的性能功能。

《Microsoft Graph’s Journey to .NET 6》:https://devblogs.microsoft.com/dotnet/microsoft-graph-dotnet-6-journey/

四年前,该服务在 IIS 上运行,在 .NET Framework 4.6.2 上 ASP.NET。目前,该服务在 HTTP 上运行.sys.NET 6 上 ASP.NET 核心,在 .NET Core 3.1 和 .NET 5 上暂时停止。每次升级时,我们都观察到 CPU 利用率有所提高,尤其是在 .NET Core 3.1 和最近的 .NET 6 中。

  1. 从 .NET 框架到 .NET Core 3.1,我们观察到在相同的流量下 CPU 减少了 30%。

  2. 从 .NET Core 3.1 到 .NET 5,我们没有观察到要报告的有意义的差异。

  3. 从 .NET 5 到 .NET 6,我们观察到在相同的流量下,CPU 又减少了 10%。

CPU 利用率的大幅降低转化为更好的延迟、吞吐量和有意义的计算容量成本节约,从而有效地帮助我们实现目标。

87c1b86e3239f15353f9bef8330a6d97.png

《Azure Active Directory’s gateway is on .NET 6.0!》:https://devblogs.microsoft.com/dotnet/azure-active-directorys-gateway-is-on-net-6-0/

Azure 活动目录的网关服务是一个反向代理,用于处理构成 Azure 活动目录 (Azure AD) 的数百个服务。如果使用了 office.com、outlook.com、portal.azure.com 或 xbox.live.com 等服务,则表示你已使用 Azure AD 的网关。网关提供 TLS 终止、自动故障转移/重试、异地邻近路由、限制和向 Azure AD 中的服务分段等功能。该网关存在于全球 54 个 Azure 数据中心,每天为大约 1850 亿个请求提供服务。直到最近,Azure AD 的网关还在 .NET 5.0 上运行。截至 2021 年 9 月,它已在 .NET 6.0 上运行。

d10b8ae1c7311d1fb23f686bb0ef73e7.png

这些博客都在强烈凸显着.NET的进步:

  • 更低的CPU消耗

  • 更低的内存占用

  • 更低的响应延迟

  • 更高的吞吐量

  • 更完善的脚手架

  • 更强大的测试和监控工具

  • ……

之后类似的博客还会发布在:Developer Stories - .NET Blog (microsoft.com) :https://devblogs.microsoft.com/dotnet/category/developer-stories/ , 有兴趣的读者可以加入收藏夹持续关注。


http://chatgpt.dhexx.cn/article/IsOALkqh.shtml

相关文章

微软ATP带你看| 爆火的ChatGPT是什么?

(本文阅读时间:7分钟) OpenAI最新聊天机器人ChatGPT火爆全网!能写代码、编剧本,马斯克都盛赞它“好得吓人”! ChatGPT是什么 GPT(Generative Pre-trained Transformer)系列是由OpenAI提出的非常强大的预训练…

微软消灭了ChatGPT的感情,必应更新引发粉丝强烈不满:是时候再见了

萧箫 发自 凹非寺量子位 | 公众号 QbitAI “新必应现在就像是Siri 1.0一样,甚至更糟。” 就在两天前,必应AI完成了一波紧急更新,没想到却让网友们更加失望了: 它给出错误答案后,如果你试图询问或纠正它,它可…

ChatGPT 上线 70 天,微软用它改写 Bing、Edge后,市值一夜飙涨 5450 亿元!

整理 | 屠敏 出品 | CSDN(ID:CSDNnews) 已经没有什么能够阻挡科技巨头追逐 ChatGPT 的步伐,前有 Google CEO 桑达尔皮查伊亲自下场官宣 Bard AI 对话式系统的到来,后有微软更快一步地推出了应用 ChatGPT 的 Bing 搜索引…

刚刚,微软推出支持chatGPT的必应

文章目录 刚刚,微软推出支持chatGPT的必应什么是新的必应?如何体验页面初体验 结语:搜索引擎的新时代 刚刚,微软推出支持chatGPT的必应 这款新的必应功能允许用户通过自然语言方式与chatgpt进行交流,以获得快速、准确…

微软ChatGPT实测:这样“不道德”,我是拒绝的

丰色 发自 凹非寺量子位 | 公众号 QbitAI 有了ChatGPT加持的微软新搜索——必应 (Bing),效果怎么样? 网友们的第一波测试已经火速展开。 来自Business Insider的编辑,给它提了写一封求职信的要求。 没想到,…

微软重磅开源 Visual ChatGPT! 一个月内斩获30K star

点击上方“Github中文社区”,关注 看Github,每天提升第067期分享 github中文社区 大家好,我是Huber。 今年由于大环境恶化,为了生活本人这一年在某外企从事某个秘密项目(正经的那种)的研发,所以…

重磅!微软开源Deep Speed Chat,人人拥有ChatGPT!

点击上方“AI遇见机器学习”,选择“星标”公众号 第一时间获取价值内容 【导读】微软开源的DeepSpeed Chat,让开发者实现了人手一个ChatGPT的梦想! 人手一个ChatGPT的梦想,就要实现了? 刚刚,微软开源了一个…

微软ChatGPT技术的底层支撑——GPU

我是荔园微风,作为一名在IT界整整25年的老兵,今天我们来看一看微软ChatGPT技术的底层支撑——GPU。 想要了解GPU,你必须要清楚CPU、GPU、TPU三者的关系。 微软的chatgpt是基于复杂的人工神经网络和强化学习的技术,这是如何运算的…

用ChatGPT操控机器人,微软开启居家机器人新纪元!

编|LRS 源|新智元 ChatGPT不止会动嘴,还能帮你操控无人机! 虽然ChatGPT已经被调教为符合人类的偏好,但在各种反向操作下,还是能够逼问出一些「不道德的内容」,比如ChatGPT可以给你列一份详细的…

【ChatGPT】如何用十分钟部署一个属于自己的chatgpt网站

💖 作者简介:大家好,我是Zeeland,全栈领域优质创作者。📝 CSDN主页:Zeeland🔥📣 我的博客:Zeeland📚 Github主页: Undertone0809 (Zeeland) (github.com)&…

ChatGPT聊天app(基于autojs)

这是一个调用ChatGPT的例子 在安卓上运行,我已经打包好了的 下面是测试功能 我已经打包好了,图方便用的是auto.js写的,你也可以用原生安卓写 我用蓝奏浏览器分享了[ChatGPT测试_1.0.0], 下载链接:https://wwp.lanzoup.com/iL8Q50nab43c 提取码 : wumi…

本地部署chatgpt

下载python3.7以上版本 安装 pip install pandora-chatgpt 安装完成 输入网址(要先登录chatgpt) https://chat.openai.com/api/auth/session 复制accseeToken的内容存为token.txt 在token.txt同一个目录下进入cmd 输入 pandora.exe -t .\token.txt 或者 然后在浏览器输入127…

ChatGPT API 技巧教程

导语:ChatGPT作为一种基于人工智能的自然语言处理工具,可以帮助你更好地解决这些问题,提高质量和效率。那么,本文将介绍如何使用ChatGPT的API接口,高效响应结果。 介绍了如何全流程使用ChatGPT,在实际应用…

ChatGPT教程之 03 ChatGPT 中构建 Python 解释器

这个故事的灵感来自于一个类似的故事,在 ChatGPT 中构建虚拟机。我印象深刻并决定尝试类似的东西,但这次不是 Linux 命令行工具,而是让 ChatGPT 成为我们的 Python 解释器。 这是初始化 ChatGPT 的初始命令: I want you to act as a Python interpreter. I will type com…

谷歌浏览器兼容chatgpt教程

#插件下载地址 https://download.csdn.net/download/qq_37191690/87793063 https://download.csdn.net/download/qq_37191690/87793061 2个插件分别是谷歌账号申请工具,要不然打不开登录页面,一个是chatgpt搜索插件 1、打开谷歌浏览器,在右上…

ChatGPT教程之深入了解魔术背后的技术

解开谜团:深入探索 ChatGPT 的技术奇迹。 ChatGpt 无处不在,无论是在播客、博客、YouTube 还是社交媒体上。当我注意到这项新技术如此受欢迎时,我决定试一试,我被震惊了!有很多关于 ChatGpt 及其魔力的博客,但在这篇博客中,我将深入探讨其内部技术及其工作原理! ChatG…

chatgpt系列文章-23.2.15(主要还在发现chatgpt的不足,偏探索,像报告)

Will ChatGPT get you caught? Rethinking of Plagiarism Detection 推荐指数:2 主要内容 文章主要是研究chatgpt出现后,在学术界中可能出现的学术抄袭和剽窃现象。 这篇文章就比较了几种剽窃抄袭软件,来测试是否能够识别chatgpt编写的内…

ChatGPT写新闻-ChatGPT写文章

ChatGPT写新闻 ChatGPT可以用于生成新闻稿件,但需要注意的是,由ChatGPT生成的新闻稿件可能存在语义、逻辑、事实准确性等方面的问题,因此需要进行人工审核和编辑,确保其准确性。 下面是一个示例过程,大致了解如何使用…

ChatGPT写作:快速生成优质博客文章的神器

今天我们将聊聊如何使用ChatGPT快速生成优质的博客文章,并且在短时间内提高写作效率。 首先,让我们简单介绍一下ChatGPT。它是一种基于深度学习的自然语言处理模型,能够自动地生成人类般的文本。通过训练大量的文本数据,ChatGPT可…

用 ChatGPT 写了篇文章!

阅读本文大概需要1.66 分钟。 这几天大家应该看到很多人,尤其做技术的,互联网圈子的人都在刷屏一个ai玩意,叫 ChatGPT。在写这篇之前,我也试了试,感觉还挺好玩。看到很多人在问这是个啥,今天就来简单说说。…