查看原文
其他

TeleChat:首个运营商大语言模型来了!

面向行业数字化应用。

7月6日,在一个名为中国电信“算网一体·融创未来”的论坛上,中国电信数字智能科技分公司(电信智科)正式对外发布中国电信大语言模型TeleChat,并展示了大模型赋能数据中台、智能客服和智慧政务三个方向的产品。

电信智科负责人表示,近年来,人工智能开始爆发性增长,并进入生成式AI时代。在这过程中,人工智能从机器智能、感知智能转化为认知智能,即通过抽象推理的方式理解自然语言。其中,GPT模型是人工智能技术发展变迁的重要代表,作为一种自然语言处理模型,GPT模型通过在大型文本语料库上的训练学习到语言模式用于生成自然语言文本,为信息检索、机器翻译和文本摘要等多类任务提供了有效的解决方案。

中国电信依托云网融合的优势,打造了中国电信的大语言模型TeleChat。TeleChat使用了大量高质量中英文语料进行预训练,并采用了千万级问答数据进行微调。同时,设计了渐进膨胀注意力机制,用于增加模型的间隔采样,扩大实际感受野;研发了自校准微调技术,将迭代后相关性偏差作为强化学习的监督信号,提升强化学习效果;并且利用知识图谱协同增强策略,通过知识图谱增强大模型的预训练和推理能力,减少大模型幻觉现象。

据了解,以TeleChat为底座的教育版大模型TeleChat-E在全球大模型综合性考试评测榜单C-Eval上排名第七,前几名包括GP4、ChatGPT等知名大模型。TeleChat-E使用人工收集、标注、整理的高质量领域数据对TeleChat进行持续效果强化。同时,TeleChat-E对Transformer Decoder的损失函数进行改进,使之更加关注题目答案的生成,提高准确率。

该公司负责人指出,通过大模型机制,神经网络已经可以愈加拟人化。在当下,电信TeleChat大模型正在与千行百业的信息化解决方案进行融合,在诸多行业实现商业化落地。本次论坛重点展示了三个大模型赋能行业应用的产品。

一是大模型+数据中台产品。中国电信演示了将AI能力和数据中台深度融合,打造AI智能取数能力,基于大数据平台生成的可视化图表。目前已实现大数据中台大模型将数据平台的权限和脱敏能力打通,使用户可以获取到自己权限范围内的数据表中脱敏后的字段值,比如姓名、电话号码等。当进入到AI取数模块时,用户可以根据自身需求让大模型生成SQL、可视化图表和分析报告。

二是大模型+智能客服产品,TeleChat大模型能够辅助坐席或用户快速获取文章和材料内的信息。在现场演示中可以看到,通过一站式人机融合知识中台查看产品介绍材料,再激活大模型悬浮对话框,接下来上传需要模型理解的文件,即可得到理解后生成的反馈。在TeleChat的帮助下,坐席无需阅读全文找答案,既解决了模型幻觉问题,还能够做到知识库管理权限隔离。

三是大模型+智慧政务产品,中国电信TeleChat大模型依托5G消息,为政务客户提供政务短信智能化多轮问答,进行行业领域的基础语言模型训练和领域问答能力微调,并基于领域问题反馈的强化学习,最终实现对行业领域专业问题的精准回答和平台推送反馈。
编辑、校对:博文
指导:新文

延伸阅读:大模型
大模型开启AI新时代
逐鹿大模型:"通用为王"还是"专用是金"?
一张图看大模型
AI向善之惑:要不要给大模型装上“红绿灯”?
谁会领跑中国大模型?
百度交卷:“文心一言”来了!

延伸阅读:AGI对网络之变
通信网如何随AI之需而变?
AGI爆发前夜:网络如何随需而变?
专家谈:AI普适化对通信网带来哪些新需求?
专家谈:通信网如何迎接AI普及?
AI冲击下的网络之变:从连接平台演进AI创新平台



推荐阅读
五人谈:迈向真实的元宇宙
一年巡礼 | 联通服装军团:全链条的“数字化裁缝”
世界物联网500强榜发布:奔赴万物互联数字新经济蓝海
谁是活力先锋:2023MWC上海通信新势力榜评出
“时不我待”的风向:回看2023MWC上海

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存