MARC状态:审校 文献类型:中文图书 浏览次数:11
- 题名/责任者:
- 精通Transformer:从零开始构建最先进的NLP模型/(土) 萨瓦斯·伊尔蒂利姆, (伊朗) 梅萨姆·阿斯加里-切纳格卢著 江红, 余青松, 余靖译
- 出版发行项:
- 北京:北京理工大学出版社,2023
- 畅想之星:
- ISBN及定价:
- 978-7-5763-2227-9/CNY99.00
- 载体形态项:
- 266页:图;24cm
- 并列正题名:
- Mastering Transformers:build state-of-the-art models from scratch with advanced natural language processing techniques
- 其它题名:
- 从零开始构建最先进的NLP模型
- 个人责任者:
- 伊尔蒂利姆 (Yildirim, Savas) 著
- 个人责任者:
- 阿斯加里-切纳格卢 (Asgari-Chenaghlu, Meysam) 著
- 个人次要责任者:
- 江红 译
- 个人次要责任者:
- 余青松 译
- 个人次要责任者:
- 余靖 译
- 学科主题:
- 自然语言处理
- 中图法分类号:
- TP391
- 一般附注:
- 颉腾科技
- 豆瓣简介:
全部MARC细节信息>>
- 内容简介:
- AI领域的基石王者,那些还沉迷于CNN,RNN的工程师被警告:放弃战斗吧,向Transformer投降! 在过去的二十年中,自然语言处理研究领域发生了翻天覆地的变化。在这段时间里,自然语 言处理经历了不同的处理范式,并最终进入了一个由神奇的Transformer体系结构主导的新时代。 Transformer深度学习架构是通过继承许多方法而产生的,其中包括上下文词嵌入、多头注意力机制、位置编码、并行体系结构、模型压缩、迁移学习、跨语言
索书号 | 条码号 | 年卷期 | 馆藏地 | 书刊状态 | 还书位置 |
TP391/204 | 2221758 | 自然科学书库-四楼西北 | 可借 | 自然科学书库-四楼西北 | |
TP391/204 | 2221759 | 自然科学书库-四楼西北 | 可借 | 自然科学书库-四楼西北 | |
TP391/204 | 2221760 | 自然科学书库-四楼西北 | 可借 | 自然科学书库-四楼西北 |
显示全部馆藏信息
Transformer到底是什么,让ChatGPT如此迷恋?
这只变形金刚,到底是只什么怪兽?
――用于自然语言处理(NLP)的神经网络架构
第1 章 从词袋到Transformer。本章简要介绍了自然语言处理的历史,并将传统方法、深度学习模型(如CNIN、RNN 和LSTM) 与Transformer模型进行了比较分析。
第2章 Transformer的实践操作入门。本章深入探讨了如何使用Transformer模型,并通过实际例子阐述了分词器和模型,如BERT。
第3章 自编码语言模型。本章讨论了如何从零开始在任何给定语言上训练自编码语言模型。训练过程将包括模型的预训练和特定任务的训练。
第4章 自回归和其他语言模型。本章讨论了自回归语言模型的理论细节,并引导读者如何在自己的语料库中对模型进行预训练。读者将学习如何在自己的文本上预训练任何语言模型(如GPT- 2),并在各种任务(如语言生成)中使用该模型。
第5章 微调文本分类语言模型。在本章中,读者将学习如何配置文本分类的预训练模型,以及如何微调文本分类下游任务的模型(如情感分析或多类别分类)。
第6章 微调标记分类语言模型。本章讲述如何微调标记分类任务的语言模型[如命名实体识别 (NER)、词性标注 (POS)和问题回答 (QA)系统]。
第7章 文本表示。在本章中,读者将学习文本表示技术以及如何有效地利用Transformer 体系结构,特别是对于无监督任务,如聚类、语义搜索和主题建模。
第8章 使用高效的Transformer。 本章展示了如何使用提炼、剪枝和量化方法,从预训练模型中 生成高效的模型。然后,读者将获得有关高效稀疏Transformer的知识,如Linformer 和 BigBird,以及如何使用这些模型。
第9章 跨语言和多语言建模。在本章中,读者将学习多语言和跨语种语言模型预训练以及单语言和多语言预训练之间的差异。本章涉及的其他主题包括因果语言建模和翻译语言建模。
第10章 部署 Transformer 模型。本章将详细介绍如何在 CPU/GPU环境中,为基于 Transformer的自然语言处理解决方案提供服务。本章还将描述如何使用 TensorFlow 扩展 (TFX) 部署机器学习系统。
第11 章 注意力可视化与实验跟踪。本章涵盖两个不同的技术概念:注意力可视化与实验跟踪。 我们将使用诸如exBERT 和 BertViz之类的复杂工具进行实验练习。
CADAL相关电子图书
《Transformer Practice》 Wiliam T. Taylor McGRAW-HILL BOOK COMPANY, INC·NEW YORK | 《Transformer Engineering》 L. F. Blume SONS, INC. | 《Transformer practice /》 Taylor, William Thomas, McGraw-Hill, | 《NEMA TRANSFORMER STANDARDS》 | 《TRANSFORMER PRINCIPLES AND PRACTICE》 J. B. GIBBS |