Qcon北京2018-《文本智能处理的深度学习技术》-陈运文

• 语言: 中文（简体）
• 格式: .pdf
• 来源: github.com/baiyutang

摘要

文档主要介绍了文本智能处理的深度学习技术，探讨了深度学习在文本挖掘中的应用及其优缺点。内容涵盖了文本分类、情感分析、机器翻译等任务，对比了传统机器学习和深度学习的特点，并提到了达观数据在该领域的实践经验和成果。

AI总结

### 文本智能处理的深度学习技术总结

#### 1. 深度学习在文本挖掘中的优缺点
**优点：**
1. **非监督数据训练**：可以利用非监督数据训练字词向量，提升模型的泛化能力。
2. **端到端模型**：深度学习模型能够实现端到端处理，提供新的思路。
3. **克服传统模型缺点**：某些深度学习模型结构能够弥补传统模型的不足。

**缺点：**
1. **小数据量效果有限**：在小数据量情况下，深度学习模型的效果可能不如传统方法。
2. **调参复杂**：深度学习模型的调参工作量有时不亚于传统的特征工程。
3. **硬件限制**：客户在部署深度学习模型时可能面临硬件环境的限制。

#### 2. 文本智能处理的实践方法
文本智能处理涉及多种任务，包括文本分类、情感分析、分词、命名实体识别（NER）、机器翻译等。深度学习在这些任务中表现出色，尤其是通过预训练词向量（如Word2Vec、GloVe、Doc2Vec）提取文本表示，并结合不同的深度学习模型（如CNN、RNN）进行处理。

#### 3. 文本分类与审核
- **传统机器学习**：依赖特征工程，特征构造成本高，且需要针对不同领域进行定制优化。
- **深度学习**：端到端处理，无需复杂特征工程，框架通用性强，适用于多领域任务。

#### 4. NLP技术发展简史
- **规则系统**：20世纪50-80年代，基于人工规则的NLP系统尝试（如机器翻译）效果有限。
- **统计机器学习**：20世纪90年代，基于统计模型和语料库的NLP技术取得显著进展。
- **深度学习时代**：2006年至今，深度学习技术逐渐成熟，推动NLP领域从传统统计模型向深度学习转变。

#### 5. 达观数据与陈运文
达观数据专注于人工智能中的文本处理领域，致力于为企业提供文本挖掘技术和应用服务。陈运文作为达观数据的CEO，拥有丰富的行业经验和技术背景，曾担任腾讯文学高级总监、盛大文学首席数据官等职位，并在学术领域取得多项成果。

#### 6. 文本智能处理的应用场景
文本智能处理技术广泛应用于智能问答、机器翻译、文本分类、文本摘要、标签提取、情感分析和主题模型等领域。深度学习技术的引入显著提升了这些任务的处理效率和准确性。

总结来看，深度学习为文本智能处理带来了新的可能性，但在实际应用中仍需考虑数据量、硬件环境和模型调参等因素。