2021年6月，北京智源研究院（BAAI、推出了悟道1.0的后续版本悟道2.0，作为中国第一个超大规模智能模型系统。悟道是一个语言模型，旨在在人类层面的思维上超越 OpenAI 的 GPT-3 和谷歌的 LaMDA。经过4.9TB的图像和文本训练，并在9个基准上超过了最先进（SOTA、水平，悟道比任何同行都更接近于实现通用人工智能（AGI、和人类水平的思维。
悟道接受了4.9 TB高质量英文和中文图像和文本的训练：
- 1.2TB中文文本数据
- 2.5TB中文图形数据
- 1.2TB英文文本数据
悟道是基于开源的 MoE 系统 FastMoE 进行训练的。MoE是一种机器学习技术，其工作原理如下：
将预测建模任务划分为子任务，针对每个子任务训练专家（学习者、模型，开发门控模型，该门控模型基于要预测的输入来学习咨询哪个专家，并组合预测。FastMoE使悟道能够并行咨询不同的专家模型，并切换到预测结果最好的模型。例如，如果输入是英文文本，悟道将使用预测模型，该模型可以在英文文本中生成回应。
前往AI网址导航
收录说明：
1、本网页并非 悟道 官网网址页面，此页面内容编录于互联网，只作展示之用；2、如果有与 悟道 相关业务事宜，请访问其网站并获取联系方式；3、本站与 悟道 无任何关系，对于 悟道 网站中的信息，请用户谨慎辨识其真伪。4、本站收录 悟道 时，此站内容访问正常，如遇跳转非法网站，有可能此网站被非法入侵或者已更换新网址，导致旧网址被非法使用,5、如果你是网站站长或者负责人，不想被收录请邮件删除：i-hu#Foxmail.com （#换@）
© 版权声明
文章版权归作者所有，未经允许请勿转载。
