云雀语言模型

云雀语言模型是字节跳动公司开发的大规模预训练语言模型系列，有五个版本，即lite、plus、pro、pro-4k和chat。V1.0版本仅包含三个版本，即lite、plus和pro，于2023年8月6日发布。 Famous Encyclopedia String

基于字节神经网络加速器开发了云雀模型。通过便捷的自然语言交互，它可以高效地完成交互对话、信息获取、辅助创作等任务。它还提供简单的API调用，并可以快速构建自己的AI应用程序并基于大型模型进行业务创新。

2023年8月17日，字节跳动公开测试了基于云雀模型的人工智能对话产品“豆包”，该产品具有web客户端、iOS客户端和Android客户端，并预设了英语学习助手和写作助手两种功能。 Famous Encyclopedia String

2023年8月31日，包括云雀模型在内的首批8个大模型通过了《生成式人工智能服务管理暂行办法》。
Famous Encyclopedia String

2023年9月19日，火山引擎在“V-Tech数据驱动技术峰会”上宣布，火山引擎中的数字智能平台VeDI推出了“AI助手”，主要通过接入Lark模型来帮助企业提高数据处理和查询分析的效率。这是字节首次公开披露Lark的相关应用。

代码生成:该语言模型具有专业的代码生成能力和知识储备，能够高效辅助代码生产场景。 Famous Encyclopedia String

对话表达:我们可以通过自然语言处理技术与用户对话，回答用户的问题，并在训练时同时处理大量数据，从而学习更复杂的特征表达，掌握底层特征，然后完成复杂的多轮对话并提供相关信息和建议。

www.qwbaike.cn

信息抽取:通过递归地理解和把握复杂的语义结构，深入理解文本信息之间的逻辑关系，可以从非结构化的文本信息中抽取出所需的结构化信息。
www.qwbaike.cn

逻辑推理:通过分析问题的前提条件和假设，可以推导出答案或解决方案，并给出新的想法和观点。

模型融合:通过将几个小模型融合在一起，形成一个功能更强大的大模型，提高了模型的准确性，使模型更加灵活，可以适应更广泛的数据和任务。

Famous Encyclopedia String

预训练能力:通过预训练，模型在训练前已经学习了一些基础知识和特征表示，这使得模型更高效，更具机动性，能够适应更广泛的数据集和任务。
qwbaike.cn

Lark是一个基于Transformer架构的语言模型，它通过预测上一篇文章中下一个最可能出现的单词来实现文本生成。其中，使用的新技术主要是基于Transformer架构的语言模型和基于人类反馈的强化学习。前者对自然语言中包含的大量知识进行建模，而后者使模型能够通过对话提供适当的内容。 Famous Encyclopedia String

传动机构：用户提问后，百灵鸟首先识别用户需求，通过提前学习全网搜索内容，在对话框或登陆页面显示相应结果。该模型首先通过大规模无监督预训练学习语言的统计规律和知识，然后通过监督微调使模型学会遵循用户的指令，最后通过强化学习和训练使模型生成合适的内容。

Famous Encyclopedia String

云雀主要用于今日头条、Tik Tok、剪报、番茄小说、西瓜视频、飞书、豆包、悟空浏览器、知乎车皇等网站或应用。它主要涵盖以下三个方向: Famous Encyclopedia String

内容创作:该语言模型具有丰富的文本创作、严格的指令合规性和庞大的知识储备能力，可应用于大纲生成、营销文案生成等内容创作场景。
Famous Encyclopedia String

知识问答:这种语言模型集成了大量知识库，可以高效地解决工作和生活等各种场景中的问题。
Famous Encyclopedia String

人与人之间的对话:这种语言模型的角色扮演能力符合设定，具有多轮记忆，可应用于社交同伴、虚拟主播和其他人设置对话场景。
Famous Encyclopedia String

Skylark-lite:Lite: Lite版响应速度快，适用于实时性要求高、成本敏感、对模型精度要求低的场景，如快速智能回复、实时通知生成、基本文本理解等。 https://www.qwbaike.cn

云雀-Plus:Plus:Plus版本兼顾了响应速度和模型精度，适用于兼顾模型效果和使用成本的场景，如文本摘要、基础文案、文本翻译等。
www.qwbaike.cn

Skylark-Pro:Pro: Pro版本具有较高的模型精度，适用于更复杂的文本生成场景，如专业领域的文案生成、小说创作、高质量翻译等。
Famous Encyclopedia String

Skylark-Chat:聊天:聊天版本针对交互式场景进行了优化，可以更好地理解上下文并生成自然对话，适用于构建聊天机器人、虚拟助理和在线客服。

Famous Encyclopedia String

豆包：“豆包”是基于云雀模型开发的AI机器人。用户可以通过手机号码、Tik Tok或苹果ID登录。“豆包”提供聊天机器人、写作助手、英语学习助手等功能。它可以回答各种问题并进行对话以帮助人们获取信息。

云雀语言模型

除了文字，数字人“豆包”还会对每个答案进行语音回答。在功能方面，豆包在注册登录后将默认进入聊天界面，提供豆包、英语学习助手、全能写作助手和爱聊天的萧宁等四个虚拟角色，为用户提供多语言、多功能的AIGC服务，包括但不限于问答、智能创作和聊天。在技术上，“豆包”基于深度学习，可以预测和生成输入文本。其语言模型基于Transformer架构，具有高效的并行处理能力和良好的语言理解能力。训练数据来自互联网上的大量文本，包括新闻、博客、小说、论文等。在训练过程中，使用了各种优化算法，包括随机梯度下降、Adagrad、Adadelta等。 Famous Encyclopedia String

洪辰：洪辰相当于海外版的“豆包”，于今年8月在多个海外市场推出。聚焦海外市场，已于2023年8月在多个海外市场上线，截至12月初已在36个国家和地区上线，基本覆盖除欧美成熟市场外的全球其他所有地区。 https://www.qwbaike.cn

ChitChop：ChitChop是一款基于云雀模型的人工智能助手工具，可为用户提供20智能机器人服务，通过提供创意灵感和提高工作效率来服务用户的工作和生活。就功能而言，ChitChopCici和豆腐更通用。在ChitChop APP的首页可以看到包括创作、工作、AI绘画、娱乐、AI学习和生活在内的六大使用场景。每个场景包含10多个AI工具，总计200多个智能机器人，用户甚至可以与AI虚拟角色一起玩游戏。

2023年12月，外媒报道称字节跳动正在使用OpenAI技术开发自己的大型语言模型，这违反了OpenAI的服务条款。对此，字节跳动相关负责人回应称，在使用OpenAI相关服务时，公司强调需要遵守其使用条款，同时也在与OpenAI联系，以澄清外部报道可能造成的误解。

Famous Encyclopedia String