Moonshot AI首个大模型产品支持20万字上下文

2023年10月9日，成立仅半年的大模型初创公司——Moonshot AI宣布在“长文本”领域实现了突破，推出了首个支持输入20万汉字的智能助手产品Kimi Chat。20万汉字是目前全球市场上能够产品化使用的大模型服务中所能支持的最长上下文输入长度，目前，全球大多数大语言模型的输入长度都在2K以内，以输入长度是2048为例，其含义是模型一次性接受输入的tokens数量为2048个，而一般tokens换算到单词的比例是75%左右，也就是2K模型的输入一般只能支持2048*0.75=1500个英文单词的输入。

换算成汉字方面，一个实际使用效果能够支持约20万汉字的上下文，是2.5倍于Anthropic公司的Claude-100k（实测约8万字），8倍于OpenAI公司的GPT-4-32k（实测约2.5万字），如果Moonshot AI的能力属实，这标志着Moonshot AI在这一重要技术上取得了世界领先水平。

目前，Moonshot AI的智能助手产品Kimi Chat已开放了内测。