AI 产品
250美元FPGA开发板实现每秒12,000词元生成速度,但模型功能有限
一项在社交媒体上分享的测试显示,一块售价250美元的FPGA开发板能够驱动一个小型模型,达到每秒12,000个词元(token)的生成速度。需要说明的是,该模型被明确指出无法对任何问题或提示给出连贯的回答,其核心优势仅在于极快的处理速度。这是基于硬件演示的已确认事实,而模型的实际对话能力则属于被明确讨论的局限性部分。
多来源证据
事件时间线
- Twitter/X AI List在250美元的FPGA板上实现12,000词元/秒的速度。这是一个小模型,且无法对任何问题或提示做出连贯的回答。请在...链接试用,但...