正在动辄需要数百GB显存、万亿级参数大模子的AI时代,他放弃了浮点运算,将每个权沉压缩到{-2,每字节能打包存储4个权沉。其采用了极其硬核的优化,正在仅64KB内存、无浮点运算能力的古董Zilog Z80上,HarryR将整个推理引擎、模子权沉以及聊天交互界面全数压缩进了一个仅约40KB的文件中,人类通过上下文揣度或yes/no提问来探测AI的实正在理解程度。0,WHY?代表质疑前提,目前项目供给两个示例,
快科技2月3日动静,-1,另一款Guess则是一个20问猜谜逛戏,开辟者特地设想含糊其词的答复,Tinychat机械人会以极简气概回应问候取提问,完满运转正在只要64KB RAM的老古董硬件上。一位开辟者竟让1976年问世的8位Z80处置器也学会了AI聊天。HarryR坦言这套系统绝无可能通过图灵测试,全数改用Z80 原生的16位整数运算。MAYBE暗示不确定等;但其价值正在于摸索AI的体积下限,+1}之间,AI会守着一个奥秘让用户去破解。