ๅœจ่Šฑ
่ฟ”ๅ›žๆ—ถ้—ด็บฟ
ยท 13:15 ยท ๅทฒ็ผ–่พ‘ ยท 11 ๆกๅ›žๅค ยท

๐Ÿถ Google Research ๆŽจๅ‡บ TurboQuant๏ผŒๆต‹่ฏ•ไธญๅฐ†ๅคงๆจกๅž‹ KV ็ผ“ๅญ˜ๅŽ‹่‡ณ 3 ๆฏ”็‰น

Google Research ๆŽจๅ‡บๅ‘้‡้‡ๅŒ–็ฎ—ๆณ• TurboQuant๏ผŒๅนถๅŒๆ—ถๅ…ฌๅธƒ QJL ไธŽ PolarQuant๏ผŒ็›ฎๆ ‡ๆ˜ฏๅœจๅคง่ฏญ่จ€ๆจกๅž‹ๅ’Œๅ‘้‡ๆœ็ดขๅœบๆ™ฏไธญๅคงๅน…ๅŽ‹็ผฉ้ซ˜็ปดๅ‘้‡๏ผŒ็ผ“่งฃ KV ็ผ“ๅญ˜็š„ๅ†…ๅญ˜็“ถ้ขˆใ€‚ๅฎž้ชŒ็ป“ๆžœๆ˜พ็คบ๏ผŒTurboQuant ๅœจๆ— ้œ€่ฎญ็ปƒๆˆ–ๅพฎ่ฐƒ็š„ๆƒ…ๅ†ตไธ‹ๅฏๅฐ† KV ็ผ“ๅญ˜้‡ๅŒ–ๅˆฐ 3 ๆฏ”็‰น๏ผ›ๅœจ้•ฟไธŠไธ‹ๆ–‡โ€œneedle-in-a-haystackโ€ๆต‹่ฏ•ไธญ๏ผŒ็›ธๅ…ณๅ†…ๅญ˜ๅ ็”จ่‡ณๅฐ‘ๅŽ‹็ผฉ 6 ๅ€๏ผŒๅŒๆ—ถไฟๆŒไธ‹ๆธธ็ป“ๆžœไธๅ˜ใ€‚

TurboQuant ๅฐ†ๅœจ ICLR 2026 ๅฑ•็คบ๏ผŒQJL ๅ’Œ PolarQuant ๅฐ†ๅœจ AISTATS 2026 ๅฑ•็คบใ€‚ๅฎž้ชŒ็ป“ๆžœ่ฟ˜ๆ˜พ็คบ๏ผŒ4 ๆฏ”็‰น TurboQuant ๅœจ H100 GPU ไธŠ่ฎก็ฎ— attention logits ็š„้€Ÿๅบฆ่พƒ 32 ๆฏ”็‰นๆœช้‡ๅŒ– keys ๆœ€้ซ˜ๆๅ‡ 8 ๅ€๏ผŒๅœจ้ซ˜็ปดๅ‘้‡ๆœ็ดขไปปๅŠกไธญ็š„ recall ไนŸไผ˜ไบŽ PQ ๅ’Œ RabbiQใ€‚

Google Research

๐ŸŒธ ๅœจ่Šฑ้ข‘้“๏ฝœ่Œถ้ฆ†่ฎจ่ฎบ๏ฝœๆŠ•็จฟ้€š้“

Telegram ่ฏ„่ฎบๅŒบ

11 ๆกๅ›žๅค๏ผŒๅฏไปฅๅ‰ๅพ€ Telegram ็ปง็ปญ่ฎจ่ฎบใ€‚

ๅŽป่ฏ„่ฎบๅŒบ