Sagence AI прадставіла перадавая архітэктура аналагавых вылічэнняў у памяці

Sagence AI прадставіла перадавая архітэктура аналагавых вылічэнняў у памяці, якая прызначана для павелічэння эфектыўнасці і зніжэння выдаткаў у AI-інтэрпрэтацыі. Гэта тэхналогія прапануе прадукцыйнасць, супастаўную з сучаснымі GPU і CPU, пры гэтым спажываючы ў 10 разоў менш энергіі і зніжаючы выдаткі ў 20 разоў. Праз адмаўленне ад асобнага захоўвання і мультыплікатыўных схем, архітэктура Sagence аб'ядноўвае захоўванне і вылічэнні ў адным блоку, што дазваляе знізіць выдаткі і палепшыць энергетычную эфектыўнасць. Гэта робіць Sagence AI патэнцыйным канкурэнтам для Nvidia на рынку. Інтэграцыя з PyTorch і TensorFlow дазваляе спрасціць размяшчэнне нейронных сетак, што зніжае неабходнасць у далейшай апрацоўцы на аснове GPU. Шырокае выкарыстанне мадэляў штучнага інтэлекту вымагае высокай прадукцыйнасці пры мінімальных выдатках, і Sagence AI прапануе новую архітэктуру, якая задавальняе гэтыя патрабаванні.

https://www.techradar.com/pro/yet-another-tech-startup-wants-to-topple-nvidia-with-orders-of-magnitude-better-energy-efficiency-sagence-ai-bets-on-analog-in-memory-compute-to-deliver-666k-tokens-s-on-llama2-70b