Цього тижня компанії Sandisk та SK hynix представили пам’ять стандарту HBF, яка поєднує великий обсяг збережених даних з високою пропускною здатністю інтерфейсу. Цю розробку на рівні галузевого консорціуму також підтримали Tenstorrent та Google, і представники останньої зазначили, що HBF проявить себе в інференсі.
Джерело зображення: Sandisk
Нагадаємо, під цим англомовним терміном мається на увазі робота з уже навченими ШІ-моделями, яка передбачає формування логічних висновків. По суті, HBF компонувально повторює оперативну пам’ять HBM, але на відміну від неї дозволяє довготривало зберігати інформацію. Здатність швидко її витягувати для обчислень у сфері інференсу, за словами дослідника Сяою Ма (Xiaoyu Ma) з Google DeepMind, буде дуже затребувана з огляду на нинішні тенденції розвитку систем ШІ. Відповідно, попит на HBF з боку обчислювальної інфраструктури штучного інтелекту теж зростатиме. Крім іншого, вона забезпечить високу енергетичну ефективність, що теж важливо для операторів центрів обробки даних.
Щоправда, експертів уже насторожує інтенсивність використання HBF у таких системах, яка теоретично призводитиме до швидкого виходу з ладу відповідних мікросхем. Вони пропонують організовувати роботу інфраструктури таким чином, щоб HBF використовувалася головним чином для читання даних, а не їх запису. Щоб компенсувати перекіс зі швидкості обробки інформації, HBF необхідно використовувати в поєднанні з HBM, яка залучатиметься для передачі інформації на операціях запису.
За матеріалами: 3dnews.ru