OpenAI розробила чип Jalapeño для швидкого масштабованого висновку

На конференції Hot Chips у вівторок компанія OpenAI представила докладнішу інформацію про Jalapeño, включно з першими результатами тестування нової системи. За результатами тестування за допомогою бенчмарку SemiAnalysis’ InferenceX, Jalapeño продемонстрував більшу кількість токенів на користувача та вищу пропускну здатність на…










