OpenAI Jalapeno чипі Nvidia GB300-ден инференс тесттерінде асып түскенін мәлімдеді
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
OpenAI өзінің жаңа Jalapeno чипі Nvidia GB300-ден инференстің екі негізгі көрсеткіші бойынша тестілеу барысында асып түскенін мәлімдеді. Broadcom-мен бірлесіп әзірленген чип OpenAI модельдерін осы жылдың соңында қолдай бастайды. Мәлімдеме Hot Chips конференциясында жасалды, онда OpenAI алғашқы бенчмарктерді ұсынды.
Негізгі фактілер
- Jalapeno Nvidia GB300-ге қарсы қуат бірлігіне шаққандағы ЖИ жұмысының көлемі мен жауап беру жылдамдығы бойынша көш бастады.
- OpenAI Jalapeno-ны өзінің ЖИ модельдерін қолдау үшін осы жылдың соңында пайдалана бастауды жоспарлап отыр.
- Jalapeno үш тестіленген модельде ең жоғары өткізу қабілетінде ваттқа шаққанда 1,5–1,9 есе көп ЖИ жұмысын қамтамасыз етеді.
- Чип SemiAnalysis-тің ашық InferenceX бенчмаркінде тестіленді, жүргізілген сынақтардың бір бөлігі орнында тексерілді.
- Jalapeno TSMC N3P техпроцесін, HBM4 жадын және корпусқа 15,4 ТБ/с өткізу қабілетін пайдаланады.
Бенчмарк нәтижелері
Jalapeno Nvidia GB300-ден қуат бірлігіне шаққандағы ЖИ жұмысының көлемі мен жауап беру жылдамдығы бойынша асып түсті. OpenAI-дың чип бағытының жетекшісі Ричард Хо чиптің 700 ватт кезінде жоғары нәтиже көрсетіп, деректер орталықтарының электр қуатына жұмсалатын шығындарын төмендететінін хабарлады. Үш тестіленген модельде Jalapeno ең жоғары өткізу қабілетінде ваттқа шаққанда 1,5–1,9 есе көп ЖИ жұмысын қамтамасыз етті. Соңына дейінгі кідіріс коммерциялық қолжетімді ең үздік жүйелермен салыстырғанда 1,7–3,6 есе төмен болды. GPT-OSS 120B-де Jalapeno бір пайдаланушыға секундына шамамен 1400 токенге жетті; Deepseek R1 670B-де — секундына 700-ден астам токен.
Чип архитектурасы
Jalapeno TSMC N3P техпроцесіндегі бір ретикула өлшемді есептеу кристалын N3E енгізу-шығару чиплетімен және HBM4 жадымен біріктіреді. Корпус 15,4 ТБ/с жады өткізу қабілетін қамтамасыз етеді, ядролар мен жады келісілген бөліктерге бөлінген. Jalapeno MXFP сандық форматтарын пайдаланады, ЖИ есептеу деректерін MXFP4-те 4 битке дейін қысады. Чип тек инференске арналған, ЖИ модельдерін оқытуға емес.
Енгізу жоспарлары
OpenAI өзінің қай ЖИ модельдері Jalapeno-да жұмыс істейтінін анықтайды, бұл клиенттерге шығынды үнемдеуді немесе жоғары өнімділікті таңдауға мүмкіндік береді. Компания жаңа чиптерді өзінің ЖИ модельдерін қолдау үшін осы жылдың соңында пайдалана бастауды жоспарлап отыр. Jalapeno Broadcom-мен серіктестікте әзірленді, бұл серіктестік өткен жылы жарияланып, рекордтық мерзімде аяқталды.
4 дереккөз
OpenAI Jalapeno чипі Nvidia GB300-ден инференс тесттерінде асып түскенін мәлімдеді
