Збираю під замовлення конфігурацію на 2× Tesla V100 32GB SXM2 через PCIe-перехідник з NVLink до 300 ГБ/с. !!!Важливо: це не одна GPU на 64 ГБ, а дві Tesla V100 по 32 ГБ, які працюють разом через NVLink, разом 64 ГБ HBM2. (Звісно, можна зібрати систему з двох модулів по 16 ГБ, але в цьому немає жодного сенсу - простіше купити одну Tesla на 32 Гб!)

на материнській платі у BIOS потрібна підтримка біфуркації в межах одного слота PCIe x8/x8 (без цього працюватиме лише 1 модуль!) Працює точно на X99 та перевіряв на TOPC FLHX ITX D5 (перевіряв 7645HX, на інших теж має працювати)

Термін збірки: 2-3 тижні.

Можливі варіанти:
з рідинним охолодженням або без охолодження.

Оптимальний сценарій:
~30B моделі у Q6/Q8 з великим контекстом. можливий запуск ~70B моделей, але під контекст залишається мало пам’яті.

tg: PKP_CH